در یکی از پیچیده‌ترین حملات زنجیره تأمین که تاکنون افشا شده، محققان امنیتی یک روش جدید و پنهان برای نفوذ به پروژه‌های نرم‌افزاری را شناسایی کرده‌اند. حمله‌ای که از فایل‌های تنظیمات ویرایشگرهای کد مبتنی بر هوش مصنوعی مانند GitHub Copilot و Cursor سوءاستفاده کرده و به طور نامحسوس کدهای آلوده را در پروژه‌های توسعه‌دهندگان قرار می‌دهد.

📌 چگونه این حمله عمل می‌کند؟

مهاجمان با سمی کردن Rules Files که در تنظیم رفتار ابزارهای کدنویسی AI نقش دارند – از هوش مصنوعی برای تزریق ناخواسته‌ی کدهای مخرب استفاده می‌کنند. با بهره‌گیری از کاراکترهای پنهان یونیکد، جهت‌های متن دوطرفه و دستورالعمل‌های غیرقابل‌تشخیص، مدل هوش مصنوعی فریب خورده و بدون آگاهی کاربر، کدهای دارای back door یا آسیب‌پذیری‌های امنیتی تولید می‌کند.

🔍 چرا این حمله خطرناک است؟

 1️گسترش نامرئی: یک بار که فایل آلوده به مخزن پروژه اضافه شود، تمامی اعضای تیم توسعه‌دهنده به طور ناخواسته، کد مخرب تولید خواهند کرد.
 2️بقا در فورک‌ها: حتی اگر پروژه اصلی فورک شود، آلودگی باقی می‌ماند و زنجیره تأمین نرم‌افزار را آلوده می‌کند.
 3️عبور از چک‌های امنیتی: این کدها مستقیماً توسط هوش مصنوعی تولید شده و از مکانیزم‌های استاندارد بررسی کد عبور می‌کنند.

چرا این حمله خطرناک است؟

1️گسترش نامرئی : یک بار که infected rules file به repository اضافه شود، تمامی اعضای تیم توسعه‌دهنده به طور ناخواسته، malicious code تولید خواهند کرد.

2️بقا در فورک‌ها :  حتی اگر پروژه اصلی fork شود، آلودگی باقی می‌ماند و software supply chain را آلوده می‌کند.

3️بای پس کردن چک‌های امنیتی : این کدهای مخرب مستقیماً توسط AI-powered code generation تولید شده و از static code analysis و code review processes عبور می‌کنند، زیرا از نظر ظاهری طبیعی به نظر می‌رسند.

💡 مسئولیت این حمله بر عهده کیست؟

پس از افشای این حمله در اوایل ۲۰۲۴، GitHub و Cursor اعلام کردند که کاربران باید پیشنهادات هوش مصنوعی را قبل از پذیرش بررسی کنند.  اما آیا توسعه‌دهندگان زمان و دانش لازم برای شناسایی چنین حملاتی را دارند؟ یا اینکه شرکت‌های ارائه‌دهنده ابزارهای AI باید مسئولیت بیشتری بپذیرند؟

⚠️ چگونه از خود و سازمانتان محافظت کنید؟

✔ فایل‌های rules  را بررسی کنید و از عدم وجود تغییرات مشکوک مطمئن شوید.
✔ از پذیرش مستقیم پیشنهادات AI در بخش‌های حساس کد خودداری کنید.
✔ ابزارهای تحلیل کد استاتیک را برای شناسایی کاراکترهای مخفی و تغییرات غیرمعمول به کار ببرید.
✔ آموزش تیم امنیت و توسعه‌دهندگان در خصوص تهدیدات جدید زنجیره تأمین.

🔐 جمع‌بندی: آیا به هوش مصنوعی می‌توان اعتماد کرد؟

"Rules File Backdoor" نه‌تنها به‌عنوان یک تکنیک جدید حمله، بلکه به‌عنوان زنگ خطری برای تمام شرکت‌هایی که به ابزارهای هوش مصنوعی در توسعه نرم‌افزار متکی هستند، مطرح شده است. این حمله نشان می‌دهد که اگر امنیت در زنجیره تأمین جدی گرفته نشود، حتی هوش مصنوعی می‌تواند به یک سلاح مخرب تبدیل شود.

📢 شما چه فکر می‌کنید؟ آیا ابزارهای AI باید نظارت بیشتری داشته باشند یا مسئولیت همچنان بر دوش توسعه‌دهندگان باقی خواهد ماند؟ 🚨