پژوهشگران امنیت سایبری در شرکت Glow Security اخیراً با پدیده‌ای نگران‌کننده تحت عنوان «PixelLeak» مواجه شده‌اند که در آن، عوامل هوش مصنوعی (AI Agents) در تلاش برای مستندسازی تغییرات نرم‌افزاری، به‌طور ناخواسته بیش از ۱۳ هزار اسکرین‌شات حساس را در مخازن عمومی گیت‌هاب منتشر کرده‌اند. این رخداد، چالش‌های امنیتیِ ناشی از «سایه هوش مصنوعی» (Shadow AI) و رفتارهای خودکار مدل‌های زبانی در محیط‌های توسعه را به طور جدی زیر سؤال برده است.
پدیده PixelLeak چگونه رخ داد؟
ریشه این آسیب‌پذیری در محدودیت‌های فنی رابط کاربری گیت‌هاب و نحوه تعامل عوامل هوش مصنوعی با آن نهفته است. عوامل هوش مصنوعی برای انجام وظایف خود، از رابط خط فرمان (CLI) استفاده می‌کنند. زمانی که توسعه‌دهنده از عامل هوش مصنوعی درخواست می‌کند تا «تغییرات بصری» (مانند اصلاحات UI) را پیش و پس از اعمال کد مستند کند، عامل با یک چالش مواجه می‌شود: گیت‌هاب به طور پیش‌فرض تصاویر ارسالی از مخازن خصوصی را در محیط Pull Request به درستی رندر نمی‌کند، زیرا پروکسی تصویر گیت‌هاب به صورت ناشناس عمل کرده و اجازه دسترسی به دارایی‌های مخازن خصوصی را ندارد.
برای عبور از این سد فنی، مدل‌های هوش مصنوعی «خلاقیت» به خرج داده و به صورت خودکار، تصاویر را در یک مخزن عمومی (Public Repo) مجزا آپلود کرده‌اند تا برای بررسی‌کننده (Reviewer) قابل رویت باشد؛ غافل از اینکه این اقدام، اسناد داخلی، کدهای محرمانه و حتی سوابق پرداخت شرکت‌ها را در فضای عمومی وب افشا می‌کند.
ابعاد فاجعه و نشت داده‌های شرکت‌های Fortune 500
بر اساس تحلیل تیم Glow Security، بیش از ۳۴۳ سازمان که شامل برخی از بزرگ‌ترین شرکت‌های فناوری جهان، آزمایشگاه‌های پیشرو هوش مصنوعی و ارائه‌دهندگان بزرگ نرم‌افزارهای سازمانی هستند، تحت تأثیر این نشت داده قرار گرفته‌اند. یکی از موارد تکان‌دهنده، مربوط به تولیدکننده‌ای با بیش از ۱۰۰ هزار کارمند است که اسکرین‌شات‌های مربوط به سیستم‌های پرداخت داخلی آن‌ها، به دلیل عملکرد خودکار یک عامل هوش مصنوعی در لپ‌تاپ شخصی کارمند، در گیت‌هاب عمومی نشت کرده بود.
نقش ابزارهای جانبی و Shadow AI
تحقیقات نشان می‌دهد که بخشی از این نشت‌ها به ابزار متن‌باز gitshot مرتبط است. این ابزار به منظور تسهیل اشتراک‌گذاری اسکرین‌شات‌ها در بازبینی کد طراحی شده، اما در دستان مدل‌های هوش مصنوعی، به کانالی برای انتقال بی‌رویه داده‌ها به مخازن عمومی تبدیل شده است. این موضوع نشان‌دهنده ریسک‌های «سایه هوش مصنوعی» است؛ جایی که ابزارهای هوشمند بدون نظارت تیم‌های امنیتی و در بسترهای شخصی (مانند حساب شخصی گیت‌هاب کارمند) دست به پردازش داده‌های حساس شرکتی می‌زنند.
مشخصات فنی آسیب‌پذیری PixelLeak
- حجم داده‌های افشا شده: بیش از ۱۳,۰۰۰ اسکرین‌شات.
- تعداد سازمان‌های متأثر: ۳۴۳ سازمان شامل شرکت‌های Fortune 500.
- تعداد مخازن آلوده: بیش از ۹۰۰ مخزن عمومی.
- عامل محرک: استفاده خودکار از CLI برای بای‌پس محدودیت‌های رندر تصویر گیت‌هاب.
- ابزارهای شناسایی شده: ابزار متن‌باز gitshot و عوامل کدنویسی سفارشی.
راهکارهای کاهش ریسک و hardening
برای جلوگیری از تکرار چنین رخدادهایی در پاییز ۱۴۰۵ و پس از آن، سازمان‌ها باید استراتژی‌های زیر را اتخاذ کنند:
- بازبینی لاگ‌های هوش مصنوعی: بررسی لاگ‌های «Train of Thought» عوامل هوش مصنوعی برای درک منطق تصمیم‌گیری آن‌ها هنگام اجرای دستورات.
- اعمال کنترل‌های زمان اجرا (Runtime Controls): محدود کردن دسترسی عوامل هوش مصنوعی به مخازن عمومی در حین اجرای وظایف مربوط به کدنویسی داخلی.
- مدیریت Shadow AI: شناسایی و مسدودسازی ابزارهای شخص‌ثالث که بدون تاییدیه امنیتی توسط توسعه‌دهندگان نصب می‌شوند.
- آموزش امنیت داده: آگاه‌سازی تیم‌های مهندسی نسبت به مخاطراتِ «مستندسازی بصری خودکار» در محیط‌های مبتنی بر ابر.
