نشت گسترده حساب‌های سازمانی هوش مصنوعی: از پدیده Shadow AI تا حملات LLMjacking

گزارش‌های تازه از شرکت امنیتی SOCRadar نشان می‌دهد که بیش از ۸۰ هزار سازمان در سراسر جهان با خطر جدی نشت اطلاعات از طریق سرقت نشست‌های کاربری (Session Hijacking) و حساب‌های هوش مصنوعی مواجه شده‌اند. این نشت داده‌ها که حاصل فعالیت بدافزارهای InfoStealer است، امنیت زیرساخت‌های سازمانی را با تهدیداتی نظیر دسترسی به گفتگوهای حساس و حملات LLMjacking روبرو کرده است.

ظهور پدیده Shadow AI در سازمان‌ها

استفاده غیرسازمانی و بدون نظارت واحد IT از ابزارهای هوش مصنوعی که با نام Shadow AI شناخته می‌شود، به اصلی‌ترین نقطه ضعف شرکت‌ها تبدیل شده است. کارمندان برای افزایش بهره‌وری، بدون هماهنگی با پروتکل‌های امنیتی، از حساب‌های شخصی یا اشتراکی در پلتفرم‌هایی مانند ChatGPT، Claude و سایر ابزارهای Generative AI استفاده می‌کنند. این رفتار باعث می‌شود داده‌های حساس شرکتی و کدهای برنامه‌نویسی در محیط‌های ابری خارجی ذخیره شده و از کنترل دپارتمان‌های امنیتی خارج شوند.

مکانیزم نفوذ: بدافزارهای سرقت اطلاعات

بدافزارهای سرقت اطلاعات (InfoStealers) مانند RedLine و Vidar با نفوذ به سیستم‌های کارکنان، فایل‌های کوکی و توکن‌های احراز هویت نشست (Session Tokens) را استخراج می‌کنند. برخلاف سرقت مستقیم رمز عبور، این روش به مهاجمان اجازه می‌دهد بدون نیاز به احراز هویت چندعاملی (MFA)، به نشست‌های فعال کاربر دسترسی پیدا کرده و مستقیماً وارد محیط کاری هوش مصنوعی شوند.

تهدید نوظهور LLMjacking

یکی از خطرناک‌ترین پیامدهای این نشت داده، حملات موسوم به LLMjacking است. در این سناریو، مهاجمان با سرقت حساب‌های کاربری، از منابع پردازشی و اعتبار (Credit) پلتفرم‌های هوش مصنوعی متعلق به سازمان برای مقاصد غیرقانونی خود استفاده می‌کنند. این امر نه تنها هزینه‌های مالی سنگینی به سازمان تحمیل می‌کند، بلکه می‌تواند منجر به نشت مالکیت معنوی از طریق دسترسی به تاریخچه چت‌های قبلی شود.

راهکارهای مقابله و ارتقای امنیت سازمانی

برای مقابله با این روند، سازمان‌ها باید استراتژی‌های زیر را به فوریت در اولویت قرار دهند:

1. پایش دارایی‌های ابری: استفاده از ابزارهای نظارتی برای شناسایی حساب‌های مرتبط با هوش مصنوعی در شبکه داخلی سازمان.
2. اجرای سیاست‌های Zero Trust: محدود کردن دسترسی‌ها و پیاده‌سازی مدیریت هویت (IAM) با دقت بالا برای سرویس‌های SaaS.
3. آموزش و آگاهی‌رسانی: تبیین خطرات استفاده از ابزارهای هوش مصنوعی غیررسمی برای پرسنل جهت کاهش پدیده Shadow AI.
4. مدیریت دستگاه‌های انتهایی (Endpoint Security): استفاده از راهکارهای حفاظتی پیشرفته (EDR/XDR) برای شناسایی و مسدودسازی فعالیت بدافزارهای InfoStealer پیش از سرقت کوکی‌های مرورگر.

در نهایت، باید توجه داشت که امنیت در عصر هوش مصنوعی دیگر تنها محدود به فایروال‌ها نیست و صیانت از نشست‌های فعال (Active Sessions) به اندازه حفاظت از رمزهای عبور، حیاتی و ضروری است.