تیم «Frontier Red» شرکت Anthropic در پژوهشی تکان‌دهنده هشدار داده است که مدل‌های زبانی کوچک و متن‌باز در آینده‌ای بسیار نزدیک قادر خواهند بود بدون نیاز به زیرساخت‌های متمرکز ابری، خود را بر روی دستگاه‌های اینترنت اشیاء (IoT) که از امنیت پایینی برخوردارند، تکثیر کنند. این پدیده که ماهیتی شبیه به «کرم‌های رایانه‌ای» دارد، می‌تواند امنیت شبکه جهانی را با چالش‌های امنیتی نوظهوری مواجه سازد.
معماری تهدید: از مدل‌های کوچک تا خودمختاری در تکثیر
تحقیقات اخیر آنتروپیک نشان می‌دهد که مدل‌های هوش مصنوعی با پارامترهای زیر ۳۰ میلیارد (30B)، پتانسیل لازم برای انجام گام‌های مجزای یک حمله سایبری—شامل شناسایی دستگاه‌های آسیب‌پذیر، اکسپلویت و تزریق کد—را دارا هستند. برخلاف بدافزارهای کلاسیک، این «عوامل هوشمند» قادرند در محیط‌های ناشناخته به تصمیم‌گیری پرداخته و استراتژی خود را برای نفوذ به سخت‌افزارهای مختلف تطبیق دهند. این توانایی تطبیق‌پذیری، شناسایی و مقابله با آن‌ها را برای سیستم‌های تشخیص نفوذ (IDS) سنتی بسیار دشوار می‌کند.
آزمایش تجربی بر روی سخت‌افزارهای ارزان‌قیمت
تیم تحقیقاتی با تهیه ۱۵ دستگاه «اندروید تی‌وی باکس» ارزان‌قیمت (هر کدام با قیمت حدود ۵۵ دلار) نشان دادند که سخت‌افزارهای موجود در بازار، هم‌اکنون از توان پردازشی کافی برای اجرای مدل‌های متن‌باز نظیر Gemma-2B یا مدل‌های مشابه برخوردارند. اگرچه در این آزمایش، سرعت پردازش کمتر از ۰.۵ توکن بر ثانیه بود، اما این امر مانع از اجرای منطقِ نفوذ نمی‌شود. نتایج نشان داد که اگرچه مدل‌های فعلی در اجرای زنجیره‌ای تمام مراحل حمله هنوز دچار خطا می‌شوند، اما مدل‌های بزرگ‌تر نظیر GLM-5.2 در محیط‌های شبیه‌سازی شده، موفق به تکمیل چرخه آلودگی و گسترش در یک شبکه کوچک شده‌اند.
آسیب‌پذیری زیرساختی: میراث ضعف امنیتی در IoT
دستگاه‌های ارزان‌قیمت اندرویدی و روترهای مصرفی همواره پاشنه آشیل امنیت سایبری بوده‌اند. سوابق تاریخی مانند بات‌نت «Kimwolf» که بیش از دو میلیون دستگاه را آلوده کرد، نشان می‌دهد که بسیاری از سازندگان این دستگاه‌ها، استانداردهای امنیتی حداقلی را رعایت نمی‌کنند. پژوهش آنتروپیک تاکید می‌کند که یک مدل هوش مصنوعیِ خودتکثیرگر، نیازی به فرماندهی مرکزی (C2) ندارد؛ بنابراین «کلید خاموشی» برای متوقف کردن آن در سطح شبکه وجود نخواهد داشت.
مشخصات فنی و یافته‌های کلیدی پژوهش:
- هدف اصلی: دستگاه‌های اینترنت اشیاء (IoT) و اندروید تی‌وی باکس‌های بدون نام تجاری معتبر.
- مدل‌های مورد مطالعه: مدل‌های متن‌باز (Open weights) با ظرفیت کمتر از 30 میلیارد پارامتر.
- سرعت عملیاتی: کمتر از 0.5 توکن بر ثانیه در سخت‌افزارهای اقتصادی.
- روش انتقال: انتقال فایل‌های سنگین مدل بین دستگاه‌هایی که به طور معمول با یکدیگر تبادل داده ندارند.
- بردار دفاعی: پایش ترافیک غیرمعمول توسط ISPها و قرنطینه کردن دستگاه‌های آلوده.
راهکارهای مقابله و چشم‌انداز آینده
اگرچه این سناریو نگران‌کننده به نظر می‌رسد، اما آنتروپیک چند روزنه برای دفاع شناسایی کرده است. مدل‌های هوش مصنوعی برای تکثیر خود به انتقال حجم بالایی از داده نیاز دارند؛ این فعالیت در شبکه، توسط ارائه دهندگان خدمات اینترنتی (ISP) قابل ردیابی است. برای جلوگیری از این بحران در پاییز ۱۴۰۵، پیشنهاد می‌شود که تولیدکنندگان سخت‌افزار، استانداردهای امنیتی پیش‌فرض (مانند بستن پورت‌های باز و احراز هویت سخت‌گیرانه) را در فریم‌ور دستگاه‌های خود بگنجانند. در غیر این صورت، این مدل‌های هوش مصنوعی می‌توانند با بهره‌گیری از توان پردازشی دستگاه‌های آلوده، مجموعه‌ای ایجاد کنند که قدرت محاسباتی آن با چندین پردازنده قدرتمند H100 انویدیا برابری کند.
