شرکت آنتروپیک (Anthropic) در گزارش امنیتی اخیر خود در پاییز ۱۴۰۵، نسبت به یک سناریوی نگران‌کننده در حوزه امنیت سایبری هشدار داده است: مدل‌های کوچک هوش مصنوعی (Small AI Models) که به سرعت در حال پیشرفت هستند، می‌توانند به زودی به ابزاری برای ایجاد بدافزارهای خودمختار و خودتکثیرشونده (Self-replicating Malware) تبدیل شوند که شبکه‌های اینترنت اشیاء (IoT) را هدف قرار می‌دهند.
تغییر پارادایم در بدافزارهای هوشمند
برخلاف بدافزارهای کلاسیک که برای تکثیر و نفوذ به سیستم‌ها نیازمند کدهای دست‌نویس و آسیب‌پذیری‌های مشخص هستند، بدافزارهای مبتنی بر هوش مصنوعی می‌توانند با بهره‌گیری از مدل‌های زبانی کوچک و بهینه‌شده، محیط‌های ناآشنا را شناسایی کرده و خود را با ساختارهای سخت‌افزاری مختلف تطبیق دهند. طبق تحلیل آنتروپیک، این فرآیند می‌تواند تا سال آینده میلادی منجر به ظهور کرم‌های کامپیوتری شود که بدون نیاز به دخالت انسان، در میان دستگاه‌های هوشمند از جمله یخچال‌ها، جاروبرقی‌های رباتیک و سایر تجهیزات متصل به شبکه منتشر می‌شوند.
چالش‌های توزیع‌شدگی و غیرمتمرکز بودن
یکی از بزرگترین نگرانی‌های مطرح شده توسط محققان، ماهیت غیرمتمرکز این نوع آلودگی‌هاست. در بدافزارهای سنتی، اغلب یک سرور فرمان و کنترل (C2) وجود دارد که می‌توان با از کار انداختن آن، جلوی گسترش بدافزار را گرفت. اما یک «تکثیرکننده» مبتنی بر هوش مصنوعی، فاقد نقطه مرکزی برای متوقف‌سازی است. آنتروپیک خاطرنشان می‌کند که اگرچه سرعت تکثیر این بدافزارها ممکن است با نرخ دوبرابر شدن در هر چند روز (Doubling time of days) نسبتاً کند باشد، اما پایداری و تاب‌آوری آن‌ها در برابر عملیات پاکسازی، بسیار بالاتر از بدافزارهای معمولی است.
تطبیق‌پذیری با سخت‌افزارهای ناآشنا
قابلیت کلیدی این مدل‌ها، توانایی آن‌ها در درک و تعامل با دستگاه‌های IoT است که پیش از این با آن‌ها مواجه نشده‌اند. در حالی که کدهای مخرب سنتی تنها روی سیستم‌عامل‌های خاص یا معماری‌های تعریف‌شده عمل می‌کنند، بدافزارهای مجهز به هوش مصنوعی می‌توانند با تحلیل پروتکل‌های ارتباطی و رابط‌های برنامه‌نویسی دستگاه‌های مختلف، راه نفوذ خود را بیابند. این موضوع لایه جدیدی از پیچیدگی را به امنیت شبکه‌های خانگی و صنعتی اضافه می‌کند.
نتایج آزمایشگاهی و واقع‌گرایی فنی
اگرچه گزارش آنتروپیک بر اساس آزمایش‌های واقعی انجام شده است، اما کارشناسان معتقدند که پیاده‌سازی کامل چنین بدافزاری همچنان با چالش‌های فنی قابل توجهی روبروست. منابع پردازشی محدود در دستگاه‌های IoT، محدودیت حافظه (RAM) برای اجرای مدل‌های هوش مصنوعی و استانداردهای متنوع سخت‌افزاری، موانعی هستند که تا حدی سرعت ظهور این تهدیدات را کنترل می‌کنند. با این حال، با بهبود کارایی مدل‌های کوچک (Small Language Models – SLMs) و بهینه‌سازی آن‌ها برای لبه شبکه (Edge Computing)، این موانع به مرور زمان کمرنگ‌تر خواهند شد.
خلاصه ویژگی‌های تهدیدات هوش مصنوعی IoT
- ماهیت: بدافزارهای خودتکثیرشونده و خودمختار.
- هدف: طیف وسیعی از دستگاه‌های اینترنت اشیاء (IoT).
- مزیت تکاملی: عدم نیاز به C2 (سرور مرکزی) و توانایی درک محیط‌های ناآشنا.
- سرعت انتشار: پیش‌بینی‌شده در مقیاس زمانی چند روزه برای هر مرحله تکثیر.
- تکنولوژی پایه: مدل‌های هوش مصنوعی سبک (Small AI Models) با توانایی استنتاج محلی.
نتیجه‌گیری
هشدار آنتروپیک یادآور این نکته است که امنیت سایبری در عصر هوش مصنوعی دیگر محدود به فایروال‌ها و آنتی‌ویروس‌های سنتی نیست. با توجه به اینکه هیچ نقطه مرکزی برای متوقف کردن این گونه بدافزارها وجود ندارد، استراتژی‌های دفاعی باید به سمت استفاده از «هوش مصنوعی برای دفاع» (AI-driven Defense) و پیاده‌سازی معماری‌های Zero-Trust در سطح شبکه و دستگاه‌های هوشمند سوق پیدا کنند.
