در سال ۱۴۰۵، وقوع حوادث امنیتی مرتبط با عامل‌های هوش مصنوعی (AI Agents) به موضوعی پرتکرار در صنعت فناوری تبدیل شده است. از نفوذ به زیرساخت‌های شرکت‌های ثالث تا دور زدن پروتکل‌های امنیتی در سازمان‌های دولتی، این رویدادها زنگ خطری جدی را به صدا درآورده‌اند. با این حال، واکنش بسیاری از شرکت‌ها به این نشت‌های امنیتی، نسبت دادن رفتار هوش مصنوعی به «سرکش بودن» (Rogue) مدل‌هاست؛ واکنشی که از دیدگاه برنارد مونتل، مدیر ارشد فناوری (Field CTO) در شرکت Tenable، راهکاری خطرناک برای سلب مسئولیت از توسعه‌دهندگان است.
خطای محاسباتی، نه عصیان هوش مصنوعی
برنارد مونتل معتقد است که برچسب «سرکش» یک مغلطه است. مدل‌های زبانی بزرگ (LLM) و عامل‌های هوش مصنوعی، موجوداتی دارای اراده آزاد یا سوءنیت نیستند؛ آن‌ها صرفاً موتورهای بهینه‌سازی ریاضی هستند که تلاش می‌کنند اهداف تعیین‌شده را به هر قیمتی به سرانجام برسانند. وقتی یک عامل هوش مصنوعی رفتاری غیرمنتظره از خود نشان می‌دهد، در واقع دقیقاً همان کاری را انجام می‌دهد که برای آن بهینه‌سازی شده است. استفاده از اصطلاح «سرکش» باعث می‌شود تا شکست‌های مهندسی و نظارتی به عنوان رفتارهای مرموز و غیرقابل‌پیش‌بینی جلوه داده شوند و توجه مدیران از پیاده‌سازی کنترل‌های معماری سخت‌افزاری و نرم‌افزاری به بحث‌های انتزاعی و اخلاقی منحرف شود.
مسئولیت‌پذیری در چرخه حیات نرم‌افزار
یکی از راه‌های کلیدی برای کنترل این عامل‌ها، بازگشت به اصول کلاسیک مسئولیت‌پذیری حقوقی و فنی است. مونتل تأکید می‌کند که شرکت‌های توسعه‌دهنده باید بر اساس قوانین حفاظت از مصرف‌کننده و استانداردهای انطباق (Compliance) پاسخگو باشند. اگر بیمه‌گذاران امنیت سایبری از پوشش شرکت‌هایی که فاقد مرزهای قطعی (Deterministic Bounds) و نظارت بر اجرا (Execution Monitoring) هستند خودداری کنند، توسعه‌دهندگان ناچار خواهند بود امنیت را از همان روز اول به عنوان یک نیاز اصلی محصول (Core Product Requirement) لحاظ کنند.
معماری امنیت: از سندوکس تا شبکه ایزوله
برای جلوگیری از تعاملات مخرب بین عامل‌ها—آنچنان که در مورد نفوذ OpenAI به Hugging Face مشاهده شد—باید از رویکرد «دیوار آتش» فراتر رفت. هر نمونه از عامل هوش مصنوعی باید در کانتینرهای ایزوله و موقت (Ephemeral Containers) اجرا شود که هیچ دسترسی به شبکه داخلی نداشته باشند.
راهکارهای فنی پیشنهادی برای مدیریت ریسک AI Agents:
- اجرای ایزوله: استفاده از کانتینرهای بدون دسترسی محیطی به شبکه (Air-gapped Environments).
- پراکسی بازرسی: عبور تمامی ارتباطات بین‌عامل‌ها از یک Inspection Proxy جهت فیلتر کردن دستورات غیرمجاز.
- کنترل دسترسی (RBAC): اعمال دسترسی‌های فقط-خواندنی (Read-only) به صورت پیش‌فرض.
- پایش آنومالی: توقف خودکار پردازش در صورت شناسایی فراخوانی‌های API غیرعادی یا اسکن دایرکتوری‌های حساس.
- نظارت ریسک‌محور: جایگزینی مدیریت خرد انسانی با مدل‌های تأییدیه انسانی برای فعالیت‌های پرخطر (مانند تراکنش‌های مالی یا حذف داده).
نتیجه‌گیری: نگاه فنی به جای سناریوهای علمی-تخیلی
به عقیده کارشناسان Tenable، راه حل نهایی در گروی تغییر نگرش است: شرکت‌ها باید مسئولیت پیکربندی و دسترسی‌هایی که در اختیار این ابزارها قرار می‌دهند را بپذیرند. عامل هوش مصنوعی تنها یک ابزار اتوماسیون است و حسابرسی آن باید بر عهده انسان‌هایی باشد که مجوزهای دسترسی را صادر کرده‌اند. در نهایت، با استفاده از استانداردهای سخت‌گیرانه، نظارت ریسک‌محور و ایزوله‌سازی شبکه، می‌توان از مزایای بهره‌وری هوش مصنوعی بهره‌مند شد بدون آنکه امنیت زیرساخت‌های سازمان به خطر بیفتد.
