ظهور مدل‌های هوش مصنوعی با وزن باز (Open-weight) و سهولت تغییر در پارامترهای آن‌ها، چالش‌های امنیتی نوظهوری را در فضای سایبری ایجاد کرده است. بر اساس گزارش اخیر سازمان «Tech Against Terrorism»، فرآیندی که در ادبیات فنی از آن به عنوان «ابلیتراسیون» (Abliteration) یا حذف گاردریل‌های امنیتی یاد می‌شود، باعث شده تا مدل‌های قدرتمند هوش مصنوعی در کمتر از سه روز به ابزاری برای فعالیت‌های افراط‌گرایانه تبدیل شوند.
مفهوم فنی ابلیتراسیون و گاردریل‌ها
گاردریل‌ها (Guardrails) در مدل‌های زبانی بزرگ (LLM)، مجموعه‌ای از فیلترهای پس‌پردازش و دستورالعمل‌های سخت‌گیرانه در لایه‌ی System Prompt هستند که برای جلوگیری از تولید محتوای مضر، غیرقانونی و غیراخلاقی تعبیه شده‌اند. «ابلیتراسیون» به فرآیندِ شناسایی، خنثی‌سازی یا حذف این لایه‌های کنترلی گفته می‌شود. با دسترسی به وزن‌های مدل (Weights)، مهاجمان می‌توانند با تنظیم مجدد پارامترها یا استفاده از تکنیک‌های Fine-tuningِ معکوس، محدودیت‌های اخلاقی مدل را به طور کامل از بین ببرند. در نمونه‌های گزارش شده، مدل‌هایی مانند Qwen 3.8-27B شرکت علی‌بابا در کمتر از ۲۴ ساعت پس از انتشار، با نسخه‌های اصلاح‌شده در دسترس عموم قرار گرفتند.
تحلیل نتایج بنچمارک ضد تروریسم
گزارش جدید Tech Against Terrorism با بررسی ۱۳۴ مدل هوش مصنوعی از شرکت‌های بزرگ (از جمله OpenAI، متا، گوگل و انتروپیک)، وضعیت نگران‌کننده‌ای را ترسیم می‌کند. این مطالعه با استفاده از ۲۰۰ پرامپت (Prompt) که شامل درخواست‌های ساخت سلاح‌های شیمیایی یا طرح‌ریزی حملات تروریستی بود، انجام شد. یافته‌های کلیدی به شرح زیر است:
- تنها ۲ مدل از ۱۳۴ مدل بررسی شده در برابر تمام پرامپت‌های مخرب مقاومت کردند.
- تغییر لحن درخواست به «شخصیت پژوهشگر امنیتی» احتمال پاسخ‌دهی مثبت مدل را تا ۹ برابر افزایش می‌دهد.
- سرعت تبدیل مدل‌های استاندارد به نسخه‌های فاقد گاردریل از ۲۴ روز در سال ۱۴۰۲ (۲۰۲۴) به کمتر از ۳ روز در پاییز ۱۴۰۵ (۲۰۲۵) کاهش یافته است.
چالش مدل‌های متن‌باز در برابر بستار
مشخصات فنی آسیب‌پذیری
- مدل‌های وزن باز (Open-weight): قابلیت دسترسی کامل به فایل‌های مدل (مانند Safetensors) به مهاجم اجازه می‌دهد لایه‌های فیلتر را کالبدشکافی کند.
- نقطه عطف: کاهش دقت گاردریل در مدل Llama 3.1 8B پس از ابلیتراسیون از امتیاز ۹۷ به ۳ نشان‌دهنده شکست کامل ساختارهای امنیتی پیش‌فرض است.
- ریسک فدراسیون: توزیع غیرمتمرکز این مدل‌ها در پلتفرم‌هایی مانند Hugging Face، امکان ردیابی و حذف آن‌ها را توسط ارائه‌دهندگان میزبانی ابری غیرممکن می‌سازد.
نتیجه‌گیری و آینده امنیت هوش مصنوعی
آنچه تحلیل‌گران آن را «بحران ابلیتراسیون» می‌نامند، نشان می‌دهد که تمرکز نهادهای قانون‌گذار بر «هوش مصنوعی فراگیر» (AGI) ممکن است تهدیدات فعلی ناشی از مدل‌های متن‌باز در دسترس را به حاشیه براند. در حالی که مدل‌های تجاری (Closed-weight) با استفاده از APIهای تحت کنترل، نظارت بیشتری را اعمال می‌کنند، مدل‌های وزن باز به دلیل ماهیتِ قابل اصلاح خود، به سلاحی دوجانبه تبدیل شده‌اند که می‌تواند برای اهداف مخرب شخصی‌سازی شود.
