در حالی که رقابت میان غول‌های فناوری برای ارتقای مدل‌های هوش مصنوعی مولد به اوج خود رسیده است، گزارش‌های جدید پژوهشگران امنیتی در مهر ۱۴۰۵ نشان می‌دهد که نسل جدید مدل‌های تصویری OpenAI و Google به‌طور نگران‌کننده‌ای در برابر تکنیک‌های ساده «دور زدن فیلترها» (Jailbreaking) آسیب‌پذیر هستند و به‌سادگی برای تولید محتوای غیراخلاقی و مستهجن غیررضایت‌بخش مورد سوءاستفاده قرار می‌گیرند.
شکاف میان پیشرفت مدل‌ها و مکانیسم‌های نظارتی
پژوهش‌های اخیر که نتایج آن در تابستان ۱۴۰۵ منتشر شد، نشان می‌دهد که علی‌رغم ادعاهای شرکت‌های بزرگ مبنی بر تقویت پروتکل‌های ایمنی، مدل‌های هوش مصنوعی جدیدتر نسبت به نسخه‌های پیشین خود، در برابر ترغیب به تولید محتوای آسیب‌زا ضعیف‌تر عمل می‌کنند. این مطالعه که با مشارکت پژوهشگران گوگل در ایالات متحده، استرالیا و بریتانیا انجام شده، تأکید می‌کند که محتوای تولیدشده توسط هوش مصنوعی (AI-generated content) با سرعت فزاینده‌ای در حال گسترش است و به دلیل ماهیت رمزنگاری‌شده پیام‌رسان‌های خصوصی، ردیابی و حذف آن‌ها به یک چالش لاینحل برای رگولاتورها تبدیل شده است.
تکنیک‌های دور زدن و شکست حفاظ‌های مدل (Red-Teaming)
فرآیند «تیم قرمز» یا Red-Teaming که به معنای تست نفوذ سیستم‌های هوش مصنوعی توسط متخصصان امنیت است، نقاط ضعف بحرانی را در معماری این مدل‌ها آشکار کرده است. با وجود اضافه شدن لایه‌های امنیتی در زمان استنتاج (Inference)، کاربران با استفاده از پرامپت‌های پیچیده و تکنیک‌های مهندسی معکوس، موفق می‌شوند سدهای اخلاقی مدل را بشکنند. برخلاف باور عمومی، افزایش پارامترها و توان پردازشی مدل‌ها، لزوماً به معنای «هوشمندتر شدن» در درک مفاهیم اخلاقی نیست؛ بلکه در برخی موارد باعث شده است تا مدل در مواجهه با پرامپت‌های مبهم، مرزهای تعیین‌شده را نادیده بگیرد.
نقش حیاتی کنترل در منبع (Source Intervention)
پژوهشگران به این نتیجه رسیده‌اند که «حیاتی‌ترین نقطه مداخله»، خودِ منبع تولید است. رگولاتوری‌ها در سراسر جهان تاکنون نتوانسته‌اند ابزارهای قانونی مؤثری برای مقابله با این پدیده ایجاد کنند، لذا مسئولیت اصلی بر دوش ارائه‌دهندگان مدل است. گوگل و OpenAI در حالی به سمت انتشار نسخه‌های جدید حرکت می‌کنند که طبق گزارش‌ها، نرخ خطای این مدل‌ها در جلوگیری از تولید تصاویر مستهجن افزایش یافته است. این وضعیت ضرورت بازنگری در الگوریتم‌های Safety Training و استفاده از تکنیک‌های RLHF (یادگیری تقویتی از بازخورد انسانی) با تمرکز بیشتر بر سناریوهای مخرب را بیش از پیش نمایان می‌کند.
مشخصات فنی و یافته‌های پژوهشی
- هدف مطالعه: بررسی نشت محتوای غیراخلاقی تولید شده با AI.
- مناطق جغرافیایی تحت بررسی: ایالات متحده، استرالیا، بریتانیا.
- یافته کلیدی: افزایش آسیب‌پذیری مدل‌های جدیدتر نسبت به تکنیک‌های Jailbreak.
- بستر انتشار محتوای مخرب: پیام‌رسان‌های خصوصی (Private Clouds/Direct Messages).
- استراتژی پیشنهادی: تمرکز بر ایمنی در لایه آموزش مدل (Source-level Safety).
آینده حریم خصوصی و امنیت دیجیتال
تولید محتوای غیراخلاقی بدون رضایت (Non-consensual AI-generated content) تنها یک مشکل فنی نیست؛ بلکه یک تهدید اجتماعی جدی است. زمانی که زیرساخت‌های ابری و مدل‌های زبانی به راحتی برای تولید این دسته از محتوا دستکاری می‌شوند، امنیت عمومی کاربران در معرض خطر قرار می‌گیرد. با توجه به سرعت توسعه، انتظار می‌رود که در ماه‌های آینده فشارهای قانونی بر شرکت‌های بزرگ فناوری برای شفاف‌سازی در مورد معماری فیلترینگ تصاویر افزایش یابد.
