در تحولی مهم در سپهر امنیت اطلاعات، OpenAI در گزارشی فنی در تابستان ۱۴۰۳ (۲۰۲۴ میلادی)، از شناسایی و خنثی‌سازی دو شبکه پیچیده عملیات نفوذ خبر داد که از مدل‌های زبانی هوش مصنوعی برای خلق محتوای گمراه‌کننده بهره می‌بردند. این عملیات‌ها با شبیه‌سازی هویت روزنامه‌نگاران و تاسیس اندیشکده‌های مجازی، قصد داشتند روایت‌های ژئوپلیتیکی خاصی را در فضای عمومی منتشر کنند.
مهندسی اجتماعی در عصر هوش مصنوعی: فراتر از بات‌های ساده
روش کار این شبکه‌ها نه بر پایه حملات سنتی سایبری، بلکه بر پایه ‘مهندسی محتوا’ بود. مهاجمان با استفاده از مدل‌های هوش مصنوعی مولد، پروفایل‌های حرفه‌ای کاملاً متقاعدکننده برای هویت‌های غیرواقعی طراحی کرده بودند. این هویت‌ها در پلتفرم‌های اجتماعی به عنوان تحلیل‌گر یا روزنامه‌نگار فعالیت می‌کردند و با انتشار مقالات تولید شده توسط AI، سعی در اعتباربخشی به دیدگاه‌های سیاسی خاص داشتند. این سطح از بلوغ در فریب، نشان‌دهنده تغییر استراتژی از حملات صرفاً فنی به سمت عملیات‌های نفوذ شناختی است.
شناسایی و خنثی‌سازی: رویکرد لایه‌بندی شده OpenAI
تیم امنیتی OpenAI با تحلیل الگوهای متنی (Textual Patterns) و رفتارشناسی اکانت‌ها در زمان استفاده از APIها، موفق به شناسایی این عملیات‌ها شد. در این فرآیند، تمرکز بر روی ویژگی‌های خاصی از تولید متن (مانند تکرار ساختارهای نحوی خاص یا سبک‌های نوشتاری) قرار داشت که مشخصه استفاده از مدل‌های زبانی در مقیاس وسیع برای تولید محتوای تبلیغاتی بود. این شرکت پس از اطمینان از سوءاستفاده، دسترسی این اکانت‌ها را به سرویس‌های خود مسدود کرد.
زیرساخت‌های مورد استفاده در عملیات
- ماهیت تهدید: عملیات نفوذ مبتنی بر هوش مصنوعی (AI-enabled Influence Operations)
- ابزارهای مورد استفاده: تولید مقاله، ترجمه فنی، ویرایش سبک نوشتاری و شبیه‌سازی هویت
- تکنیک فریب: ایجاد هویت‌های جعلی (False-front) و تاسیس اندیشکده‌های آنلاین نمایشی
- وضعیت فعلی: اکانت‌های مرتبط شناسایی و دسترسی آن‌ها به زیرساخت هوش مصنوعی مسدود شده است.
چالش‌های اخلاقی و فنی در پایش محتوا
یکی از دشوارترین بخش‌های این مبارزه، تشخیص تفاوت میان محتوای تولید شده توسط هوش مصنوعی و محتوای انسانی است. همان‌طور که در این گزارش آمده، مهاجمان سعی داشتند با تغییر در پارامترهای مدل، از سیستم‌های فیلترینگ عبور کنند. این موضوع ضرورت ایجاد ابزارهای پیشرفته‌تر برای تشخیص ‘اثر انگشت دیجیتال’ (Digital Fingerprinting) مدل‌ها را بیش از پیش نمایان می‌کند. توسعه راهکارهایی مانند واترمارکینگ (Watermarking) محتوا و تحلیل متادیتای تعاملات با API، از جمله رویکردهای فنی در حال توسعه برای حفظ امنیت اکوسیستم هوش مصنوعی است.
نتیجه‌گیری
عملیات خنثی‌سازی اخیر نشان می‌دهد که هوش مصنوعی به عنوان یک شمشیر دو لبه، هم ابزاری برای بهره‌وری است و هم سلاحی برای عملیات‌های نفوذ. مسئولیت شرکت‌های پیشرو در این حوزه، تنها تولید مدل‌های قدرتمند نیست، بلکه ایجاد سپرهای دفاعی برای جلوگیری از سوءاستفاده‌های بدخواهانه است. آگاهی از این تکنیک‌ها برای کاربران و نهادهای رسانه‌ای ضروری است تا در مواجهه با محتواهای آنلاین، با دید انتقادی و با تکیه بر تحلیل منابع اصلی اقدام کنند.
