تحلیل نفوذ سایبری؛ OpenAI دو شبکه بزرگ تبلیغاتی مبتنی بر هوش مصنوعی را مسدود کرد

شرکت OpenAI در گزارش فنی اخیر خود، از شناسایی و مسدودسازی دو عملیات گسترده نفوذ و پروپاگاندای دیجیتال خبر داد که از مدل‌های زبانی بزرگ این شرکت برای پیشبرد اهداف ژئوپلیتیک خود در پاییز ۱۴۰۵ بهره می‌بردند. این عملیات‌ها که با استفاده از تکنیک‌های «هویت‌های جعلی» (False Front) طراحی شده بودند، با تولید محتوای متنی، صوتی و اسناد ساختگی، نفوذ به رسانه‌های رسمی را هدف قرار داده بودند.

مهندسی اجتماعی و جعل هویت‌های رسانه‌ای

در جریان این عملیات، بازیگران وابسته به ایران با ایجاد هفت هویت جعلی «روزنامه‌نگار»، اقدام به نگارش و انتشار مقالات طولانی‌مدت در نشریات محلی و بین‌المللی کرده‌اند. این افراد با ارائه محتوا به رسانه‌های کوچک و متوسط در سراسر جهان، تلاش داشتند تا جریان خبری پیرامون جنگ ایالات متحده و ایران را مدیریت کنند. تحلیل‌های OpenAI نشان می‌دهد که این شبکه نه تنها از مدل‌های هوش مصنوعی برای نگارش مقالات، بلکه برای تولید حجم انبوهی از نظرات در شبکه‌های اجتماعی نیز استفاده می‌کرده است.

عملیات‌های نفوذ روسیه و جعل اسناد اداری

بخش دیگر گزارش به فعالیت‌های یک شبکه تحت حمایت روسیه اختصاص دارد که با دور زدن محدودیت‌های جغرافیایی از طریق ابزارهای VPN به سرویس‌های OpenAI متصل شده بودند. این گروه با هدف قرار دادن مدارس در کشورهایی نظیر پرو و اکوادور، اقدام به ارسال ایمیل‌های جعلی از سوی مقامات آموزشی کرده و با ایجاد سناریوهای ساختگی پیرامون اوکراین و شخصیت‌های نظامی، سعی در تحریک افکار عمومی و ایجاد بحران دیپلماتیک داشتند. استفاده از اسناد اداری جعل‌شده و فایل‌های صوتی تقلبی، از جمله تکنیک‌های پیشرفته این گروه برای اعتبار بخشیدن به ادعاهای کذب خود در رسانه‌های محلی بوده است.

معماری فنی و شناسایی الگوهای متقلبانه

یکی از نکات حائز اهمیت در این گزارش، تضاد میان ادعاهای عملیاتی این گروه‌ها و واقعیت‌های فنی آن‌هاست. در حالی که این گروه‌ها برای فریب مخاطبان از هوش مصنوعی استفاده می‌کردند، گزارش‌های داخلی آن‌ها نشان می‌دهد که بخش عمده‌ای از زمان خود را صرف گزارش‌دهی داخلی با استفاده از هوش مصنوعی کرده‌اند تا اثربخشی خود را بزرگ‌نمایی کنند. OpenAI با رهگیری فعالیت‌های شبکه‌های اجتماعی (نظیر پلتفرم X و Instagram) توانست ردپای این اکانت‌ها را که از طریق زیرساخت‌های مخابراتی در غرب آسیا مدیریت می‌شدند، شناسایی و مسدود کند.

نتیجه‌گیری و پیامدهای امنیتی

این رویداد بار دیگر نشان می‌دهد که چگونه ابزارهای پیشرفته هوش مصنوعی می‌توانند توسط بازیگران دولتی (State Actors) برای مهندسی افکار عمومی در مقیاس وسیع مورد سوءاستفاده قرار گیرند. OpenAI اعلام کرده است که سیاست‌های سخت‌گیرانه‌تری را برای جلوگیری از سوءاستفاده از مدل‌های خود اتخاذ خواهد کرد؛ با این حال، ماهیت متن‌باز یا دسترسی آسان به ابزارهای مدل‌سازی، چالش‌های امنیتی پیچیده‌ای را برای نهادهای نظارتی ایجاد کرده است. شناسایی این عملیات‌ها نتیجه ترکیب تحلیل داده‌های شبکه، بررسی‌های متن‌باز (OSINT) و همکاری با تیم‌های امنیتی پلتفرم‌های اجتماعی بوده است.