سلاح‌ورزی با هوش مصنوعی؛ واکاوی فنی و امنیتی گزارش اوپن‌ای‌آی از عملیات نفوذ اطلاعاتی در ایران

گزارش اخیر شرکت OpenAI پیرامون شناسایی آنچه «عملیات نویسندگان جعلی» نامیده می‌شود، بار دیگر بحث پیرامون مرزهای اخلاقی استفاده از مدل‌های زبانی بزرگ (LLM) و بهره‌گیری از ابزارهای هوش مصنوعی در جنگ‌های اطلاعاتی را به کانون توجه رسانه‌های تکنولوژی بازگردانده است. در این گزارش که در مهر و آبان ۱۴۰۵ منتشر شد، این غول فناوری مدعی شده است که شبکه‌ای با استفاده از پتانسیل‌های ChatGPT، تلاش کرده است با جعل هویت‌های غربی، روایت‌های سیاسی مرتبط با تنش‌های اخیر ایران و آمریکا را در رسانه‌های بین‌المللی بازنشر دهد.

مهندسی محتوا: از پارافریز تا تولید متن ساختاریافته

بر اساس تحلیل‌های فنی ارائه شده توسط OpenAI، استفاده از مدل‌های زبانی در این عملیات نه به معنای تولید تمام‌خودکار محتوا، بلکه به عنوان یک ابزار کمکی در زنجیره تأمین محتوا (Content Supply Chain) بوده است. در واقع، بازیگران این شبکه با ارسال پیش‌نویس‌های اولیه به ChatGPT، از قابلیت‌های این ابزار برای اصلاح گرامری، تبدیل لحن و همچنین نگارش ایمیل‌های متقاعدکننده خطاب به دبیران رسانه‌ها استفاده می‌کردند. این روش که در ادبیات امنیت سایبری به عنوان «مهندسیِ پاسخ» شناخته می‌شود، به عاملان اجازه می‌داد با صرف انرژی کمتر، حجم وسیع‌تری از محتوای به ظاهر تخصصی را در رسانه‌های آنلاین منتشر کنند.

چالش‌های شناسایی و تحلیل رفتار شبکه

یکی از نکات کلیدی در این گزارش، تضاد میان ابزارهای متن‌باز و پلتفرم‌های میزبانی است. در حالی که مدل‌های هوش مصنوعی (مانند مدل‌های خانواده GPT) به عنوان موتور تحلیل عمل کرده‌اند، استفاده از VPN برای پنهان‌سازی موقعیت جغرافیایی و تکیه بر حساب‌های شبکه‌های اجتماعی (مثل ایکس و تردز) برای انتشار محتوا، لایه‌های پنهان‌سازی را پیچیده‌تر کرده است. طبق ادعای OpenAI، بسیاری از این هویت‌های جعلی (مانند مایکل هریسون یا سوفیا گونزالس) از طریق تطبیق داده‌های شفافیت (Transparency Reports) پلتفرم‌های اجتماعی با موقعیت واقعی آی‌پی‌های اتصال‌دهنده، شناسایی شده‌اند.

پیامدهای حقوقی و رگولاتوری بر کسب‌وکارهای دیجیتال

این تحول زنگ خطری برای فعالان حوزه رسانه‌های دیجیتال و پلتفرم‌های محتوا‌محور است. وقتی مرز میان محتوای تولید شده توسط انسان و ماشین تا این حد کمرنگ می‌شود، اعتماد عمومی که سنگ‌بنای اقتصاد دیجیتال است، آسیب می‌بیند. در بخش نظرات شبکه‌های اجتماعی، OpenAI به این نتیجه رسیده که این تلاش‌ها به‌دلیل نرخ تعامل پایین، در سطح اثرگذاری پایینی (سطح ۲ از ۶) قرار داشته‌اند. با این حال، استفاده از این ابزارها برای «بزرگ‌نمایی مصنوعی» می‌تواند در آینده رگولاتورهای فضای مجازی را به سمت وضع قوانین سخت‌گیرانه‌تر برای تأیید هویت کاربران و محدودسازی دسترسی به APIهای هوش مصنوعی سوق دهد.