شرکت متا در جدیدترین گزارش عملیاتی خود در نیمه نخست سال ۱۴۰۵ (۲۰۲۶ میلادی)، از استقرار نسل جدیدی از مدل‌های زبانی بزرگ (LLM) و سیستم‌های هوشمند برای شناسایی محتواهای غیرقانونی و تبلیغات فریبنده‌ای خبر داده است که به‌صورت پنهانی کاربران را به سمت مواد سوءاستفاده جنسی از کودکان (CSAM) هدایت می‌کنند.
شناسایی «نشانه‌گذاری» یا Signposting: پارادایم جدید در امنیت محتوا
یکی از چالش‌های فنی نوظهور که متا با آن مواجه است، تاکتیکی به نام «نشانه‌گذاری» است. در این روش، بازیگران مخرب از تبلیغاتی استفاده می‌کنند که در ظاهر کاملاً قانونی و بی‌خطر به نظر می‌رسند، اما در لایه عملیاتی، نقش پل‌های ارتباطی برای هدایت کاربران به وب‌سایت‌های خارجیِ حاوی محتوای مجرمانه را ایفا می‌کنند. متا برای مقابله با این روش، رویکرد تحلیل خود را از «محتوای مستقیم تبلیغ» به «مقصد نهایی لینک» تغییر داده است. با پیاده‌سازی مدل‌های زبانی بزرگ (LLM)، سیستم‌های این شرکت اکنون قادرند الگوهای رفتاریِ پشت این تبلیغات را پیش از کلیک کاربر تحلیل و مسدود کنند.
استفاده از هوش مصنوعی قرمز (Red-Teaming AI Agent)
متا به‌منظور پیش‌دستی در برابر روش‌های دور زدن پروتکل‌های امنیتی، یک «عامل هوش مصنوعی قرمز» (Red-Teaming AI Agent) را وارد ساختار دفاعی خود کرده است. این ابزار به‌صورت خودکار و مداوم، لایه‌های امنیتی پلتفرم‌های فیس‌بوک و اینستاگرام را «حمله» (Penetration Testing) می‌کند تا حفره‌های احتمالی و آسیب‌پذیری‌هایی را که ممکن است توسط مهاجمان برای عبور از فیلترهای نظارتی استفاده شود، شناسایی و پیش از بهره‌برداری، ترمیم نماید.
شاخص‌های آماری و عملیاتی
- حجم پاک‌سازی: اقدام علیه ۳۳.۲ میلیون قطعه محتوای سوءاستفاده جنسی از کودکان در نیمه اول ۲۰۲۶.
- دقت شناسایی: بیش از ۹۷٪ محتواهای مخرب پیش از گزارش توسط کاربران، توسط سیستم‌های خودکار شناسایی شده‌اند.
- عملکرد منطقه‌ای: نرخ شناسایی خودکار در هند با دقت ۹۸٪ (۵.۳ میلیون مورد) گزارش شده است.
- مکانیزم دفاعی: استفاده از مدل‌های LLM برای تحلیل مقصد (Destination-based Analysis) و شناسایی الگوهای Signposting.
- سیستم بازدارنده: ارتقای الگوریتم‌های تشخیصِ حساب‌های کاربری تکراری (Recidivist Account Detection) برای جلوگیری از بازگشت مجرمان اخراج شده.
تحول در ساختار نظارتی پلتفرم
این اقدامات در حالی صورت می‌گیرد که متا تحت فشارهای حقوقی و تنظیمی شدیدی قرار دارد. در تابستان ۱۴۰۵، این شرکت طی یک توافق‌نامه ۱۸ میلیارد دلاری با ۲۹ ایالت در ایالات متحده، متعهد به تقویت پروتکل‌های ایمنی کودکان شد. علاوه بر هوش مصنوعی، متا ابزارهای کنترلی متعددی مانند Parental Controls را برای واتس‌اپ و اینستاگرام توسعه داده است تا والدین بتوانند بر تعاملات گروه‌های واتس‌اپی، وضعیت‌های (Status) فرزندان و محتواهای مرتبط با آسیب به خود (Self-harm) نظارت مستقیم داشته باشند.
نتیجه‌گیری
متا با ترکیب تحلیل‌های مبتنی بر LLM و استراتژی‌های تهاجمیِ قرمز (Red-teaming)، گام مهمی در جهت محافظت از کاربران برداشته است. این گذار از «نظارت محتوایی» به «نظارت ساختاری و رفتاری»، نشان‌دهنده یک تغییر استراتژیک در مهندسی امنیت پلتفرم‌های اجتماعی برای مقابله با سوءاستفاده‌کنندگان از زیرساخت‌های تبلیغاتی است.
