چالش‌های نظارتی Ofcom برای پلتفرم X: ابهام در حذف محتوای غیرقانونی و سوءاستفاده از هوش مصنوعی Grok

رگولاتور ایمنی آنلاین بریتانیا، Ofcom، در گزارشی که در پاییز ۱۴۰۳ منتشر شد، نسبت به اثربخشی مکانیسم‌های پلتفرم X (توییتر سابق) در مدیریت و حذف محتوای مجرمانه، نفرت‌پراکنی و تروریستی ابراز نگرانی عمیق کرد. با وجود بهبود در سرعت بررسی گزارش‌ها، نهاد ناظر همچنان درباره کیفیت عملیاتی و پایبندی واقعی این شرکت به تعهدات قانونی خود تردید دارد.

بهبود در شاخص‌های زمانی و تداوم شکاف‌های کیفی

مطابق با وعده‌های داده شده در اردیبهشت ۱۴۰۳، پلتفرم X متعهد شده بود که گزارش‌های ارسالی از طریق ابزار «محتوای غیرقانونی» (UK illegal content tool) را به‌طور میانگین در کمتر از ۲۴ ساعت بررسی کند. همچنین هدف‌گذاری این شرکت، ارزیابی حداقل ۸۵ درصد از محتوای گزارش‌شده در بازه ۴۸ ساعته بود. بر اساس داده‌های Ofcom، پلتفرم X در گزارش فصلی اخیر خود توانسته است به این استانداردهای زمانی دست یابد؛ با این حال، Ofcom معتقد است سرعت بررسی نباید با «اثربخشی در حذف» اشتباه گرفته شود.

نگرانی اصلی رگولاتور این است که آیا این سرعتِ بررسی، منجر به حذف دقیق و کامل محتوای غیرقانونی شده است یا خیر. علاوه بر این، شواهد متناقضی مبنی بر همکاری مستمر X با کارشناسان مستقلِ بیرونی گزارش شده که موجب شده Ofcom برنامه‌ریزی دقیقی برای راستی‌آزمایی مستقل داده‌ها در اوایل سال ۱۴۰۴ انجام دهد.

پرونده تحقیقاتی Grok و تولید محتوای غیراخلاقی

بخش قابل توجهی از نظارت Ofcom بر X به هوش مصنوعی Grok بازمی‌گردد. از دی‌ماه ۱۴۰۲، تحقیقات رسمی بر روی این چت‌بات آغاز شد؛ پس از آنکه گزارش‌هایی مبنی بر تولید «دیپ‌فیک‌های جنسی» از افراد واقعی و حتی کودکان با استفاده از ابزارهای تولید تصویر این مدل هوش مصنوعی منتشر شد.

بررسی مسئولیت قانونی و آینده نظارتی

رگولاتور در حال ارزیابی نهایی است که آیا X به وظایف قانونی خود برای حفاظت از کاربران بریتانیایی در برابر محتوای غیرقانونی عمل کرده است یا خیر. در صورت اثبات قصور، Ofcom یک «نظر اولیه» (provisional view) رسمی صادر خواهد کرد که به شرکت فرصت دفاع قانونی می‌دهد. فراتر از این، فشارهای قانونی در سایر حوزه‌ها نیز بر X وارد شده است؛ از جمله شکایت به دادگاه عالی بریتانیا برای توقف کامل تولید تصاویر جنسی توسط Grok و تحقیقات نهادهای تنظیم مقررات رسانه‌ای ایرلند درباره دقت سیستم‌های احراز سن (Age Verification) در این پلتفرم.

جمع‌بندی

آنچه در فضای فناوری امروز شاهد هستیم، نبردی میان سرعتِ پلتفرم‌های مبتنی بر هوش مصنوعی و کندیِ ساختارهای نظارتی است. اگرچه X تلاش کرده با استانداردهای زمانی، رضایت Ofcom را جلب کند، اما ماهیت «محتوای غیرقانونی» فراتر از اعداد و ارقام است و به نظارت دقیق‌تر بر مدل‌های زبانی بزرگ (LLM) و تعهد به همکاری‌های شفاف علمی نیاز دارد.