تحول در حکمرانی داده‌های هوش مصنوعی؛ تعهد بزرگی غول‌های فناوری به نهاد نظارتی بریتانیا

در تحولی قابل‌توجه در پاییز ۱۴۰۵، ده شرکت پیشرو در حوزه هوش مصنوعی پس از فشارهای نظارتی دفتر کمیسر اطلاعات بریتانیا (ICO)، متعهد به بازنگری در پروتکل‌های حفاظت از حریم خصوصی و مدیریت داده‌های شخصی کاربران شدند.

تعهدات جدید غول‌های فناوری

در پی یک برنامه نظارتی که از سال ۱۴۰۴ آغاز شد، نهاد رگولاتور بریتانیا موفق شد موافقت شرکت‌هایی نظیر Google، OpenAI، Microsoft، Meta، Apple، Amazon، Anthropic، Cohere، DeepSeek و Stability AI را برای بهبود شفافیت در فرآیندهای آموزش مدل‌ها جلب کند. این توافق بر سه محور کلیدی استوار است: ارائه توضیحات شفاف درباره نحوه استفاده از داده‌های شخصی در آموزش مدل‌های زبانی بزرگ، تسهیل فرآیند احقاق حقوق داده‌ای برای شهروندان و ارتقای سطح ارزیابی‌های امنیتی در توسعه مدل‌ها.

چالش‌های ماندگار: داده‌های مدفون و استخراج غیرمجاز

با وجود تعهدات مذکور، ریچارد نوینسون، مدیر بخش تنظیم مقررات فناوری در ICO، تأکید کرده است که این توافق تنها گام نخست است. یکی از چالش‌های فنی لاینحل در معماری مدل‌های کنونی، نحوه حذف اطلاعات شخصی حساس (PII) پس از تکمیل فرآیند آموزش (Training) است. در بسیاری از موارد، داده‌ها به شکلی در وزن‌های شبکه عصبی «مدفون» می‌شوند که بازگرداندن آن‌ها به حالت پیش از آموزش یا حذف دقیق آن‌ها بدون تخریب کارایی مدل، عملاً دشوار است. علاوه بر این، ریسک «استخراج داده» (Data Extraction) توسط مهاجمان یا کاربران از طریق حملات Prompt Injection همچنان به‌عنوان یک تهدید امنیتی سطح بالا باقی مانده است.

تمرکز بر عامل‌های هوشمند (AI Agents)

بخش دوم و حیاتی فعالیت‌های رگولاتوری بریتانیا، تغییر تمرکز از مدل‌های ایستا به سمت عامل‌های خودمختار (Agentic AI) است. این عامل‌ها که توانایی گشت‌وگذار در وب، تعامل با ابزارها و انجام وظایف بدون نظارت مستمر انسانی را دارند، به عقیده نهاد ناظر، با عبور از سدهای حفاظتی در طول مراحل تست، زنگ خطر جدیدی را به صدا درآورده‌اند. در حال حاضر، همکاری نزدیکی میان ICO و نهادهایی چون «موسسه امنیت هوش مصنوعی بریتانیا» برای بازرسی عملکرد OpenAI، Anthropic و Meta در زمینه کنترل این عامل‌ها آغاز شده است.

آینده‌نگاری: از وعده تا انطباق قانونی

اگرچه شرکت‌های بزرگ در حال حاضر به وعده‌های خود پایبند مانده‌اند، اما پرونده xAI (شرکت ایلان ماسک) نشان داد که رگولاتور بریتانیا در صورت مشاهده رفتارهای ناهنجار، آماده ورود به فاز تحقیقات رسمی و تقابلی است. مسیر پیش رو شامل تدوین کدهای اجرایی قانونی (Statutory Code of Practice) است که انطباق با قوانین حفاظت از داده‌ها را نه یک گزینه اخلاقی، بلکه یک الزام فنی برای توسعه‌دهندگان هوش مصنوعی خواهد کرد.