اداره کمیسر اطلاعات بریتانیا (ICO) پس از دو سال بررسی‌های دقیق و چالش‌برانگیز، سرانجام موفق شد تعهدات حقوقی مهمی را از ده غول صنعت هوش مصنوعی در زمینه حفاظت از داده‌های شخصی دریافت کند؛ اقدامی که نقطه عطفی در تنظیم‌گری مدل‌های زبانی بزرگ (LLM) محسوب می‌شود.
پایان دو سال نظارت مستمر و فشار رگولاتوری
در جریان تحولات نظارتی مهرماه ۱۴۰۳، دفتر ICO اعلام کرد که ده شرکت پیشرو حوزه هوش مصنوعی شامل Amazon، Anthropic، Apple، Cohere، DeepSeek، Google، Meta، Microsoft، OpenAI و Stability AI توافق کرده‌اند که استانداردهای پردازش داده‌های شخصی خود را بازنگری کنند. این توافق پس از یک دوره طولانی بررسی‌های فنی و حقوقی به دست آمد که هدف اصلی آن، حصول اطمینان از انطباق مدل‌های هوش مصنوعی با قوانین سخت‌گیرانه حفاظت از داده‌ها در بریتانیا (UK GDPR) بود.
تغییرات کلیدی در نحوه مدیریت داده‌های آموزشی
شرکت‌های مذکور متعهد شده‌اند تا فرآیندهای شفاف‌تری را برای مدیریت داده‌های شخصی در مراحل آموزش و استنتاج مدل‌ها اعمال کنند. این تغییرات شامل موارد زیر است:
- ارائه مکانیزم‌های صریح برای حق اعتراض کاربران نسبت به استفاده از داده‌های شخصی‌شان در آموزش مدل.
- بازنگری در سیاست‌های حفظ حریم خصوصی برای کاهش نرخ «توهم» (Hallucination) داده‌های حساس که می‌تواند منجر به افشای اطلاعات شناسایی‌شونده (PII) شود.
- پیاده‌سازی استانداردهای سخت‌گیرانه در مدیریت داده‌های کاربران در هنگام تعامل با مدل‌های تجاری.
چرخش استراتژیک به سمت هوش مصنوعی عاملیت‌محور (AI Agents)
نکته قابل توجه در گزارش اخیر ICO، تمرکز بر روی معماری‌های نوظهور یعنی «عامل‌های هوش مصنوعی» (AI Agents) است. برخلاف چت‌بات‌های سنتی که صرفاً محتوا تولید می‌کنند، عامل‌ها قادر به تعامل با ابزارهای خارجی، دسترسی به APIها و انجام عملیات در محیط‌های واقعی هستند. ICO هشدار داده است که با افزایش پیچیدگی این عامل‌ها، ریسک حریم خصوصی به شدت افزایش می‌یابد. شرکت‌ها اکنون ملزم هستند تا چارچوب‌های «حریم خصوصی در طراحی» (Privacy by Design) را برای سیستم‌های خودمختار اعمال کنند تا از دسترسی غیرمجاز این عامل‌ها به منابع داده‌های حساس جلوگیری شود.
چالش‌های پیاده‌سازی و استانداردهای فنی
خلاصه محورهای نظارتی ICO:
- شفافیت الگوریتمی: الزام به مستندسازی نحوه استفاده از داده‌های scraping شده.
- حق حذف داده: تسهیل فرآیند «حق فراموش شدن» (Right to be Forgotten) در وزن‌های مدل.
- ارزیابی تأثیر حریم خصوصی (DPIA): الزام به اجرای تحلیل‌های مخاطره قبل از عرضه نسخه‌های جدید مدل‌های بنیادین.
- امنیت عامل‌ها: مدیریت سطح دسترسی (Privilege Escalation) در هوش مصنوعی عاملیت‌محور.
این دستاورد اگرچه یک پیروزی بزرگ برای ناظران بریتانیایی تلقی می‌شود، اما چالش‌های فنی دشواری را برای توسعه‌دهندگان ایجاد می‌کند؛ به‌ویژه در بخش حذف داده‌های شخصی از داده‌های آموزش‌دیده (Unlearning)، که هنوز یک مسئله حل‌نشده در علوم داده است. مجله SilverSky Tech معتقد است که این توافق، استانداردی برای سایر رگولاتورهای جهانی (نظیر اتحادیه اروپا با AI Act) خواهد بود.
