در رویدادی که بازتاب گسترده‌ای در محافل سیاسی و فناوری جهان در مهرماه ۱۴۰۵ داشت، دونالد ترامپ، رئیس‌جمهور آمریکا، «توافق‌نامه کاخ سفید درباره ابرهوش» (White House Accord on Super Intelligence) را با مدیران ارشد شرکت‌های پیشرو فناوری به امضا رساند. اما نکته حائز اهمیت این توافق، نقش کلیدی مارک زاکربرگ به عنوان معمار اصلی این سند و غیبت نام مایکروسافت و آمازون در میان امضاکنندگان آن است که سوالات بسیاری را درباره شکاف میان استراتژی‌های ایمنی هوش مصنوعی ایجاد کرده است.
معماری توافق‌نامه و نقش استراتژیک متا
بر اساس گزارش‌های منتشر شده در مهرماه ۱۴۰۵، ایده اصلی این سند در جریان تعاملات دیپلماتیک و دیدارهای غیررسمی میان مارک زاکربرگ (مدیرعامل متا) و مایک جانسون (رئیس مجلس نمایندگان) شکل گرفت. زاکربرگ با همکاری جنسن هوانگ (مدیرعامل انویدیا)، پیش‌نویس این توافق را تدوین و پیش از ضیافت ناهار کاخ سفید میان شرکت‌کنندگان توزیع کردند. این توافق که به زعم ترامپ «از نظر اخلاقی الزام‌آور» توصیف شده، تلاشی برای ایجاد یک چارچوب خودتنظیم‌گر (Self-regulatory) برای صنعت هوش مصنوعی است.
چرا مایکروسافت و آمازون از امضا سرباز زدند؟
با وجود حضور ساتیا نادلا و جف بزوس در این ضیافت، عدم امضای این سند توسط مایکروسافت و آمازون به عنوان یک سیگنال سیاسی و فنی تلقی می‌شود. در حالی که رقبای آن‌ها از جمله گوگل، OpenAI و انتروپیک این توافق را پذیرفتند، غیبت دو غول بزرگ رایانش ابری نشان‌دهنده پیچیدگی تعامل میان زیرساخت‌های ابری و استانداردهای پیشنهادی «ایمنی مدل» است. کارشناسان معتقدند که استانداردهای پیشنهادی متا ممکن است با مدل‌های کسب‌وکار این شرکت‌ها یا تعهدات آن‌ها به نهادهای نظارتی دیگر در تضاد باشد.
ساختار فنی و لایه‌های کنترلی توافق‌نامه
مشخصات فنی چارچوب ایمنی هوش مصنوعی
- پایش داخلی: نظارت مستمر بر مدل‌ها در حین آموزش و استقرار برای مقابله با تهدیدات سایبری، زیستی و شیمیایی.
- تیم‌های ارزیابی داخلی: ایجاد ساختارهای نظارتی درون‌سازمانی برای تضمین عملکرد صحیح کنترل‌ها.
- حسابرسی مستقل: استفاده از بازرسان یا ارزیابان خارجی برای تأیید امنیت مدل‌ها.
- کمیته مستقل هیئت‌مدیره: گزارش‌دهی مستقیم به نهاد نظارتی درون‌سازمانی برای تضمین شفافیت اجرایی.
ابهامات اجرایی و چشم‌انداز آینده
منتقدان معتقدند که این توافق در حال حاضر فاقد مکانیسم‌های اجرایی (Enforcement) است و هیچ جریمه یا بازه زمانی مشخصی برای پیاده‌سازی گام‌ها در نظر گرفته نشده است. ترامپ اعلام کرده که به دنبال تشکیل یک کمیته ۱۰ نفره برای نظارت بر صنعت هوش مصنوعی و انتصاب یک «تزار هوش مصنوعی» در روزهای آتی است. با این حال، تضاد میان رویکردهای شرکت‌های خصوصی و ضرورت تدوین قوانین توسط کنگره، چالش اصلی سال ۱۴۰۵ در حوزه حکمرانی فناوری خواهد بود. در همین حال، کمیسیون تجارت فدرال (FTC) تحقیقات مستقلی را درباره ریسک‌های مصرف‌کننده در آزمایشگاه‌های بزرگ هوش مصنوعی آغاز کرده است.
