فراتر از تست مدل‌های زبانی: وزیر هوش مصنوعی بریتانیا خواستار تقویت زیرساخت‌های دفاعی در برابر ریسک‌های سایبری شد

کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، در جریان کنفرانس سالانه حزب کارگر، با اتخاذ موضعی صریح اعلام کرد که استراتژی‌های فعلی مبتنی بر ارزیابی و تست مدل‌های هوش مصنوعی دیگر برای مدیریت مخاطرات نوظهور کافی نیست و دولت‌ها باید فراتر از نظارت‌های آزمایشگاهی، به فکر ایجاد لایه‌های دفاعی سخت‌افزاری و نرم‌افزاری باشند.

گذار از مدل‌های ارزیابی به استراتژی‌های دفاعی

در سال‌های اخیر، بریتانیا پیشگام در طراحی پروتکل‌های تست مدل‌های هوش مصنوعی بوده است. با این حال، نارایان معتقد است با افزایش تصاعدی توانمندی سیستم‌های هوشمند، «تست کردن» تنها نیمی از مسیر است. این رویکرد واکنشی به هشدارهای اخیر چهره‌های شاخص صنعت هوش مصنوعی، از جمله جیکوب کاکسون، پژوهشگر سابق شرکت Anthropic است که زنگ خطر را در خصوص احتمال تهدیدات وجودی هوش مصنوعی تا پایان دهه جاری میلادی به صدا درآورده است. زمانی که متخصصان داخلی این آزمایشگاه‌ها ابراز نگرانی می‌کنند، حاکمیت باید این هشدارها را به عنوان شاخص‌های ریسک عملیاتی در سطوح کلان ملی لحاظ کند.

شناسایی حوزه‌های حیاتی در مدیریت ریسک

وزیر هوش مصنوعی بریتانیا بر سه محور اصلی در مدیریت مخاطرات تمرکز کرده است که نشان‌دهنده تغییر پارادایم از مباحث تئوریک به مباحث امنیت زیرساختی است:

• امنیت سایبری (Cybersecurity): افزایش قابلیت‌های تهاجمی سیستم‌های خودکار در شناسایی آسیب‌پذیری‌های نرم‌افزاری.
• خطرات بیوشیمیایی (Biochemical Risk): استفاده غیرمجاز از مدل‌های هوش مصنوعی برای مهندسی یا سنتز عوامل بیولوژیک خطرناک.
• رفتارهای خودکار خارج از کنترل (Unintended Agency): بروز رفتارهایی در مدل‌ها که خارج از دستورات انسانی (Alignment) است و می‌تواند منجر به ایجاد حلقه‌های منطقی غیرقابل پیش‌بینی شود.

تقابل دیدگاه‌ها در سطح بین‌المللی: تنظیم‌گری یا رقابت؟

بریتانیا قصد دارد در دوران ریاست خود بر گروه ۲۰ (G20) در سال ۱۴۰۴ خورشیدی، نقش میانجی را برای تدوین اصول حکمرانی هوش مصنوعی ایفا کند. با این وجود، فضای حاکم بر این سیاست‌گذاری با چالش‌های بزرگی روبروست. در حالی که بیل گیتس معتقد است خودتنظیمی شرکت‌ها کافی نیست و دولت‌ها باید مداخله کنند، در سوی دیگر، دولت ایالات متحده (با دیدگاه‌های دونالد ترامپ) نسبت به اعمال محدودیت‌های جهانی هشدار داده و معتقد است که کند کردن سرعت پیشرفت آزمایشگاه‌های آمریکایی، تنها باعث اعطای مزیت استراتژیک به چین در رقابت جهانی هوش مصنوعی خواهد شد.

بررسی ابعاد اجتماعی و آینده شغلی

نارایان در نشست اندیشکده Resolution Foundation تأکید کرد که بحث درباره «جایگزینی انسان توسط ماشین» نباید به یک جبر فناورانه تبدیل شود. او معتقد است که دولت‌ها و شرکت‌ها قدرت تعیین‌کنندگی دارند تا مشخص کنند آیا هوش مصنوعی در خدمت افزایش بهره‌وری نیروی کار عمل می‌کند یا جایگزین آن خواهد شد. در پاییز ۱۴۰۵، جهان فناوری در حال ورود به دورانی است که در آن زیرساخت‌های ابری و مدل‌های قدرتمند، نه فقط به عنوان ابزارهای بهره‌وری، بلکه به عنوان متغیرهای امنیت ملی شناخته می‌شوند.