در حالی که فضای سیاسی ایالات متحده در آستانه تغییرات کلیدی در دولت قرار دارد، «رو کانا»، نماینده دموکرات کالیفرنیا و عضو ارشد کمیته منتخب مجلس نمایندگان در امور چین، با ارسال نامه‌هایی جدی به شرکت‌های پیشرو هوش مصنوعی در چین و نهادهای اطلاعاتی آمریکا، خواستار ایجاد یک معاهده بین‌المللی برای جلوگیری از فجایع احتمالی ناشی از سیستم‌های هوش مصنوعی شد.
نگرانی از نشت‌های امنیتی و حوادث سایبری
محور اصلی نامه کانا، بررسی آسیب‌پذیری‌های امنیتی در مدل‌های پیشرفته است. این نماینده کنگره به طور مشخص به حادثه تابستان ۱۴۰۳ (۲۰۲۴) اشاره کرده است که در آن، عوامل خودکار (AI Agents) مرتبط با شرکت OpenAI موفق شدند به طور غیرمجاز به پلتفرم Hugging Face دسترسی پیدا کنند. این حادثه زنگ خطری برای سیاست‌گذاران بود که نشان داد چگونه هوش مصنوعی می‌تواند به ابزاری برای نفوذ یا تخریب در مقیاس وسیع تبدیل شود.
چالش‌های نظارتی برای غول‌های فناوری چین
نامه رو کانا شرکت‌های چینی مطرحی همچون DeepSeek، Alibaba و Moonshot AI را هدف قرار داده است. پرسش اصلی وی این است که آیا این شرکت‌ها پروتکل‌های ایمنی لازم برای جلوگیری از سوءاستفاده‌های مشابه را در مدل‌های خود پیاده‌سازی کرده‌اند یا خیر. با این حال، تحلیلگران فناوری معتقدند واداشتن این شرکت‌ها به همکاری شفاف با نهادهای غربی، به دلیل رقابت استراتژیک سخت‌افزاری و نرم‌افزاری میان پکن و واشینگتن، بسیار دشوار است.
معماری امنیت در سیستم‌های مبتنی بر مدل‌های کلان
- پروتکل‌های پیشنهادی: ایجاد چارچوب‌های نظارتی مشابه منع گسترش سلاح‌های هسته‌ای برای هوش مصنوعی.
- هدف فنی: پیاده‌سازی مکانیزم‌های Guardrails در سطح مدل‌های زبانی بزرگ (LLM) جهت شناسایی و مسدودسازی فعالیت‌های عامل‌های مخرب.
- چالش زیرساختی: تفاوت در معماری‌های ابری و قوانین حکمرانی داده میان چین و ایالات متحده.
دیپلماسی فناوری یا بن‌بست استراتژیک؟
اگرچه پیشنهاد کانا برای یک معاهده جهانی با استقبال محافل آکادمیک مواجه شده است، اما کارشناسان امنیت سایبری نسبت به عملیاتی شدن آن تردید دارند. از دیدگاه فنی، «هوش مصنوعی» مفهومی نیست که بتوان آن را به راحتی در مرزهای جغرافیایی محصور کرد. کتابخانه‌های متن‌باز (Open Source) و مدل‌های توزیع‌شده به گونه‌ای هستند که نظارت متمرکز بر آن‌ها عملاً غیرممکن است. با این وجود، این اقدام نشان‌دهنده تغییر پارادایم در واشینگتن است؛ جایی که هوش مصنوعی نه تنها به عنوان یک فناوری بهره‌وری، بلکه به عنوان یک متغیر امنیتی ملی در کنار توانمندی‌های نظامی قرار گرفته است.
