تحلیل دیدگاه سم آلتمن پیرامون توافق‌نامه هوش مصنوعی ترامپ: گامی رو به جلو یا بسنده؟

در مهرماه ۱۴۰۵، سم آلتمن، مدیرعامل OpenAI در گفتگویی تفصیلی با نشریه Vanity Fair، ضمن ارزیابی «توافق‌نامه ابرهوش» دولت دونالد ترامپ، آن را گامی مثبت اما ناکافی برای کنترل افسارگسیختگی فناوری‌های نوظهور ارزیابی کرد. آلتمن معتقد است که صنعت هوش مصنوعی برای مدیریت ریسک‌های سیستماتیک نیازمند چارچوب‌های قانون‌گذاری الزام‌آور و فراتر از خودتنظیمی‌های داوطلبانه است.

توافق‌نامه هوش مصنوعی و محدودیت‌های قدرت اجرایی

توافق‌نامه مذکور که با امضای مدیران ارشد شرکت‌های بزرگ فناوری از جمله گرگ براکمن، رئیس OpenAI، همراه بوده، در ماهیت خود متکی بر خودتنظیمی شرکت‌هاست. آلتمن در تحلیل خود اشاره می‌کند که این توافق در «سخت‌ترین معنای کلمه»، قدرت اجرایی (Power) ندارد؛ با این حال، معتقد است وجود یک «نیروی اجتماعی» پشت چنین توافقاتی می‌تواند به استانداردهایی در روابط بین‌شرکتی منجر شود. به بیان ساده، آلتمن توافق را نه به عنوان یک مانع بازدارنده، بلکه به عنوان «اعلام حسن‌نیت» برای شروع دیالوگ‌های نظارتی می‌بیند.

الزامات امنیت جهانی و دیپلماسی فناوری

یکی از نکات کلیدی در دیدگاه‌های آلتمن، ضرورت همکاری بین‌المللی به‌ویژه میان ایالات متحده و چین است. او پیشنهاد می‌کند که دو ابرقدرت باید بر سر «استانداردهای ایمنی مشترک» توافق کنند و سیستمی برای راستی‌آزمایی انطباق (Compliance) طراحی نمایند. آلتمن باور دارد که هوش مصنوعی نباید تحت انحصار کامل یک کشور یا چند شرکت خاص باقی بماند، چرا که این تمرکز قدرت، خود یک خطر وجودی محسوب می‌شود.

استراتژی OpenAI در قبال ایمنی و مدل‌های آینده

در بخش فنی این گفتگو، آلتمن به چالش‌های توسعه مدل‌های پیشرفته اشاره می‌کند. او فاش کرد که OpenAI اخیراً یک چرخه آموزش مدل را به دلیل عدم دستیابی به پیشرفت کافی در حوزه‌های «همسویی» (Alignment) و «قابلیت پایش» (Monitorability) متوقف کرده است. همچنین، درباره مدل GPT-6.1 Astra گفت که این مدل از نظر فنی آماده عرضه بود، اما به دلیل ریسک‌های بالای حوادث احتمالی (Accident Risk) کنار گذاشته شد. آلتمن سه رکن اصلی برای ایمنی هوش مصنوعی را مشابه صنایع هواپیمایی و خودرو معرفی می‌کند:

• گزارش‌دهی شفاف و دقیق حوادث
• استانداردهای ایمنی پیش از عرضه (Release Standards)
• چارچوب مسئولیت مدنی و قانونی (Liability Framework)

پیش‌بینی‌های تیره و آینده نظارتی

آلتمن نسبت به کندی واکنش سیاست‌گذاران در واشنگتن هشدار می‌دهد. از سال ۱۴۰۲ (۲۰۲۳) که او برای اولین بار در مجلس سنا شهادت داد، انتظار تغییرات قانونی داشت اما اکنون می‌گوید «هیچ اتفاقی نیفتاده است». او هشدار می‌دهد که جامعه جهانی احتمالاً با بروز یک حادثه سایبری بزرگ یا یک پاتوژن جدید غافلگیر خواهد شد؛ چرا که سیاست‌گذاران هنوز عمق «نمایی» (Exponential) پیشرفت هوش مصنوعی را درک نکرده‌اند. در نهایت، او در مورد مدل‌های OpenAI و رویکرد متن‌باز معتقد است که جامعه باید در ازای دستیابی به آزادی عمل، برخی حوادث جدی سایبری را بپذیرد، اما نباید از ایجاد گاردریل‌های ایمنی در حوزه‌های فوق‌حساس غافل شد.