در تیرماه ۱۴۰۲، سم آلتمن، مدیرعامل OpenAI، در یک نشست تاریخی در شورای امنیت سازمان ملل متحد، دیدگاه‌های استراتژیک خود را پیرامون ضرورت تنظیم‌گری جهانی، ایمنی سیستم‌های هوشمند و حفظ کنترل انسانی بر فناوری‌های نوظهور مطرح کرد. این رویداد نقطه عطفی در پیوند میان توسعه‌دهندگان پیشرو هوش مصنوعی و نهادهای سیاست‌گذار بین‌المللی محسوب می‌شود.
پارادایم جدید در تنظیم‌گری هوش مصنوعی
سم آلتمن در این نشست با تأکید بر سرعت سرسام‌آور پیشرفت‌های حوزه مدل‌های زبانی بزرگ (LLM)، بر این نکته پافشاری کرد که تکنولوژی هوش مصنوعی پتانسیل بی‌سابقه‌ای برای بهبود کیفیت زندگی بشر دارد، اما بدون نظارت دقیق، می‌تواند ریسک‌های سیستمی جبران‌ناپذیری ایجاد کند. او پیشنهاد داد که جامعه بین‌المللی باید ساختاری را برای همکاری در زمینه حکمرانی هوش مصنوعی ایجاد کند تا از بروز حوادث ناخواسته در سیستم‌های خودمختار جلوگیری شود.
تأکید بر ایمنی و کنترل انسانی (Human-in-the-loop)
یکی از محورهای اصلی سخنان آلتمن، مفهوم «ایمنی به عنوان پیش‌شرط توسعه» بود. او تصریح کرد که هوش مصنوعی نباید به عنوان یک جعبه سیاه رها شود. رویکرد پیشنهادی وی، ادغام کنترل‌های انسانی در تمامی مراحل چرخه حیات توسعه مدل‌هاست تا اطمینان حاصل شود که اهداف سیستم‌های هوشمند همواره با ارزش‌های انسانی هم‌راستا (Alignment) باقی می‌ماند. این مسئله به‌ویژه در سیستم‌هایی که در حوزه‌های حساس مانند امنیت ملی یا زیرساخت‌های حیاتی به کار گرفته می‌شوند، اهمیت حیاتی دارد.
همکاری بین‌المللی و کاهش شکاف دیجیتال
آلتمن در این نشست نسبت به انحصار فناوری هوش مصنوعی در دست چند شرکت یا کشور محدود هشدار داد. او معتقد است که برای بهره‌مندی حداکثری از این فناوری، باید همکاری‌های جهانی فراتر از مرزهای سیاسی تعریف شود. ایجاد استانداردهای فنی مشترک که توسط تمامی کشورها پذیرفته شود، می‌تواند از رقابت‌های مخرب که منجر به تضعیف استانداردهای ایمنی می‌شود، جلوگیری کند.
محورهای استراتژیک سخنان آلتمن در سازمان ملل
- تنظیم‌گری مسئولانه: ایجاد نهادهای ناظر برای ارزیابی ایمنی مدل‌های Frontier AI.
- شفافیت فنی: الزام به گزارش‌دهی درباره توانمندی‌ها و رفتارهای غیرمنتظره مدل‌ها.
- امنیت زیرساخت: حفاظت از مراکز داده و توان محاسباتی در برابر حملات سایبری پیچیده.
- هم‌راستایی (Alignment): تلاش برای توسعه پروتکل‌هایی که اطمینان می‌دهند هوش مصنوعی در جهت منافع بشر عمل می‌کند.
چشم‌انداز آینده و چالش‌های پیاده‌سازی
از منظر فنی، پیاده‌سازی پیشنهادهای آلتمن مستلزم همکاری گسترده میان مهندسان سیستم و متخصصان علوم سیاسی است. ابزارهای متن‌باز نظیر OpenAI Research نقشی کلیدی در شفاف‌سازی این مسیر دارند. با این حال، چالش اصلی، توازن میان ایجاد محدودیت‌های لازم برای امنیت عمومی و حفظ ماهیت نوآورانه و غیرمتمرکز توسعه نرم‌افزار است. در نهایت، شورای امنیت با گوش سپردن به این سخنان، برای نخستین بار هوش مصنوعی را نه تنها به عنوان یک پدیده اقتصادی، بلکه به عنوان یک مسئله کلیدی در امنیت جهانی به رسمیت شناخت.
