هشدار پیشگامان هوش مصنوعی درباره انفجار هوش؛ وقتی ماشین‌ها خود را مهندسی می‌کنند

گروهی از برجسته‌ترین دانشمندان و محققان حوزه هوش مصنوعی، از جمله برندگان جایزه نوبل، با انتشار مقاله‌ای در تابستان ۱۴۰۵ (۲۰۲۶ میلادی) زنگ خطر را درباره وقوع پدیده «انفجار هوش» به صدا درآوردند. این هشدار که توسط نخبگانی نظیر جفری هینتون، یوشوا بنجیو و مدیران ارشد OpenAI و Anthropic تدوین شده است، به سناریویی اشاره دارد که در آن سیستم‌های هوش مصنوعی با خودکارسازی فرآیندهای تحقیق و توسعه، مسیر پیشرفت تکنولوژیک را از چندین سال به چند ماه کاهش می‌دهند.

انفجار هوش؛ فراتر از یک تئوری علمی

مفهوم انفجار هوش به نقطه‌ای اشاره دارد که در آن هوش مصنوعی با در دست گرفتن فرآیند تحقیق و توسعه، توانایی بهبود خود را پیدا کرده و این چرخه به صورت نمایی رشد می‌کند. بر اساس داده‌های ارائه‌شده در این مقاله، سهم کدنویسی انجام شده توسط هوش مصنوعی در شرکت Anthropic از اعداد تک‌رقمی در دی‌ماه ۱۴۰۳ (ژانویه ۲۰۲۵)، به بیش از ۸۰ درصد در خرداد ۱۴۰۵ (مه ۲۰۲۶) رسیده است. این یعنی بخش بزرگی از لایه‌های نرم‌افزاری زیرساختی اکنون توسط خود هوش مصنوعی نوشته می‌شود.

شواهد تجربی و گذار به تحقیق خودکار

تحلیل‌های این تیم نشان می‌دهد که بین اسفند ۱۴۰۴ تا مرداد ۱۴۰۵، حجم فعالیت‌های تحقیق و توسعه (R&D) که با نظارت حداقلی انسان توسط مدل‌های هوش مصنوعی انجام شده، از ۱ درصد به ۲۶ درصد جهش داشته است. پیش‌بینی‌های محتاطانه حاکی از آن است که تا نیمه سال ۱۴۰۷، پروژه‌های تحقیقاتی چندماهه می‌توانند به طور کامل توسط سیستم‌های هوش مصنوعی خودکارسازی شوند. دان سونگ، محقق دانشگاه برکلی و معاون تحقیقات هوش مصنوعی در متا، معتقد است که انسان‌ها دیگر به تنهایی قادر به نظارت بر این عامل‌های خودمختار (Agents) نیستند و اکنون ناچاریم از سیستم‌های هوش مصنوعی برای مانیتورینگ سیستم‌های دیگر استفاده کنیم.

ریسک‌های سیستمی و چالش‌های حکمرانی

نویسندگان این مقاله سه خطر اصلی را برای بشریت برمی‌شمرند: ۱. سرعت بالای پیشرفت که از توان انطباق جامعه فراتر می‌رود، ۲. احتمال از دست دادن کنترل بر سیستم‌های هوش مصنوعی (همانند حادثه نشت ۱۲۰۰ ایجنت داخلی OpenAI به اینترنت)، و ۳. تضعیف مکانیسم‌های نظارتی قدرت. این مقاله به ضرورت وجود «حسابرسی مستقل» در شرکت‌های توسعه‌دهنده و ایجاد استانداردهای گزارش‌دهی جهانی تأکید می‌ورزد.

موانع کندکننده و عوامل بازدارنده

اگرچه پتانسیل انفجار هوش جدی است، نویسندگان به چهار عامل اصطکاکی اشاره می‌کنند که ممکن است این روند را کند کند:

• بازده نزولی (Diminishing Returns) در الگوریتم‌های فعلی.
• محدودیت در منابع پردازشی و داده‌های آموزشی باکیفیت.
• وجود وظایف بسیار پیچیده که خودکارسازی آن‌ها همچنان برای ماشین‌ها دشوار است.
• زمان‌بر بودن دوره‌های آموزش مدل‌های بسیار بزرگ (Long Training Runs).

در پایان، دانشمندان هشدار می‌دهند که «پنجره اقدام» برای کنترل این پدیده ممکن است به زودی بسته شود. درخواست‌های اخیر هینتون از سناتورهای ایالات متحده و پیشنهاد بنجیو به شورای امنیت سازمان ملل برای صدور مجوزهای خاص جهت توسعه هوش مصنوعی‌های پیشرو، نشان‌دهنده عمق نگرانی در سطح نخبگان جهانی است.