فرمان جنسن هوانگ؛ هوش مصنوعی یا باید ایمن باشد یا تعطیل شود

هشدار صریح جنسن هوانگ، مدیرعامل انویدیا، در جریان نشست‌های اخیر، فصل جدیدی از گفتمان «حکمرانی الگوریتمیک» را در جهان فناوری گشوده است. هوانگ با تاکید بر مسئولیت کیفری توسعه‌دهندگان، تاکید کرده است که عدم مهار ریسک‌های بالقوه هوش مصنوعی، خط قرمزی است که می‌تواند به توقف دائم فعالیت شرکت‌های بزرگ این حوزه منجر شود.

مسئولیت‌پذیری در مقیاس زیرساخت

هوانگ معتقد است هوش مصنوعی تنها یک ابزار نرم‌افزاری نیست، بلکه یک «موتور تولید مسئولیت» است. از منظر زیرساختی، وابستگی شدید به مدل‌های زبانی بزرگ (LLM) که بر روی پردازنده‌های گرافیکی انویدیا نظیر سری NVIDIA H100 اجرا می‌شوند، نیازمند پروتکل‌های حفاظتی سخت‌گیرانه در لایه توسعه (Development Layer) است. در ایران نیز، با توجه به گسترش استفاده از سرویس‌های مبتنی بر هوش مصنوعی در کسب‌وکارهای دیجیتال، این هشدار زنگ خطری برای شرکت‌هایی است که بدون پیاده‌سازی سازوکارهای نظارتی (Safety Guardrails) به توسعه مدل‌های بومی اقدام می‌کنند.

تقابل امنیت سایبری و توسعه سریع

یکی از چالش‌های اصلی که هوانگ به آن اشاره دارد، ناتوانی در پیش‌بینی رفتارهای نوظهور مدل‌های هوش مصنوعی است. برای شرکت‌های ایرانی، این موضوع به معنای گذار از مدل‌های «توسعه‌محور» به مدل‌های «ایمنی‌محور» است. در فضای رگولاتوری ایران، نبود چارچوب حقوقی مشخص برای مسئولیت مدنی و کیفری هوش مصنوعی، خلأ بزرگی است که شرکت‌ها را در برابر تبعات ناشی از «توهمات مدل» یا «سوءاستفاده‌های سایبری» بی‌دفاع می‌گذارد.