در تحولی مهم در اکوسیستم هوش مصنوعی، گزارش‌های منتشر شده در مهر ۱۴۰۵ (سپتامبر ۲۰۲۴) حاکی از آن است که سه غول پیشرو این حوزه، یعنی گوگل، OpenAI و Anthropic، در حال برنامه‌ریزی برای تأسیس یک نهاد مستقل جهت تدوین استانداردهای ایمنی هوش مصنوعی هستند. این اقدام که با عنوان «سازمان استاندارد برای هوش مصنوعی پیشرو» (Standards Authority for Frontier AI) نام‌گذاری شده، با هدف پر کردن خلأهای نظارتی در غیاب قوانین فدرال و بدون دخالت مستقیم دولت صورت می‌گیرد.
الگوی عملیاتی: از بازارهای مالی تا ایمنی الگوریتم‌ها
این ائتلاف صنعتی برای طراحی ساختار جدید خود از FINRA (سازمان تنظیم مقررات صنعت مالی در ایالات متحده) الگوبرداری کرده است. این نهاد خودانتظام که بر کارگزاری‌های بورس نظارت دارد، مدلی است که این سه شرکت قصد دارند برای اکوسیستم مدل‌های زبانی بزرگ (LLMs) پیاده‌سازی کنند. تمرکز اصلی این سازمان بر استانداردهای آزمایش مدل‌ها پیش از عرضه عمومی، رویه‌های گزارش‌دهی حوادث امنیتی و گواهی‌نامه‌دهی به حسابرسان شخص‌ثالث خواهد بود.
چرا خودتنظیمی؟ بن‌بست در سیاست‌گذاری دولتی
بر اساس گزارش‌های واصله، این شرکت‌ها در ابتدا امیدوار بودند نهادی با نظارت فدرال ایجاد کنند. با این حال، با شکست پیش‌نویس دستور اجرایی کاخ سفید در جلب حمایت کافی از سوی دولت، این غول‌های فناوری تصمیم گرفتند سکان هدایت را به دست خود بگیرند. این رویکرد اگرچه در نگاه اول برای استقرار سریع استانداردها مفید به نظر می‌رسد، اما از دیدگاه بسیاری از کارشناسان، از جمله بیل گیتس و نیک کلگ، رویکرد «خودتنظیمی» (Self-regulation) برای فناوری حساس و پرخطری مانند هوش مصنوعی پیشرو ناکافی تلقی می‌شود.
ویژگی‌های کلیدی و اهداف عملیاتی
- عنوان پیشنهادی: Standards Authority for Frontier AI
- اعضای مؤسس: گوگل، OpenAI، Anthropic
- هدف اصلی: ایجاد پروتکل‌های ایمنی قبل از انتشار مدل‌های Frontier
- مدل مرجع: ساختار FINRA در بازارهای مالی
- وضعیت حقوقی: نهاد غیردولتی و خودانتظام
چالش‌ها و انتقادات وارده بر استقلال نهاد
یکی از بزرگترین چالش‌های پیش‌روی این نهاد، مسأله تضاد منافع است. وقتی شرکت‌های سازنده مدل‌های هوش مصنوعی خود مسئول تعیین استانداردها و بازرسی ایمنی خود باشند، مرز میان «ایمنی» و «حفاظت از منافع تجاری» کمرنگ می‌شود. منتقدان بر این باورند که این نهاد تنها شامل سه شرکت خاص است و غول‌هایی مانند مایکروسافت، متا و xAI در حال حاضر بخشی از این ابتکار نیستند، که این امر می‌تواند منجر به چندپارگی استانداردهای ایمنی در صنعت هوش مصنوعی شود.
آینده نظارت جهانی بر هوش مصنوعی
این اقدام در حالی صورت می‌گیرد که فشارهای بین‌المللی برای نظارت بر فناوری‌های پیشرو به شدت افزایش یافته است. در اواخر شهریور ۱۴۰۵، بیست و یک کشور به همراه اتحادیه اروپا خواستار نظارت بین‌المللی بر هوش مصنوعی شدند. در همین حال، سم آلتمن در شورای امنیت سازمان ملل تأکید کرد که OpenAI تمایل دارد سرعت توسعه را کاهش داده و از استانداردهای ملی و بین‌المللی برای مدل‌های خودگردان و پیشرفته حمایت کند. با این حال، تبدیل این رویکرد به عمل، مستلزم توازن ظریفی میان نوآوری باز و کنترل‌های امنیتی است که این نهاد نوپا هنوز جزئیات دقیقی از مکانیزم‌های اجرایی و ضمانت‌های اجرایی (Enforcement Powers) خود منتشر نکرده است.
