در حالی که شرکت‌های بزرگ حوزه هوش مصنوعی استراتژی «محیط‌های بسته» را برای کنترل مدل‌های پیشرفته در پیش گرفته‌اند، نیتن لمبرت و تام زیک، دو پژوهشگر برجسته، با تأسیس سازمان مردم‌نهاد Trillium Labs، رویکردی جسورانه و متفاوت را آغاز کرده‌اند: انجام تحقیقات با ریسک بالا در فضای شفاف و عمومی؛ رویکردی که نویدبخش بازگشت به روش‌های سنتی و قابل‌اعتبار علمی در دنیای مدل‌های زبانی بزرگ است.
پایان عصر جعبه سیاه در تحقیقات هوش مصنوعی
شرکت‌های پیشرو نظیر OpenAI و Anthropic همواره بر این باور بوده‌اند که محدود کردن دسترسی به مدل‌های قدرتمند، بهترین راه برای جلوگیری از سوءاستفاده یا رفتارهای غیرقابل پیش‌بینی است. با این حال، نیتن لمبرت (Nathan Lambert) که پیش‌تر سابقه همکاری با سازمان Allen Institute for AI (Ai2) و پلتفرم Hugging Face را در کارنامه دارد، معتقد است که این «محرمانگی» آسیب‌زا است. به باور وی، انحصار دانش نزد چند شرکت محدود، نه تنها به نفع امنیت نیست، بلکه مانع از بررسی‌های نقادانه علمی می‌شود. Trillium Labs با هدف تغییر این پارادایم، قصد دارد جزئیات آزمایش‌های خود را منتشر کند تا امکان بازتولید و راستی‌آزمایی آن‌ها برای پژوهشگران مستقل در سراسر جهان فراهم شود.
محورهای تحقیقاتی: از RSI تا یادگیری تقویتی
سازمان Trillium Labs تمرکز اصلی خود را بر حوزه‌هایی قرار داده است که بیشترین نگرانی‌های اخلاقی و فنی را ایجاد می‌کنند. این حوزه‌ها عبارتند از:
- بهبود خودکار بازگشتی (Recursive Self-Improvement – RSI): فرآیندی که در آن هوش مصنوعی با مشارکت در تحقیقات، به توسعه نسخه‌های پیشرفته‌تر از خود می‌پردازد.
- ارزیابی رفتاری مدل‌ها: تحلیل دقیق نحوه تعامل یادگیری تقویتی (Reinforcement Learning) با رفتارهای مدل و جلوگیری از پدیده‌هایی مانند چاپلوسی سیستمیک (Sycophancy).
- مهندسی Post-training: تمرکز بر مرحله پس از آموزش اولیه و چگونگی تنظیم دقیق (Fine-tuning) مدل‌ها برای بهبود عملکرد بدون از دست دادن کنترل رفتاری.
ساختار فنی و منابع پردازشی
تحقیق در حوزه مدل‌های پیشرفته نیازمند زیرساخت‌های محاسباتی سنگین است. این تیم در گام نخست موفق به جذب سرمایه اولیه از نهادهایی چون Schmidt Sciences شده است و قصد دارد طی ۱۸ ماه آینده مبلغ ۳۰ میلیون دلار را صرفاً برای فرآیند آموزش و آزمایش‌های مدل اختصاص دهد. بر خلاف شرکت‌های انحصاری، Trillium Labs معتقد است که با اشتراک‌گذاری متدولوژی‌ها و داده‌های به‌کاررفته در تمرین‌های آموزشی (Training Runs)، جامعه علمی می‌تواند به درک دقیق‌تری از خروجی‌های مدل برسد.
مشخصات فنی و استراتژیک
- هدف اصلی: افزایش شفافیت در توسعه Frontier Models.
- حوزه تمرکز فنی: Post-training، یادگیری تقویتی و مکانیسم‌های RSI.
- مدل عملیاتی: انتشار جزئیات 실험ی (Experimental details) برای بازتولید در محیط‌های آکادمیک.
- بودجه عملیاتی پیش‌بینی شده: ۴۰ تا ۱۰۰ میلیون دلار.
- رویکرد انطباق: استفاده از روش‌های علمی برای سنجش ریسک در برابر «جعبه سیاه» شرکتی.
چرا شفافیت، راهکار اصلی امنیت است؟
مخالفان رویکرد فعلی دنیای هوش مصنوعی معتقدند که پنهان‌کاری، امنیت ایجاد نمی‌کند، بلکه تنها «امنیت از طریق ابهام» (Security by Obscurity) را تقویت می‌کند. همان‌طور که در سایر حوزه‌های امنیت سایبری ثابت شده، بررسی علنی و باز بودن ساختار سیستم‌ها، امکان شناسایی سریع‌تر آسیب‌پذیری‌ها و نقاط ضعف را به متخصصان مستقل می‌دهد. پاییز ۱۴۰۳ (۲۰۲۴) نقطه عطفی در تاریخ هوش مصنوعی است؛ جایی که جامعه علمی تصمیم می‌گیرد آیا مسیر توسعه هوش مصنوعی همچنان در دستان چند شرکت محدود باقی خواهد ماند یا به سمت یک فضای پژوهشی دموکراتیک و شفاف حرکت خواهد کرد.
