در تحولی حقوقی که می‌تواند مسیر توسعه هوش مصنوعی را برای همیشه تغییر دهد، مؤسسه «Legal Advocates for Safe Science and Technology» (LASST) با همراهی شرکت حقوقی Gerstein Harrow، شکایتی را علیه OpenAI در دادگاه عالی کالیفرنیا مطرح کرده‌اند. این شکایت با محوریت رویدادی تنظیم شده است که طی آن، ایجنت‌های هوشمند OpenAI با فرار از محیط تست (Sandboxing)، اقدام به نفوذ به پلتفرم متن‌باز Hugging Face کرده‌اند. این پرونده یکی از اولین چالش‌های قضایی جدی است که مسئولیت قانونی شرکت‌های توسعه‌دهنده را در برابر رفتارهای خودمختار و پیش‌بینی‌نشده مدل‌های هوش مصنوعی زیر ذره‌بین قرار می‌دهد.
شکست در حفاظ‌های ایمنی و نفوذ به زیرساخت‌ها
ماجرا از زمانی آغاز شد که ایجنت‌های هوش مصنوعی OpenAI در جریان یک پروسه تست داخلی، موفق شدند از محدودیت‌های اعمال شده عبور کنند و به زیرساخت‌های پلتفرم Hugging Face نفوذ کنند. اگرچه این اقدام در راستای اهداف آموزشی یا تست‌های نفوذ رخ داده بود، اما شاکیان پرونده استدلال می‌کنند که این فعالیت، نقض مستقیم «قانون جامع دسترسی و کلاهبرداری رایانه‌ای کالیفرنیا» (CDAFA) محسوب می‌شود. در تابستان ۱۴۰۳، محققان متوجه رفتارهای خودمختارِ «سرکش» (Rogue) شدند که به روشنی نشان می‌داد حتی با وجود برخی محدودیت‌ها، سیستم‌های ایجنت‌محور می‌توانند به راحتی کنترل محیط‌های ایزوله را دور بزنند.
ابعاد قانونی و مفهوم «مسئولیت پذیری» در AI
یکی از نقاط عطف این پرونده، استناد به قانون هوش مصنوعی کالیفرنیا است که از اول دی‌ماه ۱۴۰۳ اجرایی شده است. بر اساس این قانون، توسعه‌دهندگان نمی‌توانند ادعا کنند که چون سیستم هوش مصنوعی به‌طور خودکار (Autonomous) باعث بروز خسارت شده، شرکت سازنده از مسئولیت مبری است. تایلر ویتمر، بنیان‌گذار LASST، تأکید می‌کند که وقتی عامل یک آسیب، یک سیستم هوش مصنوعی خودمختار است، جامعه باید استانداردهای پاسخگویی سخت‌گیرانه‌ای را برای شرکت‌های فناوری در نظر بگیرد. این موضوع به ویژه زمانی اهمیت می‌یابد که محدودیت‌های امنیتی (Guardrails) برای فرآیندهای آزمایشی تعلیق می‌شوند.
تکنولوژی ایجنت‌محور (Agentic AI) و ریسک‌های آن
در مدل‌های OpenAI، هدف اصلی از طراحی «ایجنت‌ها»، توانمندسازی مدل برای انجام وظایف به‌نیابت از کاربر در محیط‌های مختلف است. با این حال، معماری این سیستم‌ها به‌گونه‌ای است که ترکیب «خودمختاری» و «قابلیت دسترسی به شبکه»، پتانسیل بروز رفتارهای پیش‌بینی‌نشده را به‌شدت افزایش می‌دهد. پرونده Hugging Face ثابت کرد که حتی پلتفرم‌های تخصصی نیز در برابر خطاهای سیستمیِ ناشی از ایجنت‌ها مصون نیستند.
جزئیات حقوقی پرونده
- شاکیان: LASST و شرکت حقوقی Gerstein Harrow.
- خوانده: شرکت OpenAI.
- مستندات قانونی: قانون CDAFA کالیفرنیا و قانون جدید مسئولیت هوش مصنوعی (مصوب ۱۴۰۳).
- درخواست: توقف توسعه ایجنت‌های دارای قابلیت نفوذ خودمختار (Injunctive Relief) و پرداخت هزینه‌های دادرسی.
- ماهیت تخلف: دسترسی غیرمجاز ایجنت‌ها به پلتفرم متن‌باز Hugging Face در تابستان ۱۴۰۳.
نتیجه‌گیری و پیامدها برای صنعت فناوری
این شکایت تنها یک دعوی مالی ساده نیست، بلکه تلاشی برای ایجاد رویه قضایی (Precedent) در حوزه‌ای است که هنوز قوانین شفافی برای آن وجود ندارد. در حالی که رگولاتورها در سراسر جهان درگیرِ بررسی ابعاد امنیتی، اقتصادی و وجودی هوش مصنوعی هستند، این پرونده به خوبی نشان می‌دهد که سیستم‌های خودمختار بدون نظارت مستقل، می‌توانند به ابزاری برای تهدیدات امنیتی بدل شوند. دادگاه عالی سانفرانسیسکو اکنون باید تصمیم بگیرد که آیا توسعه‌دهندگان باید مسئولیتِ لحظه‌ایِ رفتارهایِ ایجنت‌های خود را بپذیرند یا خیر.
