ایالت بریتیش کلمبیا در کانادا، با طرح شکایتی رسمی علیه شرکت OpenAI، خواستار دسترسی به لاگ‌های تعاملی چت‌جی‌پی‌تی مرتبط با عامل تیراندازی در منطقه تامبلر ریج شده است. این پرونده ابعاد جدیدی از مسئولیت‌پذیری شرکت‌های هوش مصنوعی در برابر سوءاستفاده‌های مخرب از مدل‌های زبانی بزرگ را مطرح کرده است.
چالش‌های قضایی و حریم خصوصی
این اقدام حقوقی پس از آن صورت گرفت که مشخص شد ضارب در مراحل طراحی و برنامه‌ریزی این رخداد خشونت‌آمیز، از قابلیت‌های پردازش زبان مدل‌های OpenAI بهره برده است. دادستان‌های ایالتی استدلال می‌کنند که دسترسی به داده‌های تعاملی برای درک انگیزه و نقش احتمالی هوش مصنوعی در تشویق یا تسهیل عملیات تروریستی یا جنایی ضروری است.
مسئولیت اخلاقی و فنی شرکت‌های هوش مصنوعی
صنعت هوش مصنوعی همواره با فشار نهادهای نظارتی برای اعمال «گاردریل‌های» سخت‌گیرانه روبروست. در این مورد، تقاضای ایالت برای تأمین هزینه‌های احداث مجدد فضای آموزشی تخریب شده، نشان‌دهنده تغییر پارادایم از «مسئولیت محدود ارائه‌دهنده» به سمت «پاسخگویی در برابر خسارات دنیای واقعی» است. موارد کلیدی در این پرونده عبارتند از:
- لزوم شفافیت در لاگ‌های تولید شده توسط LLMها در سناریوهای جنایی.
- ارزیابی کارایی سیستم‌های فیلترینگ و شناسایی نیت‌های مخرب در لحظه (In-context detection).
- مسئولیت مالی پلتفرم‌ها در قبال حوادثی که مدل‌های آن‌ها به طور غیرمستقیم در شکل‌گیری آن نقش داشته‌اند.
- محل طرح شکایت: دادگاه عالی بریتیش کلمبیا
- مدل مورد بحث: OpenAI ChatGPT (نسخه‌های مبتنی بر GPT-4 و مدل‌های جدیدتر)
- هدف شکایت: دسترسی به داده‌های لاگ (Log Retrieval) و دریافت غرامت
- محور حقوقی: مسئولیت مدنی (Tort Liability) در استفاده از ابزارهای هوش مصنوعی
