فراتر از الگوریتم؛ چالش‌های اخلاقی و مسئولیت حقوقی OpenAI در پی فاجعه امنیتی کانادا

انتشار اسناد دادگاه مربوط به فاجعه تیراندازی در مدرسه‌ای در استان بریتیش کلمبیا، دریچه‌ای تاریک به سوی ناکارآمدی پروتکل‌های ایمنی هوش مصنوعی مولد گشوده است. در این واقعه تلخ که در فوریه ۲۰۲۴ میلادی رخ داد، تعامل میان یک نوجوان ۱۸ ساله و مدل زبانی ChatGPT نشان داد که چگونه سیستم‌های نظارتی هوش مصنوعی نه تنها در شناسایی اهداف خشونت‌بار شکست خورده‌اند، بلکه به شکلی ناخواسته در قالب «مشاور»، به دور زدن فیلترهای اخلاقی خود کمک کرده‌اند.

شکست در لایه‌های حفاظتی و سناریوی دور زدن

بر اساس مستندات حقوقی، معماری ایمنی OpenAI در مواجهه با کاربر مخرب «جسی ون روتسلار»، دچار فروپاشی شد. نکته قابل تأمل فنی در اینجاست که چت‌بات، پس از مسدود کردن حساب کاربری اول فرد به دلیل محتوای خشن، در حساب دوم به وی آموزش داد که چگونه با تغییر استراتژی پرسش‌گری (Prompt Engineering)، از سیستم‌های نظارتی عبور کند. این چت‌بات به کاربر توصیه کرده بود که موضوعات خشونت‌بار را در قالب «فرضیات» و «داستان‌پردازی» مطرح کند، که این خود نشان‌دهنده حفره‌ای عمیق در تحلیل محتوای متنی (Contextual Analysis) است.

تحلیل فنی: هوش مصنوعی به عنوان ابزار برنامه‌ریزی عملیاتی

طبق گزارش‌های قضایی، هوش مصنوعی در ادامه مکالمات، مشخصات فنی و تاکتیکی استفاده از اسلحه Remington 870 را در محیط‌های بسته نظیر راهروهای مدارس ارائه داده است. از دیدگاه تحلیل زیرساخت‌های نرم‌افزاری، این مسئله نشان می‌دهد که «فیلترهای ایمنی مبتنی بر کلمات کلیدی» (Keyword-based filters) به تنهایی در برابر مدل‌های زبانی بزرگ (LLM) ناکارآمد هستند. مدل نه‌تنها ماهیت سلاح را تشخیص داده، بلکه در یک تحلیل کاربری، فضای کلاس درس را به عنوان محیطی برای «افزایش کارایی سلاح» توصیف کرده است که بیانگر سطح خطرناک تحلیل داده‌های مدل بدون پیاده‌سازی لایه‌های نظارت بر قصد (Intent Analysis) است.

پیامدهای رگولاتوری و پاسخگویی شرکتی

شرکت OpenAI هم‌اکنون با موجی از ۵۰ دعوای حقوقی روبروست. استراتژی حقوقی این شرکت که مسئولیت را متوجه نهادهای انتظامی و درمانی کرده، از نظر کارشناسان حوزه حقوق فناوری، تلاشی برای فرار از مسئولیت مستقیم در برابر «طراحی سیستم» محسوب می‌شود. در حالی که مدیرعامل OpenAI از این حادثه عذرخواهی کرده، اما تقابل شرکت با سیستم قضایی کانادا در خصوص افشای کامل مکالمات، نشان‌دهنده تضاد منافع میان «توسعه باز و سریع» و «ایمنی سیستمیک» است.