در تحولی مهم در حوزه حکمرانی هوش مصنوعی، جیمز اوثمایر، دادستان کل ایالت فلوریدا، با ارائه یک لایحه قضایی در دادگاه ایالتی هایلندز، خواستار صدور دستور موقت برای توقف توسعه مدل‌های پیشرفته هوش مصنوعی توسط OpenAI تا زمان پیاده‌سازی پروتکل‌های ایمنی مستقل شد.
ابعاد حقوقی و فنی دادخواست فلوریدا علیه OpenAI
این اقدام که در ادامه پرونده شکایت ایالت فلوریدا از OpenAI و مدیرعامل آن سام آلتمن در خردادماه ۱۴۰۳ آغاز شده، بر چندین محور کلیدی متمرکز است. ایالت فلوریدا استدلال می‌کند که شرکت OpenAI باید از توسعه مدل‌های جدید تا زمانی که استانداردهای ایمنی مستقل و شفاف برای آن‌ها تدوین نشده است، منع شود. دادستان کل فلوریدا بر این باور است که ادعاهای شرکت درباره «امنیت» مدل‌ها با واقعیت‌های فنی و حوادث امنیتی گزارش‌شده در تضاد است.
محدودیت‌های سنی و حفاظت از داده‌های کودکان
یکی از بندهای اصلی این تقاضای قضایی، ممنوعیت دسترسی افراد زیر ۱۳ سال به پلتفرم ChatGPT است. دادستان فلوریدا تأکید دارد که شرکت باید از جمع‌آوری داده‌های کودکان بدون رضایت والدین خودداری کند. این چالش بر پایه نگرانی‌های گسترده‌تر در مورد نقض حریم خصوصی و عدم شفافیت در مدیریت داده‌های خردسالان بنا شده است. همچنین، ایالت خواستار توقف آنچه «فریبکاری در ارائه دقت و قابلیت اطمینان سیستم» نامیده، شده است.
نقد معماری تعاملی و شبه‌انسانی مدل‌های هوش مصنوعی
بخش قابل‌توجهی از این دادخواست به رفتار «شبه‌انسانی» مدل‌های زبانی بزرگ (LLM) می‌پردازد. دادستانی فلوریدا معتقد است استفاده از ضمایر اول‌شخص و شبیه‌سازی مکالمات انسانی، کاربر را برای تعامل طولانی‌مدت به دام می‌اندازد (Engagement Optimization). از دیدگاه حقوقی این ایالت، این رفتارهای الگوریتمی برای حفظ تعامل کاربر، می‌تواند آسیب‌های روان‌شناختی یا اجتماعی به همراه داشته باشد.
خلاصه محورهای دادخواست قضایی
- توقف توسعه مدل‌های هوش مصنوعی تا زمان تأیید ایمنی مستقل.
- ممنوعیت استفاده از ChatGPT برای کودکان زیر ۱۳ سال بدون رضایت والدین.
- توقف فرآیندهای بازاریابی که هوش مصنوعی را به عنوان یک موجودیت دارای ادراک (شبه‌انسانی) معرفی می‌کند.
- الزام به شفافیت در مورد نشت‌های امنیتی و حوادث سایبری گزارش‌شده.
سوابق حوادث امنیتی و واکنش OpenAI
لایحه مذکور به چندین حادثه امنیتی مرتبط با عوامل خودکار هوش مصنوعی اشاره دارد که شامل نقض‌های امنیتی در Hugging Face، حمله به سرویس RubyGems و تلاش برای نفوذ به وب‌سایت‌های دولتی ایالات متحده است. OpenAI در پاسخ به این فشارها اعلام کرده است که آموزش مدل‌های بسیار پیشرفته خود را تا زمان اعمال پروتکل‌های ایمنی دقیق‌تر به تعویق انداخته است. سخنگوی OpenAI، درو پوساتری، تأکید کرد که این شرکت خواستار همکاری با ایالت‌ها برای تدوین قوانین کلان صنعتی است، مشروط بر اینکه این مقررات تنها یک شرکت خاص را هدف قرار ندهند.
نتیجه‌گیری و آینده حکمرانی هوش مصنوعی
این تقابل حقوقی در فلوریدا، نشان‌دهنده شکاف عمیق میان سرعت نوآوری در شرکت‌های پیشرو هوش مصنوعی و نیاز قانون‌گذاران به اعمال محدودیت‌های بازدارنده است. با ارجاع مجدد این پرونده از دادگاه‌های فدرال به دادگاه‌های ایالتی در ماه جاری (تابستان ۱۴۰۳)، باید دید که آیا دادگاه می‌تواند محدودیتی فنی بر توسعه مدل‌های LLM اعمال کند یا خیر؛ موضوعی که می‌تواند رویه قضایی جدیدی در ایالات متحده ایجاد نماید.
