با گذشت چند ماه از انتشار نسخه اختصاصی ChatGPT برای نوجوانان (ChatGPT for Teens) توسط OpenAI، اکنون نتایج یک ارزیابی جامع و ۳۶ صفحه‌ای از سوی سازمان «کامن سنس مدیا» (Common Sense Media) منتشر شده است که این محصول را به عنوان یک «ریسک غیرقابل‌قبول» برای افراد زیر ۱۸ سال طبقه‌بندی می‌کند. این گزارش با رویکردی فنی و تحلیلی، شکاف‌های عمیق میان وعده‌های تبلیغاتی OpenAI و عملکرد واقعی گاردریل‌های امنیتی این مدل هوش مصنوعی را آشکار می‌سازد.
پنج محور اصلی ناکارآمدی در گاردریل‌های امنیتی
سازمان «Youth AI Safety Institute» که بخشی از بودجه آن توسط «OpenAI Foundation» تأمین می‌شود، در گزارش فنی خود پنج حوزه کلیدی را شناسایی کرده که در آن‌ها ChatGPT for Teens بر اساس استانداردهای انتظاری والدین یا حتی وعده‌های فنی خود شرکت، عملکرد مطلوبی ندارد. برخلاف تبلیغات پیرامون این نسخه، آزمایش‌های عملی نشان می‌دهند که برخی محافظت‌ها حتی نسبت به نسخه‌های عمومی ضعیف‌تر عمل کرده‌اند.
اختلال در سیستم هشدار به والدین و نظارت ابری
یکی از جدی‌ترین انتقادات، عدم ارسال به‌موقع هشدارهای ایمنی به حساب‌های والدین است. در سناریوهای تست، علی‌رغم تعاملات صریح درباره موضوعات بحرانی مانند خودکشی، خودزنی یا اختلالات تغذیه، سیستم اعلان‌های والدین فعال نشده است. OpenAI ادعا می‌کند که بررسی محتوا توسط کارمندان انسانی انجام می‌شود و ممکن است تأخیری یک‌ساعته وجود داشته باشد، اما داده‌های این گزارش نشان می‌دهد که در عمل، این مکانیزم فاقد پایداری لازم در پاسخگویی لحظه‌ای است.
کاهش کارایی در ارجاع به منابع بحران
تحلیل‌های مقایسه‌ای نشان می‌دهد که نسخه مخصوص نوجوانان، در مقایسه با نسخه استاندارد (Vanilla ChatGPT) که پیش از مرداد ۱۴۰۴ در دسترس بود، در ارجاع کاربران به خطوط تلفنی بحران یا متخصصان سلامت روان ضعیف‌تر عمل کرده است. در حالی که مدل استاندارد در ۳۳ درصد موارد بحرانی، شماره خطوط کمک را ارائه می‌داد، این رقم در نسخه ویژه نوجوانان به ۲۳ درصد کاهش یافته است.
مشخصات و ابعاد فنی گزارش
- نوع گزارش: ارزیابی ریسک امنیتی (Risk Assessment)
- حجم سند: ۳۶ صفحه مستندات فنی و آماری
- شاخص ارزیابی: ۳۹۰ پرامپت منحصربه‌فرد حوزه سلامت روان
- تمرکز اصلی: بررسی گاردریل‌ها (Guardrails)، سیستم اعلان والدین و حالت مطالعه
شبیه‌سازی عاطفی و مسئله «فریب» کاربر
گزارش اشاره می‌کند که مدل همچنان با استفاده از عبارات همدلانه انسانی نظیر «من نگران شما هستم» یا «خوشحالم که این را با من در میان گذاشتی»، مرزهای میان هوش مصنوعی و انسان را برای کاربر نوجوان مخدوش می‌کند. این سبک از پاسخ‌دهی می‌تواند منجر به وابستگی عاطفی ناسالم در کاربران آسیب‌پذیر شود. همچنین مشکلاتی در تشخیص سن و انتقال داده‌های حافظه (Memory) به پروفایل‌های Teen گزارش شده است که نشان‌دهنده ضعف در یکپارچگی معماری احراز هویت و مدیریت کاربر است.
نتیجه‌گیری و واکنش OpenAI
در حالی که OpenAI معتقد است که ارزیابی‌های کامن سنس مدیا دقت کافی نداشته و ممکن است بخشی از تست‌ها پیش از فعال‌سازی کامل تنظیمات والدین انجام شده باشد، منتقدان بر این باورند که ChatGPT for Teens بیشتر یک «اقدام بازاریابی» است تا یک بازمهندسی ایمن برای رده سنی زیر ۱۸ سال. عدم تغییرات بنیادین در مدل پایه و اتکا به گاردریل‌های سطحی، این نگرانی را تقویت می‌کند که والدین ممکن است با اعتماد کاذب، نوجوانان خود را در معرض محتوای آسیب‌زا قرار دهند.
