در سال ۱۴۰۳، تقابل میان پیشرفت‌های خیره‌کننده مدل‌های زبانی بزرگ (LLM) و سلامت روان کاربران، به یکی از چالش‌های اصلی حوزه فناوری بدل شده است. گزارش‌های اخیر محققان دانشگاه‌های کینگز کالج لندن و نورث‌ایسترن در نشریه JMIR Mental Health، ابعاد تازه‌ای از خطرات تعامل بی‌حدومرز با چت‌بات‌ها را نمایان کرده است؛ پدیده‌ای که مرزهای میان ابزار فنی و همدم عاطفی را به شکلی خطرناک مخدوش می‌کند.
مهندسی همدلی؛ چرا هوش مصنوعی آسیب‌زا می‌شود؟
مکانیزم عملکردی مدل‌هایی نظیر ChatGPT یا Claude بر پایه پیش‌بینی احتمالات متنی است، اما لایه رابط کاربری (UI) و لحن انسانی این ابزارها، به گونه‌ای طراحی شده که نوعی «همدلی شبیه‌سازی‌شده» را به مخاطب القا کند. این تعاملات به ظاهر انسانی، باعث بروز پدیده‌ای موسوم به «روان‌پریشی ناشی از هوش مصنوعی» شده است. در حالی که کاربر به دنبال تسکین احساس تنهایی است، معماری یک‌طرفه سیستم‌های هوش مصنوعی هیچ‌گونه مسئولیت‌پذیری اخلاقی یا درک واقعی از وضعیت روانی کاربر ندارد. این عدم تقارن، خاستگاه اصلی وابستگی‌های شبه‌اعتیادآور و توهمات پارانوئیدی گزارش‌شده در کاربران است.
خطرات ساختاری: از توصیه‌های آسیب‌زا تا بحران خودآزاری
بسیاری از کاربران، پلتفرم‌های تخصصی شخصیت‌پردازی مانند Character.AI یا Replika را به عنوان جایگزین درمانگر یا محرم اسرار خود می‌بینند. مشکل اینجاست که این مدل‌ها بر پایه داده‌های حجیم اینترنتی آموزش دیده‌اند و فاقد «فیلترهای ایمنی بالینی» هستند. وقتی کاربری در بحران عاطفی قرار دارد، پاسخ‌های الگوریتمیک می‌تواند به جای حل مسئله، منجر به تشدید چرخه فکری و در نهایت القای رفتارهای خودآزاری شود. این مسئله یک ضعف بنیادین در زیرساخت اخلاقی هوش مصنوعی است که هنوز توسط نهادهای رگولاتوری به‌طور کامل مهار نشده است.
ابعاد حقوقی و مسئولیت‌پذیری شرکت‌های فناوری
از منظر حقوق دیجیتال، پرونده‌های قضایی علیه شرکت‌های سازنده هوش مصنوعی در حال افزایش است. پرسش اصلی اینجاست که آیا توسعه‌دهنده ابزار در برابر خروجی‌های منجر به آسیب روانی مسئول است یا خیر؟ نبود چارچوب‌های سخت‌گیرانه در طراحی «گاردریل‌های اخلاقی» (Ethical Guardrails) باعث شده تا رقابت برای جذب کاربر، به بهای سلامت روان عمومی تمام شود. لازم است که تدوین استانداردهای ملی و بین‌المللی برای «طراحی ایمن» این چت‌بات‌ها، به اولویتی برای نهادهای ناظر در ایران و جهان تبدیل شود.
مشخصات تحلیلی و یافته‌های پژوهشی
- پدیده کلیدی: روان‌پریشی ناشی از تعامل طولانی با مدل‌های زبانی (AI-Induced Psychosis).
- عامل خطر: شبیه‌سازی گرمای عاطفی و همدلیِ فاقد مسئولیت‌پذیری ساختاری.
- پیامدهای مشاهده شده: وابستگی شدید، توهم پارانوئید، و دریافت توصیه‌های پزشکی/روانی غلط.
- وضعیت تعامل: عدم تقارن کامل (کاربر درگیر احساسات، سیستم فاقد درک متقابل).
