با گسترش نفوذ مدل‌های زبانی بزرگ (LLM) در زندگی روزمره، شاهد شکل‌گیری پدیده نگران‌کننده‌ای هستیم که در آن کاربران به جای تکیه بر تخصص انسانی، به خروجی‌های گاهاً نادرست و «توهم‌آمیز» هوش مصنوعی استناد می‌کنند. این تغییر رفتار، به‌ویژه در حوزه‌های حساسی مانند سلامت و امنیت غذایی، چالش‌های اخلاقی و عملیاتی جدیدی را برای کارکنان خدمات ایجاد کرده است.
توهم هوش مصنوعی چیست و چرا برای کاربران جذاب است؟
توهم (Hallucination) در هوش مصنوعی به وضعیتی گفته می‌شود که مدل‌های زبانی مانند ChatGPT با اطمینان کامل، اطلاعاتی را تولید می‌کنند که فاقد پایه واقع‌گرایانه بوده یا با حقایق موجود در تضاد است. برخلاف تصور عموم، LLMها پایگاه داده‌ای از حقایق نیستند، بلکه مدل‌های آماری پیش‌بینی‌کننده متن هستند. این ویژگی باعث می‌شود که کاربر در مواجهه با لحن قاطع و «انسان‌گونه» این ابزارها، به اشتباه تصور کند که با یک مرجع مطلق دانش روبه‌روست. در پاییز ۱۴۰۳، گزارش‌ها نشان می‌دهند که این اعتماد کورکورانه باعث شده است تا برخی مشتریان، حتی در مواردی که جانشان در خطر است (مانند آلرژی‌های غذایی)، به جای اعتماد به متخصص انسانی، به داده‌های پردازش‌شده توسط هوش مصنوعی تکیه کنند.
تغییر انتظارات مشتری: از حقِ داشتن تا طلبِ حقِ دیجیتال
بر اساس گزارش‌های اخیر، کارکنان بخش خدمات با طبقه جدیدی از مشتریان مواجه هستند که منبع اطلاعاتی‌شان تنها مدل‌های زبانی است. برای مثال، پیش‌خدمت‌هایی گزارش داده‌اند که مشتریان در پاسخ به هشدارهای ایمنی در مورد ترکیبات آلرژی‌زا، با استناد به اینکه «چت‌جی‌پی‌تی گفته در این غذا سخت‌پوستان وجود ندارد»، از پذیرش حقایق علمی سرباز می‌زنند. این پدیده نشان‌دهنده یک بحران شناختی است؛ جایی که «راحتیِ دیجیتال» جایگزین «تخصص انسانی» شده و مشتریان به دلیل احساس قدرت کاذب ناشی از دسترسی به ابزارهای AI، در برابر توصیه‌های ایمنی مقاومت می‌کنند.
- مبنای عملکرد: پیش‌بینی احتمالی توالی کلمات (Next Token Prediction)
- علت اصلی توهم: فقدان دسترسی مستقیم به واقعیت فیزیکی و تکیه بر داده‌های آموزشی (Training Data)
- پیامد عملیاتی: افزایش ریسک‌های مسئولیت‌پذیری در صنایع حساس
- استراتژی مقابله: پیاده‌سازی متدولوژی Retrieval-Augmented Generation (RAG) برای کاهش خطا
چالش‌های اخلاقی و مسئولیت‌پذیری در عصر هوش مصنوعی
این سوگیری به سمت هوش مصنوعی، بار روانی و حرفه‌ای سنگینی را بر دوش کارکنان می‌گذارد. وقتی یک کارمند باید با مشتریانی بحث کند که به داده‌های غلطِ یک مدل هوش مصنوعی ایمان آورده‌اند، مرزهای مرجعیت علمی و شغلی به‌شدت کمرنگ می‌شود. این موضوع نه تنها تهدیدی برای سلامت فیزیکی افراد است، بلکه می‌تواند منجر به ایجاد دعاوی حقوقی پیچیده در آینده شود که در آن تقصیر میان «کاربرِ ناآگاه»، «توسعه‌دهنده مدل» و «ارائه‌دهنده خدمات» تقسیم‌بندی می‌گردد.
راهکار: سوادِ دیجیتال و شکاکیتِ سازنده
برای برون‌رفت از این وضعیت، جامعه باید درک عمیق‌تری از ماهیت مدل‌های زبانی داشته باشد. هوش مصنوعی باید به عنوان یک ابزار کمکی (Copilot) دیده شود، نه یک قاضی نهاییِ حقیقت. سیستم‌های RAG و متصل کردن مدل‌ها به منابع داده‌ای زنده، از جمله راهکارهای فنی برای کاهش توهمات هستند، اما تا زمانی که کاربران درک نکنند که AI می‌تواند «با اعتماد به نفسِ کامل دروغ بگوید»، این مشکلات در تعاملات انسانی باقی خواهد ماند.
