تحلیلی بر ماهیت توهمات هوش مصنوعی: چرا LLMها «دروغگو» نیستند بلکه «یاوه‌گو» هستند؟

در حالی که جوامع فنی در سراسر جهان درگیر بحث پیرامون «توهمات» (Hallucinations) مدل‌های زبانی بزرگ هستند، یک خطای ادراکی بنیادی در حال وقوع است. ما به اشتباه به مدل‌های هوش مصنوعی ویژگی‌های اخلاقی انسانی مانند «دروغگویی» را نسبت می‌دهیم، غافل از آنکه معماری این سیستم‌ها، آن‌ها را نه در قامت یک دروغگو، بلکه در قامت یک «یاوه‌گو» (Bullshitter) قرار می‌دهد؛ مفهومی که هری فرانکفورت، فیلسوف برجسته دانشگاه پرینستون، دهه‌ها پیش آن را با دقتی خیره‌کننده کالبدشکافی کرد.

تفاوت بنیادین دروغگو با یاوه‌گو

از منظر فلسفی، «دروغگو» فردی است که حقیقت را می‌شناسد، اما عمداً تلاش می‌کند تا مخاطب را از آن دور نگه دارد. دروغگو به حقیقت احترام می‌گذارد، زیرا برای پنهان کردن آن، ابتدا باید جایگاه دقیق آن را بشناسد. اما «یاوه‌گو» در بازی حقیقت و کذب شرکت نمی‌کند. برای او، حقیقت و دروغ تفاوتی ندارند؛ تنها چیزی که اهمیت دارد، «خوش‌آیند بودن» یا «قانع‌کننده بودن» کلام است. او نه حقیقت را می‌داند و نه برایش اهمیت دارد که آیا آنچه می‌گوید با واقعیت انطباق دارد یا خیر.

مدل‌های زبانی بزرگ (LLM)؛ ماشین‌های تولید احتمالات

مدل‌های زبانی بزرگ، همان‌طور که از نامشان پیداست، «پیش‌بین‌کننده کلمه بعدی» (Next Token Predictor) هستند. این سیستم‌ها بر اساس الگوهای آماری موجود در داده‌های آموزشی خود عمل می‌کنند. یک LLM هیچ درکی از واقعیت خارجی، اسناد حقوقی یا رویدادهای تاریخی ندارد. ابزارهای هوش مصنوعی مانند ChatGPT دقیقاً مانند یک بادنما عمل می‌کنند؛ آن‌ها به هر سمتی که جریان احتمالات آماری سوقشان دهد، با همان اطمینان و شیوایی پاسخ می‌دهند، چه آن پاسخ واقعیت محض باشد و چه داستانی کاملاً جعلی.

خطرات اعتماد کاذب در حوزه‌های تخصصی

نمونه بارز آسیب این «یاوه‌گویی» دیجیتال، پرونده حقوقی معروف Mata v. Avianca است. در این پرونده، وکلای مدافع با اتکا به تحقیقات هوش مصنوعی، پرونده‌هایی را به دادگاه ارائه کردند که اصلاً وجود خارجی نداشتند. هوش مصنوعی با اطمینان کامل به آن‌ها اطمینان داده بود که این پرونده‌ها در دیتابیس‌های حقوقی موجودند. این یک «دروغ» نیست؛ این همان ماهیت فریبنده یاوه‌گویی است که در آن، خروجیِ فاقد پشتوانه واقعی، به شکلی کاملاً قانع‌کننده بسته‌بندی شده است.

مسیر آینده: شفافیت به جای شیوایی بیشتر

صنعت هوش مصنوعی تمایل دارد با افزایش پارامترها و بهبود شیوایی متن، پاسخ‌ها را «معتبرتر» نشان دهد، اما این کار تنها ابعاد خطر را بزرگ‌تر می‌کند. راهکار، ساختن هوش مصنوعی با اعتماد‌به‌نفس بالاتر نیست؛ بلکه طراحی سیستم‌هایی است که رابطه خود با شواهد و مدارک را شفاف کنند. سیستم‌هایی مانند Vertus با بهره‌گیری از «تحلیل مسیر فراشناختی»، سعی دارند مشخص کنند که استدلال هوش مصنوعی کجا بر پایه متقن است و کجا از مدار واقعیت خارج شده است. در نهایت، پیش از سپردن وظایف حیاتی به هوش مصنوعی، باید این پرسش کلیدی را مطرح کرد: «آیا این سیستم اصلاً برایش مهم است که پاسخش حقیقت دارد یا خیر؟» پاسخ به این سوال، مرز بین یک ابزار کاربردی و یک ریسک بزرگ سازمانی است.