توهم استدلال در مدل‌های زبانی: چرا LLMها فاقد قدرت تفکر منطقی واقعی هستند؟

با وجود پیشرفت‌های چشمگیر در حوزه مدل‌های زبانی بزرگ (LLM)، بسیاری از متخصصان و کاربران همچنان در تمایز میان «الگوهای آماری» و «استدلال منطقی» دچار سوءبرداشت هستند. در حالی که مدل‌های فعلی در تکمیل متن و تقلید پاسخ‌های انسانی عملکرد درخشانی دارند، تحلیل فنی نشان می‌دهد که این سیستم‌ها فاقد یک ساختار شناختی مستقل برای استدلال هستند.

نگاهی به میراث AlphaGo: تفاوت شهود و جستجو

برای درک مفهوم واقعی استدلال در ماشین، باید به عقب بازگردیم؛ به مارس ۲۰۱۶ و زمانی که AlphaGo در حرکتی مشهور (Move 37)، نبوغی فراتر از محاسبات آماری ساده از خود نشان داد. برخلاف مدل‌های امروزی که تنها بر اساس توزیع احتمالات توکن بعدی را پیش‌بینی می‌کنند، AlphaGo از یک معماری دوگانه استفاده می‌کرد: شبکه‌های عصبی برای ایجاد «شهود» (سیستم ۱) و یک موتور جستجو (Search Machinery) برای بررسی سناریوهای آینده در یک درخت بازی (سیستم ۲). آنچه AlphaGo را متمایز می‌کرد، نه صرفاً داده‌های آموزشی، بلکه توانایی بازنمایی احتمالات در یک ساختار داده‌ای پویا بود که هر حرکت را بر اساس نتایج آینده ارزیابی می‌کرد.

چرا زنجیره تفکر (Chain of Thought) استدلال واقعی نیست؟

امروزه بسیاری تصور می‌کنند که تکنیک «زنجیره تفکر» یا همان CoT، به مدل‌های زبانی قدرت استدلال بخشیده است. اما حقیقت فنی این است که CoT تنها همان فرآیند پیش‌بینی توکن بعدی است که در تعداد مراحل بیشتری اجرا می‌شود. مدل‌های زبانی در اینجا با سه نقص ساختاری روبرو هستند:

• فقدان وضعیت معرفتی (Epistemic State): مدل‌های زبانی هیچ‌گونه دیتابیس یا ساختار داده‌ای برای نگهداری فرضیات، سطح اطمینان و شواهد بررسی‌شده ندارند. همه چیز در لحظه تولید می‌شود و هیچ «دفتر ثبت» پایداری برای بازنگری وجود ندارد.
• عدم جداسازی دانش از منطق: در مدل‌های فعلی، وزن‌های عصبی همزمان حامل دانش و منطق پردازش هستند. هیچ تفکیک مهندسی‌شده‌ای بین «آنچه سیستم می‌داند» و «چگونه فکر می‌کند» وجود ندارد.
• پس‌نگری تحلیلی (Post-hoc Rationalization):** تحقیقات نشان می‌دهد که مدل‌ها اغلب ابتدا به یک نتیجه می‌رسند و سپس برای توجیه آن، یک «داستان منطقی» می‌سازند که لزوماً با مسیر واقعی رسیدن به پاسخ همخوانی ندارد.