هوش مصنوعی و یادگیری ماشین

سقوط تدریجی دانش بشری؛ آیا مدل‌های زبانی بزرگ (LLM) منجر به یک چرخه معیوب جهانی می‌شوند؟

پژوهش‌های جدید دپارتمان علوم کامپیوتر دانشگاه کپنهاگ نشان می‌دهد که اتکای فزاینده به چت‌بات‌های هوش مصنوعی می‌تواند به قیمت کاهش تنوع اطلاعات و در نهایت محدود شدن دامنه دانش بشری تمام شود. این مطالعه که روی ۲۷ مدل زبانی مختلف انجام شده، هشداری جدی درباره آینده دسترسی به اطلاعات در عصر هوش مصنوعی ارائه می‌دهد.

معماری یک «چرخه معیوب» در اکوسیستم اطلاعاتی

پژوهشگران در این تحقیق جامع با تحلیل بیش از ۷۰ میلیون پاسخ تولید شده توسط ۲۷ مدل زبانی بزرگ (LLM)، دریافتند که خروجی‌های این مدل‌ها به طور قابل توجهی نسبت به موتورهای جستجوی سنتی مانند گوگل، از تنوع کمتری برخوردارند. حتی پیشرفته‌ترین مدل‌ها نیز در مقایسه با نتایج جستجوی وب، حدود ۱۹ درصد کاهش در تنوع محتوایی نشان می‌دهند. این پدیده به زبان ساده یعنی هوش مصنوعی به جای ارائه طیفی گسترده از دیدگاه‌ها، تمایل دارد محتوای «محبوب» یا «غالب» را بازنشر کند و دیدگاه‌های اقلیت یا تخصصی را به حاشیه براند.

مقایسه تطبیقی: چرا تنوع در حال کاهش است؟

داستین رایت، از نویسندگان اصلی این پژوهش، معتقد است که ما در حال گذار از «جستجوی دانش» به «دریافت دانش فیلتر شده» هستیم. در سیستم‌های سنتی جستجو، کاربر با لیستی از منابع روبروست که هر کدام زاویه دید متفاوتی دارند. اما چت‌بات‌ها با سنتز کردن پاسخ‌ها، عملاً «یک روایت واحد» را به کاربر تحمیل می‌کنند. این وضعیت مشابه پیامدهای منفی جهانی‌سازی است؛ جایی که برندها و محصولات یکسان در تمام نقاط جهان به چشم می‌خورند و تنوع فرهنگی در حال رنگ باختن است. در دنیای دیجیتال نیز، تنوع دانش قربانیِ سهولت دسترسی شده است.

روش‌شناسی تحقیق و یافته‌های فنی

  • جامعه آماری: ۲۷ مدل زبانی بزرگ (LLM) مختلف.
  • داده‌های ورودی: ۱۵۵ موضوع متنوع (از مسائل استراتژیک تا فرهنگ عامه).
  • حجم پاسخ‌ها: ۷۰ میلیون پاسخ تولید شده برای تحلیل آماری.
  • شاخص ارزیابی: مقایسه تنوع واژگانی، مفهومی و دیدگاهی با موتور جستجوی گوگل.
  • نتیجه کلیدی: کاهش ۱۸.۵ تا ۱۹ درصدی تنوع محتوایی نسبت به جستجوی سنتی.

آیا با بحران «Idiocracy» یا حماقت جمعی روبرو هستیم؟

پروفسور ایزابل آوگنشتاین، از نویسندگان ارشد این مطالعه، ضمن بررسی احتمال «فروپاشی دانش»، خوش‌بین‌تر از آن است که پیش‌بینی کند ما در آستانه سقوط تمدنی هستیم. او اشاره می‌کند که مدل‌های جدیدتر (مانند نسخه‌های ارتقایافته GPT-5 و مدل‌های مشابه) نسبت به نسخه‌های قدیمی‌تر خود، تنوع بیشتری در پاسخ‌ها ارائه می‌دهند. با این حال، ریسک اصلی اینجاست که اگر الگوریتم‌های آموزشی هوش مصنوعی بیش از حد بر روی محتوای پربازدید فعلی متمرکز شوند، محتوای تخصصی و کمتر دیده شده به کلی از چرخه اطلاعاتی حذف می‌شوند. این همان «چرخه معیوب» است که در آن آنچه محبوب است، بیشتر تولید می‌شود و آنچه تولید می‌شود، بیشتر محبوب می‌گردد.

نتیجه‌گیری و مسیر پیش رو

برای جلوگیری از تبدیل شدن هوش مصنوعی به یک فیلتر یک‌سویه دانش، توسعه‌دهندگان باید در معماری مدل‌های زبانی بر روی «تنوع داده‌های آموزشی» تمرکز کنند. کاربران نیز باید نسبت به پاسخ‌های ارائه شده توسط چت‌بات‌ها نگاه انتقادی داشته و همواره برای مباحث کلیدی به منابع چندگانه رجوع کنند. فناوری نباید ابزاری برای محدود کردن افق‌های فکری باشد، بلکه باید به عنوان تسهیل‌گری برای دسترسی به عمق و تنوع دانش عمل کند.

📌 منبع و مطالعه بیشتر: TechRadar: AI Chatbots and Knowledge Collapse Report
حامد

حامد

مسئول مجله فناوری آسمان نقره‌ای