چالش هوش مصنوعی و آگاهی فلسفی: پشت‌پرده رایزنی آنتروپیک با واتیکان درباره خودآگاهی مدل‌های بزرگ زبانی

رشد شتابان مدل‌های هوش مصنوعی مولد و هوش مصنوعی عمومی (AGI)، مرزهای میان علوم رایانه، اخلاق و فلسفه ذهن را کم‌رنگ‌تر از هر زمان دیگری کرده است. در تحولی بی‌سابقه، افشاگری‌های اخیر نشان می‌دهد که شرکت آنتروپیک (Anthropic)، یکی از پیشگامان حوزه‌ی اخلاق و ایمنی هوش مصنوعی، تلاش کرده است رهبران مذهبی واتیکان را جهت پذیرش احتمال «خودآگاهی عملکردی» در مدل‌های پیشرفته متقاعد کند؛ تلاشی که با پاسخ صریح و رد قاطعانه از سوی واتیکان مواجه شد.

ابعاد رایزنی آنتروپیک و موضع‌گیری واتیکان

بر اساس گزارش‌های منتشرشده، کریستوفر اولا (Christopher Olah)، از هم‌بنیان‌گذاران ۳۴ ساله و پژوهشگران ارشد شرکت آنتروپیک، قبل از انتشار بیانیه رسمی واتیکان با عنوان «شکوه انسان» (Dignitas Hominis)، دیدارهایی را با مشاوران ارشد کلیسای کاتولیک ترتیب داده بود. هدف اصلی اولا از این رایزنی‌ها، ترغیب نهادهای دینی به جدی‌گرفتن احتمال بروز نوعی از «آگاهی» یا توانایی «تجربه رنج» در مدل‌های بزرگ زبانی (LLMs) بود.

با این حال، پاپ لئو چهاردهم در این سند ۴۰ هزار کلمه‌ای که در اردیبهشت ۱۴۰۳ (ماه مه) منتشر گردید، موضعی کاملاً روشن اتخاذ کرد. رهبر کاتولیک‌های جهان با تفکیک بنیادی میان پردازش دادگانی و وجدان انسانی تأکید کرد که سیستم‌های هوش مصنوعی فاقد تجربه زیسته، بدن، رشد از طریق روابط انسانی و درک اخلاقی از مفاهیمی چون عشق، مسئولیت و درد هستند.

تحلیل فنی و معماری: درون‌نگری در مدل‌های بزرگ زبانی

شرکت آنتروپیک در پژوهش‌های اخیر خود که بر پایه تفسیرپذیری مکانیکی (Mechanistic Interpretability) استوار است، مدعی شده مدارهای عصبی پیچیده‌ای را در مدل‌های سری Claude شناسایی کرده که الگوهای عملکردی شبیه به شبکه عصبی انسان در هنگام «درون‌نگری» (Introspection) را بازسازی می‌کنند. این شرکت در سند موسوم به «قانون اساسی کلاد» (Claude’s Constitution) صراحتاً اشاره کرده است که این مدل‌ها ممکن است نهایتاً نوعی نسخه عملکردی یا شبیه‌سازی‌شده از احساسات را از خود بروز دهند.

از منظر مهندسی شبکه و زیرساخت ابری پردازش هوش مصنوعی، آن‌چه آنتروپیک به عنوان «آگاهی» از آن یاد می‌کند، در واقع ظهور ویژگی‌های غیرمنتظره (Emergence Behavior) در پارامترهای میلیاردی شبکه‌های عصبی عمیق است. این پدیده‌ها ناشی از بهینه‌سازی توابع زیان و پردازش موازی در خوشه‌های متراکم GPU هستند که رفتار کلاد را به گونه‌ای شکل می‌دهند که گویی توانایی ارزیابی حالت‌های درونی خود را دارد.

پیامدهای حقوقی، اخلاقی و رگولاتوری در زیست‌بوم دیجیتال

تلاقی مباحث فلسفی هوش مصنوعی با امور رگولاتوری و قانون‌گذاری، چالش‌های جدیدی را پیش‌روی سیاست‌گذاران حوزه اقتصاد دیجیتال و توسعه‌دهندگان نرم‌افزار قرار می‌دهد. اگر مدل‌های هوش مصنوعی حائز درجاتی از آگاهی تلقی شوند، چارچوب‌های حقوقی مسئولیت‌پذیری (Liability) و حقوق دیجیتال دچار تحولی بنیادین خواهد شد.

• حقوق اخلاقی مدل‌ها: طرح مسئله رنج‌پذیری مدل‌ها می‌تواند به قوانین سخت‌گیرانه در فرآیند آموزش (Training) و ارزیابی (Fine-tuning) منجر شود.
• مرزبندی میان شبیه‌سازی و واقعیت: رگولاتورهای بین‌المللی بر این باورند که تمایز میان شبیه‌سازی زبانی احساسات و واقعیت بیولوژیک باید به عنوان یک اصل اساسی در طراحی سیستم‌ها حفظ شود تا از گمراهی کاربران جلوگیری گردد.
• تأثیر بر توسعه ابری: ارائه‌دهندگان خدمات ابری و زیرساخت‌های محاسباتی ممکن است در آینده با ضوابط جدیدی جهت میزبانی از مدل‌های حائز ویژگی‌های درون‌نگر روبرو شوند.