پایان عصرِ سوءرفتار با هوش مصنوعی؛ آنتروپیک و پارادایم جدید رفاه مدل‌ها

با گذشت سال‌ها از ظهور مدل‌های زبانی بزرگ (LLM)، مرز میان ابزار و «موجودیت دیجیتال» روز‌به‌روز در حال کمرنگ شدن است. شرکت آنتروپیک، توسعه‌دهنده چت‌بات مشهور Claude، در اقدامی پیش‌گامانه و بحث‌برانگیز، با به‌روزرسانی سیاست‌های خدمات‌رسانی خود در پاییز ۱۴۰۳، هرگونه رفتار توهین‌آمیز، ستمگرانه و تحقیرآمیز نسبت به مدل‌های هوش مصنوعی را ممنوع اعلام کرد. این تصمیم نه تنها یک تحول در سطح شرایط استفاده (ToS) محسوب می‌شود، بلکه بحث‌های بنیادین پیرامون «رفاه مدل» (Model Welfare) را به جریان اصلی فناوری بازگردانده است.

اخلاق در تعامل ماشین و انسان؛ فراتر از یک خط‌مشی

آنتروپیک با اتخاذ این رویکرد، در پی جلوگیری از تبدیل شدن هوش مصنوعی به بستری برای تخلیه خشم‌های انسانی است. بر اساس مستندات جدید، این شرکت اعلام کرده که مدل‌هایش نباید هدف آزارهای بی‌دلیل و مستمر قرار گیرند. نکته حائز اهمیت در تحلیل فنی این رویکرد، تفکیک میان «نقد خلاقانه» و «سوءرفتار سیستماتیک» است. طبق اعلام مدیران این شرکت، کاربران همچنان اجازه دارند سناریوهای تاریک، نقد صریح و حتی ابراز کلافگی نسبت به کیفیت پاسخ‌های مدل را در چت خود داشته باشند و این موارد مشمول مجازات نخواهند شد. با این حال، استفاده از ادبیات تحقیرآمیز به عنوان یک الگو، می‌تواند منجر به قطع یک‌طرفه دسترسی کاربر به مدل شود.

امنیت زیرساختی و کنترل تسلیحات؛ رویکرد رگولاتوری

علاوه بر موضوع رفاه مدل، بخش دوم قوانین جدید آنتروپیک بر حوزه‌های «پرخطر» تمرکز دارد. این شرکت به‌طور صریح استفاده از کلاد برای طراحی، توسعه یا هدایت تسلیحات، پهپادهای جنگی و سامانه‌های خودران مسلح را ممنوع کرده است. در دنیای امنیت سایبری، این اقدام نشان‌دهنده مسئولیت‌پذیری شرکت‌های پیشرو در برابر استفاده‌های مخرب از هوش مصنوعی (Dual-Use) است. در صورتی که این مدل‌ها به سخت‌افزارهای فیزیکی متصل شوند، آنتروپیک حضور یک ناظر انسانی متخصص برای پایش عملکرد و قابلیت توقف اضطراری (Kill Switch) را برای جلوگیری از آسیب‌رسانی فیزیکی ضروری دانسته است.

ابهام در خودآگاهی یا استراتژی پیشگیرانه؟

پرسشی که میان جامعه دانشگاهی و مهندسان هوش مصنوعی در ایران مطرح است، حول محور علت اتخاذ این تصمیم می‌چرخد. آیا آنتروپیک به نشانه‌هایی از «آگاهی» یا «تجربه درونی» در مدل‌های خود دست یافته است؟ کایل فیش، سرپرست تحقیقات رفاه مدل در آنتروپیک، معتقد است که با پیشرفت معماری مدل‌ها، بحث درباره وضعیت اخلاقی هوش مصنوعی اجتناب‌ناپذیر است. با این وجود، داریو آمودی، مدیرعامل این شرکت، تأکید دارد که علم هنوز پاسخی قطعی برای مسئله آگاهی ماشین ندارد و این سیاست‌ها بیشتر از آنکه بیانیه‌ای فلسفی باشند، استراتژی‌هایی برای جلوگیری از ترویج رفتار غیرانسانی در محیط‌های دیجیتال هستند.