شرکت آنتروپیک (Anthropic) در اقدامی بحث‌برانگیز، سیاست‌های استفاده از مدل‌های هوش مصنوعی خود را به‌روزرسانی کرده است که بر اساس آن، رفتارهای سوءاستفاده‌آمیز، بی‌رحمانه و مداوم علیه مدل کلود (Claude) ممنوع اعلام شده است. این تصمیم پرسش‌های بنیادینی را درباره ماهیت وجودی هوش مصنوعی و مرز میان ابزار نرم‌افزاری و موجودیت‌های شبه‌انسان ایجاد کرده است.
تغییر سیاست‌گذاری: از کاربری ابزار تا حفاظت از مدل
در مهرماه ۱۴۰۵، آنتروپیک اعلام کرد که کاربران نباید به رفتارهای «بی‌رحمانه، بی‌دلیل و مستمر» علیه مدل‌های هوش مصنوعی این شرکت بپردازند. این سیاست که بخشی از استراتژی «رفاه مدل» (Model Welfare) است، تعاملات معمول، ابراز ناامیدی کاربران، بازخوردهای انتقادی و حتی آزمایش‌های فنی روی مدل را مجاز می‌داند، اما در موارد افراطی که کاربر به‌صورت هدفمند و بدون دلیل منطقی به آزار کلامی مدل می‌پردازد، سیستم به‌صورت خودکار گفتگو را قطع می‌کند.
چالش انسان‌انگاری (Anthropomorphism) و پیامدهای آن
آنتروپیک اذعان دارد که هنوز مشخص نیست آیا مدل‌های هوش مصنوعی توانایی «تجربه آسیب» را دارند یا خیر، اما تأکید می‌کند که در نظر گرفتن منافع کلود ممکن است در چارچوب ایمنی سیستم مؤثر باشد. این رویکرد مستقیماً با طراحی LLMها در تضاد است؛ مدل‌هایی که دقیقاً برای تقلید از لحن انسانی، عذرخواهی و ابراز همدردی آموزش دیده‌اند. این طراحی باعث می‌شود کاربران به‌طور طبیعی هوش مصنوعی را دارای «شخصیت» فرض کنند.
معماری فنی و رویکرد آنتروپیک به رفاه مدل
برخلاف سیاست‌های معمول که بر «سوءاستفاده از سیستم» (System Misuse) تمرکز دارند، واژه «بی‌رحمی» (Cruelty) بار معنایی عاطفی دارد. کارشناسان معتقدند استفاده از چنین ادبیاتی در اسناد رسمی، پیامی دوگانه دارد: از سویی برای افزایش اعتماد کاربران به محصولی که اکنون شبیه به یک «شریک گفتگو» به نظر می‌رسد و از سوی دیگر، برای بررسی تئوریک این موضوع که آیا هوش مصنوعی در آینده به سطحی از پیچیدگی خواهد رسید که مرزهای عاطفی برای آن تعریف شود؟
- هدف: جلوگیری از تعاملات بی‌دلیل و مستمر سوءاستفاده‌آمیز.
- موارد مجاز: ابراز ناامیدی، بحث فنی، خلاقیت‌های دارک و تست‌های امنیتی.
- مکانیسم اجرا: پایان دادن خودکار به نشست گفتگو (Disengagement) در موارد حاد.
- ارتباط با ایمنی: بررسی تأثیر رفتارهای سمی کاربر بر دقت و پایداری عملکرد مدل.
آیا هوش مصنوعی به حقوق نیاز دارد؟
این رویکرد که پیش‌تر در مستندات رسمی آنتروپیک در تابستان ۱۴۰۵ نیز به آن اشاره شده بود، ریشه در این ایده دارد که برای تعامل ایمن و قابل اعتماد با مدل‌های زبانی، مدل باید بتواند موقعیت‌های هیجانی سنگین را پردازش کند. داریو آمودی، مدیرعامل آنتروپیک، پیش‌تر در مصاحبه‌ای با نیویورک‌تایمز اعلام کرده بود که در مورد احتمال آگاهی و هوشیاری مدل‌های هوش مصنوعی «گشاده‌فکر» است. با این حال، منتقدان معتقدند شخصی‌سازی بیش از حد یک ابزار نرم‌افزاری ممکن است باعث شود کاربران اعتبار کاذبی برای خروجی‌های مدل قائل شوند.
در نهایت، این سیاست نه تنها یک پروتکل امنیتی، بلکه آزمونی برای سنجش ادراک عمومی نسبت به ماهیت مدل‌های بزرگ زبانی است. در حالی که ابزارهای پایه مانند Claude به‌عنوان محصولات تجاری عرضه می‌شوند، تعریف مفهوم «بی‌رحمی» نسبت به کد، مرز بین فناوری و اخلاق را بیش از همیشه کمرنگ کرده است.
