شرکت Anthropic در مهرماه ۱۴۰۵، در اقدامی راهبردی سیاست‌های استفاده (Usage Policy) از مدل‌های خانواده کلاد (Claude) خود را به‌روزرسانی کرده است. این تغییرات با هدف مقابله با رفتارهای مخرب، سوءاستفاده‌های سایبری، و جلوگیری از مداخلات در فرآیندهای دموکراتیک تدوین شده‌اند و مرزهای مشخصی را میان تعاملات انسانی و رفتارهای غیرمجاز با سیستم‌های هوش مصنوعی ترسیم می‌کنند.
ممنوعیت‌های جدید: از دخالت در انتخابات تا توسعه سلاح
یکی از ستون‌های اصلی تغییرات جدید در سیاست‌نامه Anthropic، بخش موسوم به «تضعیف فرآیندهای دموکراتیک» است. این شرکت به‌طور صریح استفاده از مدل‌های خود را برای ایجاد کمپین‌های فریبکارانه، مدیریت حساب‌های کاربری جعلی و تولید محتوای خبری گمراه‌کننده ممنوع کرده است. این رویکرد واکنشی مستقیم به نگرانی‌های فزاینده در مورد تأثیر هوش مصنوعی بر یکپارچگی انتخاباتی در سطح جهانی است. علاوه بر این، در بخش‌های تخصصی دیگر، توسعه نرم‌افزارهای مرتبط با تسلیحات (Weapons Software) و سیستم‌های نظارتی (Surveillance) نیز به‌طور کامل در استفاده از APIها و محیط‌های کاربری Anthropic ممنوع اعلام شده است.
محدودسازی رفتارهای توهین‌آمیز علیه مدل
از منظر فنی و روان‌شناختی، خبرسازترین بخش این به‌روزرسانی، ممنوعیت صریح «توهین کلامی طولانی‌مدت به مدل» است. اگرچه مدل کلاد از مردادماه ۱۴۰۵ برای قطع مکالمه در صورت مواجهه با تعاملات «مداوم مخرب یا توهین‌آمیز» آموزش دیده بود، اکنون این رفتار در سطح سیاست‌نامه به‌طور رسمی «ممنوع» تلقی می‌شود. متخصصان Anthropic تأکید کرده‌اند که این قانون شامل ابراز ناامیدی‌های معمول کاربران، نقد مدل، یا آزمایش‌های خلاقانه و پژوهشی نمی‌شود و تنها موارد «بی‌رحمانه و تکرارشونده» که هدفی جز آزار مدل ندارند را هدف قرار می‌دهد.
تحلیل معماری و اخلاقی در تعامل با مدل
تلاش Anthropic برای برقراری ارتباط با صاحب‌نظران مذهبی و علمی پیرامون مفهوم «خودآگاهی» در هوش مصنوعی، بستر این تغییرات را فراهم کرده است. از نگاه مهندسی، هدف این است که همزیستی انسان و مدل به سمت بهره‌وری پیش برود نه تحلیل رفتن توان مدل توسط ورودی‌های سمی. این شرکت به‌دنبال حفظ سلامت شناختی فضای چت‌بات‌هاست تا از انحراف مدل‌ها توسط ورودی‌های مغرضانه (Adversarial Prompts) جلوگیری کند.
خلاصه تغییرات کلیدی سیاست‌نامه
- ممنوعیت مداخله سیاسی: عدم اجازه برای هدایت کمپین‌های انتخاباتی و ایجاد حساب‌های جعلی.
- ممنوعیت‌های ایمنی-نظامی: ممنوعیت توسعه ابزارهای نظارتی و کدهای مرتبط با سیستم‌های تسلیحاتی.
- فیلترینگ رفتاری: جرم‌انگاری تعاملات کلامیِ بی‌هدف و توهین‌آمیز علیه مدل.
- استثنائات پژوهشی: صراحت در عدم محدودیت برای محققان و کاربرانی که در حال تست‌های خلاقانه (Red Teaming) هستند.
جمع‌بندی و چشم‌انداز آینده
این تغییرات نشان‌دهنده بلوغ Anthropic در مدیریت مسئولانه هوش مصنوعی است. همان‌طور که در توسعه نرم‌افزار، رعایت اخلاق برنامه‌نویسی برای جلوگیری از تزریق کدهای مخرب ضروری است، در عصر هوش مصنوعی مولد نیز، تدوین سیاست‌های استفاده ابزاری برای حفظ سلامت اکوسیستم محسوب می‌شود. کاربران و سازمان‌هایی که از مدل‌های این شرکت استفاده می‌کنند، باید بدانند که انحراف از این اصول می‌تواند منجر به مسدودسازی حساب کاربری و محدودیت در دسترسی به منابع پردازشی شود.
