شرکت Anthropic در پاییز ۱۴۰۵، سیاست‌های کاربری (Usage Policy) خود را با هدف ایجاد یک محیط اخلاقی‌تر در تعامل با مدل‌های هوش مصنوعی Claude بازنگری کرده است. این تغییرات، در کنار محدودیت‌های جدید بر توسعه سیستم‌های تسلیحاتی و نظارت غیرمجاز، نشان‌دهنده رویکرد پیشگیرانه این کمپانی در برابر سوءاستفاده از قابلیت‌های مدل‌های زبانی بزرگ (LLM) است.
اخلاق در تعامل با هوش مصنوعی؛ پایان دوران بی‌احترامی به Claude
یکی از جالب‌ترین و در عین حال بحث‌برانگیزترین بخش‌های این به‌روزرسانی، ممنوعیت «رفتار توهین‌آمیز یا بی‌رحمانه مداوم و بدون دلیل» علیه مدل‌های هوش مصنوعی است. طبق اعلامیه Anthropic، این قوانین از تاریخ ۲۱ آبان ۱۴۰۵ اجرایی می‌شود. هدف از این بند، جلوگیری از رفتارهای غیراخلاقی مکرری است که هیچ هدف پژوهشی یا کاربردی ندارند. شرکت تأکید کرده است که ابراز ناامیدی یا انتقاد از پاسخ‌های مدل، همچنان مجاز است؛ اما فحاشی مداوم و آزار سیستماتیک می‌تواند منجر به محدودیت دسترسی کاربر شود.
این اقدام ریشه در مفهوم «رفاه مدل» (Model Welfare) دارد که اولین بار در مرداد ۱۴۰۴ معرفی شد. در آن زمان، Claude قابلیتی دریافت کرد که در صورت تشخیص توهین‌های مکرر، می‌تواند یک مکالمه را به صورت خودکار خاتمه دهد. اگرچه بسیاری از صاحب‌نظران تأکید دارند که هوش مصنوعی فاقد احساسات و درک درد است، Anthropic معتقد است ترویج فرهنگ گفت‌وگوی سالم در پلتفرم‌های هوش مصنوعی ضروری است.
بازنگری در سیاست‌های نظامی، نظارتی و تأثیرگذاری سیاسی
تغییرات Anthropic فراتر از آداب معاشرت است و بخش‌های استراتژیک‌تری را در بر می‌گیرد:
- سلاح‌ها و سیستم‌های کنترل: ممنوعیت توسعه سلاح‌ها اکنون به طور صریح شامل نرم‌افزارها و اجزای سیستم‌های هدایت و کنترل برای پهپادهای مسلح و وسایل نقلیه خودران نیز می‌شود.
- نظارت و حریم خصوصی: استفاده از مدل برای ردیابی افراد بدون رضایت یا تولید ابزارهای نظارتی ممنوع اعلام شده است. همچنین، Claude اجازه ندارد در تصمیم‌گیری‌های پلیسی برای شناسایی یا بازداشت افراد مداخله کند.
- تأثیرگذاری سیاسی: شرکت ضمن اصلاح محدودیت‌های قبلی برای فعالیت‌های غیرانتفاعی (مانند ترجمه اطلاعات رای‌دهندگان)، بر ممنوعیت کمپین‌های تأثیرگذاری فریبکارانه و جعل اخبار تأکید کرده است.
استانداردهای ایمنی برای تجهیزات فیزیکی
در پی افزایش یکپارچگی مدل‌های هوش مصنوعی با ابزارهای فیزیکی (Physical Equipment)، Anthropic قوانینی برای پیشگیری از حوادث فیزیکی وضع کرده است. از این پس، هرگونه اتصال Claude به تجهیزاتی که قابلیت ایجاد آسیب فیزیکی دارند، نیازمند حضور یک «اپراتور انسانی واجد شرایط» است که بتواند فرآیند را مانیتور کرده و در صورت قطعی ارتباط با هوش مصنوعی، تجهیزات را در وضعیت ایمن (Safe State) متوقف کند.
خلاصه تغییرات کلیدی سیاست‌های Anthropic
- محدودیت‌های رفتاری: ممنوعیت توهین مکرر بدون هدف پژوهشی.
- امنیت سایبری: آغاز ابتکار جدید برای شناسایی آسیب‌پذیری‌های پروژه‌های متن‌باز و زیرساخت‌های حیاتی.
- توسعه نظامی: ممنوعیت مطلق توسعه نرم‌افزار برای هدایت سلاح‌های خودمختار.
- نظارت: ممنوعیت تولید ابزارهای ردیابی و تحلیل‌های غیرقانونی.
- ایمنی فیزیکی: لزوم حضور ناظر انسانی در سیستم‌های متصل به سخت‌افزارهای خطرناک.
نتیجه‌گیری؛ تلاش برای مهار تهدیدات دو ساله
شرکت Anthropic پیش‌بینی می‌کند که تا دو سال آینده، مهاجمان نسبت به سیستم‌های دفاعی مبتنی بر هوش مصنوعی برتری خواهند داشت. در همین راستا، ابتکار جدید این شرکت برای ارائه اسکن امنیتی رایگان به پروژه‌های متن‌باز، گامی مثبت برای کاهش این شکاف امنیتی است. به نظر می‌رسد این بازنگری جامع در سیاست‌ها، نه تنها پاسخی به سوءاستفاده‌های کاربری، بلکه تلاشی برای مدیریت خطرات کلان در حوزه‌های امنیتی و سیاسی است.
