ایالت کالیفرنیا قانون جدید و کم‌نظیری را به تصویب رسانده است که شرکت‌ها را از اتکای انحصاری به سیستم‌های هوش مصنوعی برای اخراج یا جریمه انضباطی کارمندان منع می‌کند. این قانون که توسط گاوین نیوسام، فرماندار کالیفرنیا امضا شده، شامل ممنوعیت پایش الگوریتمی در فضاهای خصوصی محل کار مانند سرویس‌های بهداشتی و الزام به شفافیت در تعدیل نیروهای ناشی از اتوماسیون نیز می‌شود.
محافظت از نیروی انسانی در برابر تصمیم‌گیری‌های صلب الگوریتمی
با توسعه روزافزون مدل‌های یادگیری ماشین و ابزارهای تحلیل تحلیل رفتار کارمندان، برخی از سازمان‌ها به سمت استفاده از الگوریتم‌ها برای ارزیابی عملکرد و حتی اتخاذ تصمیمات نهایی در خصوص تعدیل نیرو حرکت کرده‌اند. طبق گزارش‌های منتشرشده در رسانه تخصصی منابع انسانی HR Dive، از هر چهار مدیر، یک نفر به طور مداوم یا در اکثر موارد از الگوریتم‌های هوش مصنوعی برای اتخاذ تصمیم در خصوص اخراج نیروها بهره می‌گیرد.
قانون جدید کالیفرنیا به صراحت اعلام می‌کند که هیچ کارفرمایی حق ندارد تنها بر پایه ارزیابی و پیشنهاد سیستم‌های خودکار و بدون مداخله و نظارت مستقیم انسانی، اقدام به صدور حکم اخراج یا تنبیه انضباطی برای نیروهای خود نماید. هدف اصلی این مصوبه، جلوگیری از خطاهای سیستماتیک و سوگیری‌های بالقوه در الگوریتم‌های هوش مصنوعی است.
جزییات و محورهای اصلی قانون جدید کالیفرنیا
- ممنوعیت اتکای انحصاری: عدم امکان اخراج یا جریمه انضباطی صرفاً با استناد به خروجی سیستم‌های هوش مصنوعی.
- شفافیت در تعدیل نیرو: الزام شرکت‌ها به اعلام رسمی نقش سیستم‌های هوش مصنوعی در جابه‌جایی یا اخراج‌های گروهی.
- ممنوعیت پایش در نقاط حساس: منع کامل به‌کارگیری ابزارهای نظارتی و نظارت تصویری مبتنی بر هوش مصنوعی در سرویس‌های بهداشتی محل کار.
- محدودیت کاربرد در حوزه حقوقی: ممنوعیت واگذاری کامل وظایف کلیدی وکلا مانند تنظیم لوایح دفاعی به ابزارهای هوش مصنوعی generative.
ریشه‌ها و انگیزه‌های تدوین قانون؛ مسئله سوگیری در مدل‌ها
تصویب این قانون به دنبال افشاگری‌ها و شکایت‌های متعدد کارکنان در شرکت‌های بزرگ فناوری صورت می‌گیرد. به عنوان نمونه، گزارش‌هایی در خصوص عملکرد ابزارهای هوش مصنوعی مورد استفاده در شرکت متا (Meta) مطرح شد که نشان می‌داد الگوریتم‌های ارزیابی، به شکل نامتناسبی کارمندانی را که از مرخصی‌های استعلاجی یا پزشکی استفاده کرده بودند، در فهرست نامزدهای تعدیل نیرو قرار داده‌اند. این‌گونه سوگیری‌ها (Bias) در داده‌های آموزشی، خطرات اتکای بدون پالایش به الگوریتم‌ها را آشکار ساخته است.
گاوین نیوسام، فرماندار کالیفرنیا در پاییز ۱۴۰۳ با تاکید بر نقش حیاتی این قوانین اظهار داشت: «هوش مصنوعی باید فرصت‌های شغلی و اقتصادی را گسترش دهد، نه اینکه به قیمت از دست رفتن معیشت کارگران و خانواده‌ها تمام شود. در شرایطی که این فناوری ساختار محل کار را تغییر می‌دهد، کالیفرنیا انسان‌ها را در محور توجه قرار داده است.»
تقابل قوانین ایالتی با مقررات فدرال و استانداردسازی واژگان
نیوسام همچنین با انتقاد از رویکرد دولت فدرال ایالات متحده مبنی بر «خودتنظیم‌گری» (Self-regulation) صنعت هوش مصنوعی، تاکید کرد که عدم مداخله حاکمیت در این حوزه خطرساز است و تنظیم‌گری هوش مصنوعی را از نظر حساسیت با صنایع پرخطر مانند صنعت هوانوردی مقایسه کرد.
علاوه بر الزامات قانونی یادشده، فرماندار کالیفرنیا یک دستور اجرایی صادر کرد که بر اساس آن تمامی نهادهای دولتی این ایالت موظفند همچنان از واژه رسمی «هوش مصنوعی» (Artificial Intelligence) استفاده کنند و از به‌کارگیری اصطلاحات جایگزین مانند «ابر هوش» (Super Intelligence) در مکاتبات رسمی پرهیز نمایند؛ اقدامی که مستقیماً در پاسخ به تغییرات ترمینولوژی در برخی بخش‌های فدرال صورت گرفته است.
ابعاد حقوقی و فنی برای شرکت‌های فناوری
این مصوبه ساختار تعامل مدیریت با داده‌های پرسنلی را تغییر خواهد داد. از منظر فنی و مدیریتی، ابزارهای اتوماسیون تحلیل داده‌های منابع انسانی (HR Analytics) از این پس تنها نقش «سیستم‌های پشتیبان تصمیم‌گیری» (Decision Support Systems) را ایفا خواهند کرد و خط لوله (Pipeline) اتخاذ تصمیم نهایی باید به صورت الزام‌آور شامل چرخه تایید انسانی (Human-in-the-loop) باشد.
