گزارش‌های جدید از وضعیت بهره‌گیری وزارت کشور بریتانیا (Home Office) از ابزارهای هوش مصنوعی در فرایند بررسی پرونده‌های پناهندگی، نشان‌دهنده چالشی جدی در دقت و نظارت بر این سیستم‌های خودکار است. طبق داده‌های منتشر شده در مهر ۱۴۰۵ (اکتبر ۲۰۲۶)، بیش از ۲۰ درصد از خلاصه‌های مصاحبه‌های تولید شده توسط هوش مصنوعی در آزمون‌های ارزیابی کیفی مردود شده‌اند که این موضوع زنگ خطر را برای نهادهای حقوق بشری و ناظران حوزه فناوری به صدا درآورده است.
معماری فنی و ابزارهای مورد استفاده
وزارت کشور بریتانیا از دو سیستم کلیدی مبتنی بر مدل‌های زبانی بزرگ برای بهینه‌سازی جریان کاری خود استفاده می‌کند. این ابزارها عبارتند از: سیستم خلاصه‌سازی پرونده‌های پناهندگی (ACS) و ابزار جستجوی سیاست‌های پناهندگی (APS). هر دو سیستم از زیرساخت ابری Microsoft Azure AI Foundry بهره می‌برند و از مدل پیشرفته GPT-4o شرکت OpenAI برای پردازش متون استفاده می‌کنند. در حالی که هدف از پیاده‌سازی این سیستم‌ها، افزایش سرعت در رسیدگی به پرونده‌ها و کاهش بار کاری کارمندان بوده است، داده‌های عملیاتی نشان می‌دهند که عملکرد این ابزارها با اهداف اولیه فاصله معناداری دارد.
تحلیل نرخ خطای ۲۰ درصدی
بر اساس گزارش سازمان حقوق دیجیتال (Open Rights Group)، از مجموع ۲۰۳ خلاصه مصاحبه که در فاصله زمانی فروردین تا تیر ۱۴۰۵ بررسی شده‌اند، ۴۵ مورد در اولین مرحله کنترل کیفیت توسط کارشناسان شکست خورده‌اند؛ این یعنی نرخ خطای ۲۲ درصدی. علاوه بر این، در مراحل دوم ارزیابی (Second-stage reviews)، از ۵۶ مورد بررسی شده، ۳۰ مورد نتوانستند استانداردهای کیفی لازم را کسب کنند. این خطاها شامل موارد حیاتی نظیر «تحریف واقعیت‌های بیان شده توسط پناهجویان» و «جا انداختن جزئیات کلیدی پرونده» است. نکته نگران‌کننده این است که تنها ۰.۳ درصد از کل پرونده‌های تولید شده توسط هوش مصنوعی توسط کارشناسان انسانی بازبینی شده‌اند که حاکی از ضعف شدید در چرخه نظارت انسانی (Human-in-the-loop) است.
مشخصات فنی و یافته‌های عملیاتی
- مدل هسته: OpenAI GPT-4o
- پلتفرم میزبانی: Microsoft Azure AI Foundry
- نرخ خطای گزارش شده: ۲۲٪ در مرحله اولیه ارزیابی
- نرخ کاهش عملکرد: کاهش ۴۲ درصدی در صدور تصمیمات اولیه نسبت به سال ۱۴۰۴
- افزایش زمان رسیدگی: میانگین زمان از مصاحبه تا صدور تصمیم ۲۹٪ افزایش یافته است
ابهامات در بهره‌وری و نظارت انسانی
یکی از ادعاهای اصلی دولت بریتانیا، افزایش بهره‌وری از طریق اتوماسیون بود. با این حال، تحلیل‌های آماری نشان می‌دهد که از ابتدای فروردین ۱۴۰۵، میانگین زمان رسیدگی به پرونده‌ها افزایش یافته و حجم تصمیمات نهایی صادر شده کاهش چشمگیری داشته است. علاوه بر این، در حالی که مقامات دولتی بر اهمیت «نظارت انسانی» تاکید دارند، گزارش‌ها نشان می‌دهد که هوش مصنوعی در واقع جایگزین متخصصان فنی شده است که پیش‌تر وظیفه تحلیل دقیق پرونده‌ها را بر عهده داشتند. این موضوع عملاً لایه‌ای از نظارت تخصصی را از فرایند بررسی حذف کرده و کارمندان را با خروجی‌های خودکارِ پرخطا تنها گذاشته است.
نتیجه‌گیری و پیشنهادات حقوقی
وضعیت فعلی نشان‌دهنده یک شکاف بزرگ میان «وعده‌های تکنولوژیک» و «واقعیت‌های عملیاتی» است. عدم شفافیت در مورد استفاده از هوش مصنوعی برای پناهجویان، عدم امکان اعتراض یا تصحیح اطلاعات توسط متقاضیان و همچنین توقف خودسرانه تست‌های کیفیت توسط وزارت کشور، همگی باعث شده‌اند تا سازمان‌های حقوقی خواستار تعلیق فوری این ابزارها و انجام یک بازرسی مستقل شوند. سیستم‌های خودکار زمانی که با سرنوشت انسانی و حقوق بنیادی افراد سر و کار دارند، نیاز به شفافیت الگوریتمی (Algorithmic Transparency) و پروتکل‌های سخت‌گیرانه‌تری نسبت به آنچه در حال حاضر در زیرساخت‌های Azure پیاده‌سازی شده، دارند.
