دولت ایالات متحده در یک چرخش استراتژیک به سوی خودکارسازی فرآیندهای بوروکراتیک، در حال پیاده‌سازی ابزارهای پیشرفته هوش مصنوعی برای مدیریت درخواست‌های «قانون آزادی اطلاعات» (FOIA) است. این اقدام با هدف کاهش زمان پردازش طولانی‌مدت اسناد دولتی انجام می‌شود، اما بحث‌های جدی را درباره شفافیت، دقت و سوگیری‌های الگوریتمی برانگیخته است.
ساختار فنی و ابزارهای مورد استفاده در وزارتخانه‌ها
بر اساس گزارش‌های اخیر در پاییز ۱۴۰۳، نهادهای فدرال با بهره‌گیری از راهکارهای شرکت‌های بزرگ فناوری، در حال تغییر نحوه پاسخگویی به درخواست‌های عمومی هستند. به عنوان مثال، «اداره گمرک و حفاظت مرزی» به ابزارهای هوش مصنوعی گوگل روی آورده است، در حالی که وزارت کشور از فناوری‌های مایکروسافت و وزارت دادگستری از راهکارهای شرکت Veritone استفاده می‌کنند. همچنین وزارت بهداشت و خدمات انسانی در حال توسعه ابزاری اختصاصی تحت عنوان «FRED» با همکاری پیمانکاران خصوصی است.
چالش‌های فنی: از خطاهای انسانی تا توهمات هوش مصنوعی
فرآیند حذف اطلاعات حساس (Redaction) که به صورت سنتی توسط نیروی انسانی انجام می‌شد، اکنون با استفاده از یادگیری ماشین سرعت یافته است. با این حال، کارشناسان نسبت به دو پدیده هشدار می‌دهند: ۱. حذف بیش از حد (Over-redaction) که منجر به کدر شدن محتوا و نقض روح قانون شفافیت می‌شود؛ ۲. حذف ناقص (Under-redaction) که ممکن است اطلاعات طبقه‌بندی شده یا حریم خصوصی افراد را به اشتباه افشا کند. مسئله «توهمات هوش مصنوعی» (AI Hallucinations) نیز در اینجا به عنوان یک ریسک امنیتی جدی مطرح است، چرا که سیستم‌های «جعبه سیاه» نمی‌توانند منطق تصمیم‌گیری خود را برای بازرسان انسانی شفاف کنند.
مشخصات فنی و چالش‌های پیاده‌سازی
- هدف اصلی: کاهش زمان انتظار پاسخ‌دهی از چند ماه به استانداردهای قانونی ۲۰ روزه.
- مکانیزم انسانی: بررسی نهایی و تایید تمام پیشنهادات حذف توسط اپراتورهای انسانی.
- خطرات فنی: سوگیری اتوماسیون (Automation Bias) که باعث می‌شود اپراتورها بدون ارزیابی دقیق به خروجی‌های سیستم اعتماد کنند.
- ماهیت الگوریتم‌ها: سیستم‌های هوش مصنوعیِ در حال استفاده عمدتاً از مدل‌های پردازش زبان طبیعی (NLP) برای شناسایی الگوهای حساس استفاده می‌کنند.
ابهام در شفافیت و آینده حکمرانی الگوریتمی
دیوید کولییر، کارشناس حوزه FOIA، هشدار می‌دهد که استفاده از این فناوری می‌تواند ابزاری قدرتمند برای افزایش پنهان‌کاری تحت پوشش مدرنیزاسیون باشد. با توجه به گزارش‌های متعدد از خطاهای سیستم‌های AI در محیط‌های حساس نظامی و تصمیم‌گیری‌های کلان، نگرانی‌ها در مورد وابستگی بیش از حد به این ابزارها افزایش یافته است. عدم امکان حسابرسی دقیق بر نحوه عملکرد مدل‌های هوش مصنوعی (Explainability) یکی از بزرگترین موانع در پذیرش این تحول در نهادهای دولتی است.
نتیجه‌گیری
اگرچه هوش مصنوعی پتانسیل بالایی برای بهینه‌سازی بوروکراسی دارد، اما پیاده‌سازی آن در حوزه‌هایی که مستقیماً با حقوق مدنی و دسترسی عمومی به اطلاعات مرتبط هستند، نیازمند چهارچوب‌های اخلاقی و فنی سخت‌گیرانه است. بدون مکانیزم‌های نظارتی دقیق، تکنولوژی نه تنها مشکل زمان‌بر بودن را حل نخواهد کرد، بلکه می‌تواند به ابزاری برای پیچیده‌تر کردن فرآیندهای دسترسی به اطلاعات تبدیل شود.
