وقتی الگوریتم‌ها حق درمان را سلب می‌کنند؛ چالش‌های اخلاقی و فنی به‌کارگیری هوش مصنوعی در نظام سلامت آمریکا

استقرار شتاب‌زده سامانه‌های مبتنی‌بر هوش مصنوعی در ساختارهای حیاتی نظیر نظام بیمه سلامت، به یکی از چالش‌برانگیزترین مباحث در حوزه حکمرانی داده و اخلاق فناوری تبدیل شده است. گزارش‌های اخیر درباره طرح WISeR در ایالات متحده نشان می‌دهد که چگونه جایگزینی قضاوت بالینی با مدل‌های یادگیری ماشین، می‌تواند منجر به بحران در دسترسی شهروندان به خدمات درمانی شود؛ مسئله‌ای که نه تنها برای ناظران بین‌المللی، بلکه برای فعالان حوزه سلامت دیجیتال در ایران نیز واجد درس‌های عبرت‌آموز فراوان است.

معماری WISeR و ابعاد فنی الگوریتم‌های تصمیم‌گیر

سامانه WISeR (مخفف کاهش خدمات نامناسب و بیهوده) با هدف بهینه‌سازی هزینه‌های بیمه دولتی «مدیکر» طراحی شده است. از منظر فنی، این سیستم بر پایه مدل‌های یادگیری ماشین (Machine Learning) بنا شده که با تحلیل الگوهای تاریخی مصرف خدمات درمانی، سعی در پیش‌بینی لزومِ تأیید یا رد درخواست‌های پزشکی دارد. برخلاف سیستم‌های پیشین که بر اساس پروتکل‌های سفت‌وسخت انسانی عمل می‌کردند، این مدل‌ها در وضعیت «جعبه سیاه» (Black Box) قرار دارند؛ به این معنا که شفافیت کافی در مورد نحوه وزن‌دهی به متغیرها برای رد یک درخواست درمانی وجود ندارد.

نقض رویه‌های قانونی و فقدان نظارت انسانی

بر اساس گزارش دفتر پاسخگویی دولت (GAO) در اردیبهشت ۱۴۰۴، اجرای این طرح بدون طی کردن مراحل کامل قانونی و نظارتی آغاز شده است. چالش اصلی در اینجا، خلط مبحث میان کاراییِ محاسباتی و عدالت در دسترسی است. در حالی که مدل‌های هوش مصنوعی برای تحلیل داده‌های کلان (Big Data) بهینه هستند، نبود «انسان در حلقه» (Human-in-the-loop) موجب شده است تا خطاهای الگوریتمی مستقیماً به تأخیر در درمان بیماران سالمند منجر شود. این موضوع نشان می‌دهد که چگونه یک ابزار محاسباتی می‌تواند بدون درک پیچیدگی‌های بیولوژیک انسان، حق حیات و سلامت را تحت الشعاع قرار دهد.

تبعات بر کسب‌وکارهای دیجیتال و نظام سلامت

این واقعه زنگ خطری برای شرکت‌های حوزه HealthTech است. وقتی الگوریتم‌ها جایگزین تصمیمات مدیریتی می‌شوند، مسئولیت حقوقی (Liability) در صورت بروز خطا به یکی از پیچیده‌ترین مسائل حقوقی تبدیل می‌شود. در نظام سلامت ایالات متحده، گزارش‌های نهادهای نظارتی مانند بنیاد مرزهای الکترونیکی (EFF) تأکید می‌کند که چگونه سوءاستفاده از هوش مصنوعی تحت عنوان «بهینه‌سازی منابع»، عملاً به معنای خصوصی‌سازی خاموش و کاهش دسترسی‌های عمومی است. برای اکوسیستم دیجیتال، این تجربه نشان می‌دهد که توسعه فناوری در حوزه‌های عمومی بدون ارزیابی ضربه‌پذیری (Vulnerability Assessment) و شفافیت الگوریتمی، می‌تواند اعتماد عمومی را به‌شدت تخریب کند.

مشخصات و تحلیل ساختاری

در نهایت، تجربه WISeR یادآور این واقعیت است که فناوری صرفاً ابزاری برای بهبود بهره‌وری نیست، بلکه اگر در چارچوب‌های اخلاقی و قانونی صحیح قرار نگیرد، می‌تواند به سدی در برابر حقوق اولیه شهروندی بدل شود. برای سیاست‌گذاران حوزه فناوری، لزوم تدوین «استانداردهای اخلاق هوش مصنوعی» در بخش‌های عمومی، پیش از پیاده‌سازی زیرساخت‌های کلان، از نان شب واجب‌تر است.