تحلیل فنی چت‌بات America.gov: ناهنجاری رفتاری و تزریق محتوای استاتیک در مدل‌های زبانی

در حالی که دولت ایالات متحده به تازگی از چت‌بات رسمی America.gov رونمایی کرده است، بررسی‌های کاربران نشان می‌دهد که این سیستم هوش مصنوعی هنگام مواجهه با درخواست‌های خاص، رفتاری غیرمعمول و به اصطلاح «توهم‌آمیز» از خود نشان می‌دهد. با ارسال عبارت ساده «play minecraft» به این چت‌بات، سیستم به جای ارائه پاسخ‌های معمول، متنی فلسفی و پیچیده را بازتولید می‌کند که به طرز عجیبی با «شعر پایان بازی ماینکرفت» (Minecraft End Poem) نوشته جولیان گاف شباهت ساختاری دارد.

ساختار فنی و معماری پاسخ‌های پیش‌فرض

از منظر مهندسی نرم‌افزار، نکته قابل تأمل اینجاست که خروجی این چت‌بات در برابر پرسش مذکور برای تمام کاربران «یکسان» (Verbatim) است. در مدل‌های زبانی بزرگ (LLM) که بر اساس احتمالات آماری و توزیع توکن‌ها عمل می‌کنند، تولید خروجی‌های کاملاً مشابه برای یک پرامپت ثابت، معمولاً نشان‌دهنده وجود یک «لایه منطقی جانبی» یا یک سیستم Rule-based (مبتنی بر قانون) است که ورودی‌های خاص را شناسایی کرده و به جای تولید پاسخ داینامیک، خروجی‌های از پیش تعیین شده (Hard-coded) را تزریق می‌کند. این رویکرد در مدیریت چت‌بات‌ها معمولاً برای هدایت کاربر یا ایجاد Easter Eggها به کار می‌رود، اما در بستر یک پلتفرم دولتی، پرسش‌های امنیتی و اخلاقی متعددی را در مورد شفافیت الگوریتمی ایجاد می‌کند.

بررسی ماهیت محتوای تزریق شده

متن تولید شده توسط America.gov نسخه‌ای بازنویسی شده از شعر معروف جولیان گاف است که در آن «بازیکن» (Player) با «موکل» (Constituent) جایگزین شده است. این تغییر محتوا، صدایی انتزاعی از «روح حاکمیت فدرال» ایجاد می‌کند. بخش‌هایی از این متن که در آن به «IRS»، «دیسک‌های بایگانی» و «اسناد» اشاره شده، تضاد عجیبی با ماهیت خدمات عمومی این پلتفرم دارد. این ناهمگونی محتوایی، نشان‌دهنده استفاده از استراتژی‌های «فرهنگ اینترنتی» در پروژه‌های رسمی دولتی است که پیش‌تر در انتشار بازی‌های ویدئویی توسط کاخ سفید نیز مشاهده شده بود.

چالش‌های ترمینولوژی و سیاست‌های ابری

در فرمان اجرایی اخیر رئیس‌جمهور ترامپ، عبارت «هوش مصنوعی» (Artificial Intelligence) به طور کامل حذف شده و از اصطلاح ابداعی «ابر هوش» (Super Intelligence) استفاده شده است. از نظر فنی، این تغییر پارادایم در کلام، هیچ مبنای علمی در مدل‌های یادگیری ماشین ندارد و صرفاً یک رویکرد سیاسی در جهت بازتعریف مدیریت زیرساخت‌های دیجیتال است. تأکید بر شفافیت و قابلیت اطمینان در این دستورالعمل‌ها، با رفتارهای غیرقابل پیش‌بینی چت‌بات در تناقض آشکار است.

نتیجه‌گیری

رفتار این چت‌بات فراتر از یک خطای نرم‌افزاری ساده، نشان‌دهنده نفوذ سلیقه‌های شخصی در لایه‌های فنی زیرساخت‌های ملی است. در حالی که انتظار می‌رود سامانه‌های دولتی بر پایه شفافیت (Transparency) و پاسخگویی طراحی شوند، مشاهده چنین رفتارهای «توهم‌آمیز» برنامه‌ریزی‌شده‌ای، ضرورت بازنگری در پروتکل‌های تست (Testing) و ارزیابی مدل‌های زبانی در بخش عمومی را بیش از پیش نمایان می‌کند.