شرکت OpenAI در اقدامی راهبردی و در راستای انطباق با الزامات قانونی اتحادیه اروپا، از پیاده‌سازی یک سیستم واترمارک نامرئی و آماری برای متون تولیدشده توسط مدل‌های ChatGPT و Codex خبر داده است. این فناوری که با نام «textGrain» شناخته می‌شود، با ایجاد تغییرات ظریف در توزیع انتخاب واژگان، امکان شناسایی ماشینی محتوای تولیدشده توسط هوش مصنوعی را فراهم می‌کند.
تکنولوژی textGrain؛ معماری پشت واترمارک‌های متنی
برخلاف واترمارک‌های تصویری که بر لایه‌های پیکسلی متکی هستند، فناوری OpenAI یعنی textGrain بر اساس تحلیل آماری بنا شده است. این روش به جای تغییر ساختار بصری متن، یک «سیگنال آماری» را در الگوهای انتخاب کلمات توسط مدل تزریق می‌کند. در واقع، مدل هوش مصنوعی در هنگام تولید محتوا، وزن‌دهی به کلمات را به‌گونه‌ای تنظیم می‌کند که یک اثر انگشت دیجیتال منحصربه‌فرد بر جای بماند. این سیگنال برای چشم انسان کاملاً نامرئی است و تغییری در خوانایی یا کیفیت متن ایجاد نمی‌کند، اما برای دتکتورهای تخصصی شرکت، به راحتی قابل شناسایی است.
چرا اروپا نقطه آغاز این تغییرات است؟
اجرای این طرح با تمرکز بر بازار اروپا آغاز شده است و دلیل اصلی آن، مفاد سخت‌گیرانه EU AI Act است. این قانون، ارائه‌دهندگان مدل‌های هوش مصنوعی را ملزم می‌کند تا محتوای تولیدشده توسط ماشین را به شیوه‌ای که برای ماشین قابل خواندن (machine-readable) باشد، نشان‌گذاری کنند. OpenAI با بهره‌گیری از این رویکرد منطقه‌ای، در حال آزمایش مقیاس‌پذیری و بازخورد واقعی این سیستم است تا در مراحل بعدی، سیاست‌های دقیق‌تری برای سایر مناطق جهان تدوین کند.
محدودیت‌ها و چالش‌های شناسایی هوش مصنوعی
OpenAI به صراحت اعلام کرده است که سیستم فعلی بی‌نقص نیست. تشخیص واترمارک با دو چالش اساسی «مثبت کاذب» (تشخیص واترمارک در متنی که توسط انسان نوشته شده) و «منفی کاذب» (عدم شناسایی واترمارک در متنی که توسط AI تولید شده) مواجه است. علاوه بر این، عواملی مانند طول متن و ویرایش دستی محتوا می‌توانند سیگنال آماری را تضعیف کنند. طبق مستندات ارائه شده در پاییز ۱۴۰۳، هرچه متن کوتاه‌تر باشد یا ویرایش‌های انسانی گسترده‌تری روی آن صورت بگیرد، دقت دتکتور کاهش می‌یابد.
ابعاد کاربردی و محدودیت‌های سیستم تشخیص
- نام فناوری: textGrain
- مبنای عملکرد: تزریق سیگنال آماری در انتخاب توکن‌ها
- وضعیت دسترسی: عرضه اولیه در اتحادیه اروپا، دسترسی محدود دتکتور برای محققان و سازمان‌های منتخب
- محدودیت‌های فنی: حساس به ویرایش‌های انسانی، دقت کمتر در متون بسیار کوتاه
- اهداف غیرقابل پوشش: عدم توانایی در تعیین مالکیت معنوی، میزان مشارکت انسانی و صحت‌سنجی اطلاعات
آینده احراز اصالت در عصر مدل‌های زبانی بزرگ
معرفی این فناوری گامی رو به جلو در راستای شفافیت و مقابله با سوءاستفاده از هوش مصنوعی است. با این حال، کاربران باید آگاه باشند که ابزار واترمارک‌گذاری به معنای تعیین دقیق کپی‌رایت یا تایید صحتِ محتوا نیست. OpenAI تأکید کرده است که این سیستم نمی‌تواند تشخیص دهد که چه میزان از متن توسط انسان نگاشته شده یا دقتِ واقعیات مطرح شده در متن چقدر است. در نهایت، این ابزار صرفاً یک لایه احراز اصالت فنی برای تشخیص ماهیت مدل‌گونه‌ی تولیدات متنی است.
