شرکت OpenAI در اقدامی راهبردی و در راستای انطباق با مقررات سخت‌گیرانه «قانون هوش مصنوعی اتحادیه اروپا» (EU AI Act)، از پیاده‌سازی یک لایه فنی جدید تحت عنوان textGrain در خروجی‌های متنی مدل‌های خود خبر داده است. این فناوری که با هدف شناسایی محتوای تولید شده توسط هوش مصنوعی طراحی شده، تفاوت‌های بنیادینی با واترمارک‌های سنتی دارد و به جای تغییرات بصری، بر سیگنال‌های آماری کلمات تکیه دارد.
معماری فنی textGrain: از انتخاب کلمات تا سیگنال‌های آماری
فناوری textGrain که توسط OpenAI توسعه یافته، برخلاف سیستم‌های معمول، یک المان مجزا به متن اضافه نمی‌کند؛ بلکه فرآیند انتخاب کلمات (Token Selection) در مدل‌های زبانی را به گونه‌ای تغییر می‌دهد که یک الگوی آماری منحصر‌به‌فرد در توالی کلمات ایجاد شود. در واقع، مدل‌های زبانی مانند GPT-4 هنگام تولید متن، احتمالات مختلف را برای انتخاب کلمه بعدی بررسی می‌کنند. فناوری textGrain با اعمال محدودیت‌های ظریف در این توزیع احتمالات، «اثر انگشت» یا واترمارک نامرئی را درون خود متن جاسازی می‌کند. به گفته OpenAI، این تغییرات به قدری نامحسوس هستند که کیفیت متن از دید کاربر عادی حفظ می‌شود، اما برای ابزارهای تشخیص اختصاصی قابل شناسایی خواهند بود.
چالش‌های عملکردی و محدودیت‌های جغرافیایی
طبق بیانیه‌ای که در مهرماه ۱۴۰۵ (اکتبر ۲۰۲۵) منتشر شد، این قابلیت در حال حاضر صرفاً برای کاربران ساکن در اتحادیه اروپا فعال خواهد شد. این محدودیت جغرافیایی نشان‌دهنده یک رویکرد انطباق‌گرایانه (Compliance-driven) است تا یک تغییر سراسری در کیفیت خروجی مدل‌ها. چالش فنی اصلی در اینجا این است که طبق مستندات OpenAI، متون کوتاه یا متونی که توسط کاربر ویرایش شده‌اند، می‌توانند باعث تضعیف یا از بین رفتن کامل این واترمارک آماری شوند. این موضوع باعث شده است که جامعه متخصصان هوش مصنوعی، کارایی این روش را در شرایط «تولید محتوای مخرب» یا «بازنویسی توسط انسان» به شدت زیر سوال ببرند.
پروتکل‌های دسترسی و ابهام در شفافیت
OpenAI اعلام کرده است که ابزار تشخیص (Detector) این واترمارک را به صورت عمومی منتشر نخواهد کرد. دلایل این تصمیم شامل دو مورد است: نخست، جلوگیری از مهندسی معکوس توسط کاربران برای حذف واترمارک، و دوم، نرخ بالای «مثبت‌های کاذب» (False Positives) در متون کوتاه. در حال حاضر، تنها محققان و سازمان‌های خبره که احراز هویت شده باشند، به این ابزار دسترسی خواهند داشت. این رویکرد انحصارطلبانه در دسترسی به ابزارهای نظارتی، بحث‌های داغی را در خصوص تضاد میان «شفافیت» (Transparency) و «امنیت مدل» (Model Security) ایجاد کرده است.
مشخصات فنی و محدودیات سیستم
- نام فناوری: textGrain (واترمارک آماری)
- هدف: انطباق با EU AI Act برای شناسایی ماشین‌خوان محتوا
- مکانیزم: دستکاری توزیع احتمالات انتخاب توکن
- محدودیت منطقه: فقط برای کاربران ساکن اتحادیه اروپا
- قابلیت تشخیص: نیازمند ابزار اختصاصی OpenAI و غیرقابل تشخیص توسط انسان
- آسیب‌پذیری: حساس به ویرایش انسانی و طول متن (متون کوتاه نرخ خطای بالایی دارند)
نتیجه‌گیری؛ آیا textGrain راهکاری پایدار است؟
از دیدگاه مهندسی، تغییر در خروجی یک مدل برای اهداف نظارتی می‌تواند منجر به کاهش بهینگی پاسخ‌ها شود؛ چرا که انتخاب کلمات دیگر بر اساس «بهترین پاسخ» صورت نمی‌گیرد، بلکه ترکیبی از «بهترین پاسخ» و «اجبار آماری» است. بسیاری از تحلیلگران بر این باورند که این اقدام صرفاً یک «تیک‌زدن قانونی» برای رفع تکلیف در برابر رگولاتورهای اروپایی است. تا زمانی که این سیگنال‌ها به راحتی با بازنویسی متن از بین بروند یا ابزارهای تشخیص به صورت عمومی و قابل اعتماد ارائه نشوند، textGrain بیش از آنکه یک ابزار امنیتی قدرتمند باشد، یک پروتکل آزمایشی در حوزه نظارت بر محتوای دیجیتال باقی خواهد ماند.
