شرکت OpenAI در راستای همسویی با «قانون هوش مصنوعی اتحادیه اروپا» (EU AI Act)، از استقرار یک سیستم واترمارک‌گذاری دیجیتال نامرئی برای متون و کدهای تولید شده توسط مدل‌های زبانی خود در این منطقه خبر داده است. این اقدام که با هدف افزایش شفافیت در اکوسیستم هوش مصنوعی مولد صورت می‌گیرد، به دنبال پیش‌قدم شدن شرکت‌هایی نظیر Anthropic در حوزه شناسایی محتوای تولید شده توسط ماشین انجام می‌شود.
معماری فنی و سازوکار سیستم textGrain
هسته اصلی این فناوری جدید، سیستمی اختصاصی به نام textGrain است. برخلاف روش‌های سنتی که ممکن است به ساختار نحوی متن آسیب برسانند، textGrain با تزریق یک سیگنال آماری نامرئی به فرآیند انتخاب کلمات (Token Selection)، داده‌های خروجی را نشان‌گذاری می‌کند. از منظر فنی، این سیستم در لایه استنتاج (Inference) مدل مداخله کرده و توزیع احتمالات توکن‌های بعدی را به گونه‌ای تغییر می‌دهد که الگوی آماری خاصی برای ابزارهای تشخیص قابل شناسایی باشد، بدون آنکه کاربر انسانی تغییر محسوسی در سبک یا معنای متن احساس کند.
چالش‌های دقت و محدودیت‌های عملیاتی
اگرچه OpenAI مدعی است که عملکرد این سیستم از ابزارهای مشابه نظیر SynthID فراتر رفته است، اما سردبیران و مهندسان این شرکت با رویکردی محافظه‌کارانه اذعان دارند که عملکرد در شرایط آزمایشگاهی به معنای قابلیت اطمینان کامل در دنیای واقعی نیست. بررسی‌های داخلی نشان می‌دهد که شناسایی واترمارک در موارد زیر با چالش‌های فنی روبروست:
- متون کوتاه: نرخ موفقیت شناسایی در متون با طول کم به حدود ۸۰ درصد کاهش می‌یابد.
- محتوای ریاضی و علمی: به دلیل ساختار فرمول‌محور، دقت واترمارک‌گذاری کاهش می‌یابد.
- ویرایش متن: هرگونه تغییر در خروجی اولیه می‌تواند سیگنال‌های آماری جاسازی شده را مخدوش کرده و فرآیند تشخیص را با شکست مواجه کند.
مشخصات و ابعاد اجرایی پروژه
- پروتکل شناسایی: مبتنی بر تحلیل احتمالات آماری توکن‌ها (Statistical Signal Analysis).
- وضعیت دسترسی: در مرحله اول محدود به محققان تایید شده و سازمان‌های متخصص.
- متن‌باز: برنامه برای انتشار فناوری جهت بهینه‌سازی توسط جامعه کاربری وجود دارد.
- الزام قانونی: انطباق با ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا (EU AI Act).
- مهلت انطباق: سازمان‌های فعال تا ۱۲ آذر ۱۴۰۳ (۲ دسامبر ۲۰۲۴) فرصت دارند تا زیرساخت‌های خود را با این استاندارد هماهنگ کنند.
تعهد به شفافیت و چشم‌انداز آینده
طبق مقررات اتحادیه اروپا، تمامی ارائه‌دهندگان مدل‌های هوش مصنوعی مولد ملزم هستند خروجی‌های خود را به شیوه‌ای «ماشین‌خوان» (Machine-readable) علامت‌گذاری کنند. OpenAI قصد دارد این قابلیت را به صورت پیش‌فرض برای تمامی خروجی‌های متنی و کدهای تولیدی در اتحادیه اروپا فعال کند. نکته حائز اهمیت در معماری این سیستم، رعایت حریم خصوصی است؛ بدین معنا که ابزارهای تشخیص، هیچ‌گونه اطلاعاتی درباره هویت کاربر یا جزئیات پرامپت‌های وارد شده را استخراج نمی‌کنند.
نتیجه‌گیری
اقدام اخیر OpenAI یک نقطه عطف در تقابل میان توسعه سریع مدل‌های هوش مصنوعی و نیاز قانون‌گذاران به شفافیت است. با انتشار این تکنولوژی به صورت Open Source، انتظار می‌رود شاهد ایجاد استانداردهای جدیدی در تشخیص محتوای AI-generated باشیم. با این حال، تا زمانی که نرخ موفقیت در متون ویرایش شده افزایش نیابد، نمی‌توان به واترمارک‌های دیجیتال به عنوان یک راهکار قطعی برای تایید اصالت محتوا تکیه کرد.
