شرکت OpenAI در اقدامی راهبردی در مهرماه ۱۴۰۵ (اکتبر ۲۰۲۶) اعلام کرد که فناوری واترمارک‌گذاری متن‌های تولید شده توسط ChatGPT را به صورت پیش‌فرض برای کاربران اتحادیه اروپا فعال می‌کند. این تصمیم که در راستای انطباق با «قانون هوش مصنوعی اتحادیه اروپا» (EU AI Act) اتخاذ شده، بار دیگر بحث‌های داغی را پیرامون اصالت‌سنجی محتوای تولید شده توسط هوش مصنوعی و محدودیت‌های فنی روش‌های کنونی در دنیای دیجیتال برانگیخته است.
معماری فنی و سازوکار textGrain
روش اختصاصی OpenAI که با نام textGrain معرفی شده است، از الگوی توزیع آماری کلمات بهره می‌برد. در این روش، مدل زبانی هنگام تولید توکن‌ها، از الگوهای خاصی در انتخاب واژگان استفاده می‌کند که برای خواننده انسانی غیرقابل تشخیص است. این تغییرات جزئی در انتخاب کلمات، به گونه‌ای طراحی شده‌اند که تأثیری بر کیفیت معنایی یا روانی متن نداشته باشند، اما یک «امضای دیجیتال» نامرئی ایجاد کنند که با استفاده از کلید رمزنگاری اختصاصی، قابل شناسایی است. مشابه فناوری‌هایی نظیر SynthID گوگل، این رویکرد به ابزارهای تشخیص دهنده اجازه می‌دهد تا احتمال خروجی بودن متن توسط مدل را محاسبه کنند.
چالش‌های انطباق با قانون AI Act
از شهریور ۱۴۰۵، مقررات جامع هوش مصنوعی اتحادیه اروپا به طور رسمی لازم‌الاجرا شد. یکی از بندهای کلیدی این قانون، الزام توسعه‌دهندگان به شفاف‌سازی در مورد ماهیت محتوای تولید شده توسط مدل‌های مولد است. OpenAI با فعال‌سازی پیش‌فرض واترمارک برای کاربران اروپایی، در حال آزمودن زیرساخت‌های نظارتی خود در یکی از سخت‌گیرانه‌ترین بازارهای جهان است. با این حال، در سایر مناطق جهان، این قابلیت به صورت اختیاری (Off by default) باقی می‌ماند تا از چالش‌های احتمالی در تضاد با سیاست‌های محلی یا فشارهای عملیاتی جلوگیری شود.
مشخصات فنی و محدودیات سیستم
- نام فناوری: textGrain (اختصاصی OpenAI)
- مکانیزم تشخیص: مبتنی بر الگوهای آماری انتخاب کلمات
- دسترسی به آشکارساز (Detector): محدود به محققان و سازمان‌های منتخب (سیستم مجوزدهی)
- انطباق قانونی: الزام‌آور برای اتحادیه اروپا طبق EU AI Act
- سازگاری: پشتیبانی محدود از استانداردهای کنونی مانند C2PA
آیا واترمارک‌ها واقعاً غیرقابل دور زدن هستند؟
صرف‌نظر از تبلیغات فنی، متخصصان امنیت سایبری معتقدند هیچ روش کاملاً نفوذناپذیری برای واترمارک‌گذاری متن وجود ندارد. مدل‌های زبان بزرگ (LLM) به راحتی می‌توانند با استفاده از تکنیک‌های بازنویسی (Paraphrasing) یا تغییر توالی واژگان توسط مدل‌های دیگر، الگوهای آماری ایجاد شده توسط textGrain را مخدوش کنند. در واقع، هر فردی با دانش فنی ابتدایی در حوزه پردازش زبان طبیعی (NLP) می‌تواند با اعمال تغییرات جزئی در متن خروجی، واترمارک را از بین ببرد. بنابراین، این سیستم بیشتر یک لایه «احراز اصالت» محسوب می‌شود تا یک راهکار امنیتی مطلق.
دسترسی و نقش پژوهشگران
OpenAI قصد دارد دسترسی به نرم‌افزار آشکارساز (Detector) خود را به صورت مرحله‌ای و محدود ارائه دهد. این رویکرد دو هدف را دنبال می‌کند: اول، جلوگیری از مهندسی معکوس سیستم توسط مهاجمان برای یادگیری نحوه دور زدن واترمارک، و دوم، ایجاد یک اکوسیستم قابل اعتماد برای سازمان‌هایی که نیاز به بررسی اصالت متون دارند. این فرآیند از طریق یک سیستم درخواست تأییدیه انجام می‌شود که نشان‌دهنده رویکرد محافظه‌کارانه این شرکت در قبال توزیع ابزارهای تشخیص است.
نتیجه‌گیری
حرکت OpenAI در اتحادیه اروپا، پیش‌درآمدی بر جهانی است که در آن تمایز میان محتوای انسانی و ماشین، نه یک انتخاب، بلکه یک ضرورت قانونی خواهد بود. اگرچه textGrain گامی رو به جلو در حوزه شفافیت هوش مصنوعی است، اما باید پذیرفت که نبرد میان ابزارهای تولید محتوا و ابزارهای تشخیص، به همان سرعتی که تکنولوژی هوش مصنوعی در حال پیشرفت است، ادامه خواهد داشت.
