افشای اسناد قضایی جدید در ایالت نیویورک، پرده از حقیقتی تکان‌دهنده درباره عملکرد داخلی پلتفرم تیک‌تاک برداشته است. بر اساس شکایتی که در مهرماه ۱۴۰۳ (اکتبر ۲۰۲۴) علنی شد، این شرکت متهم است که با طراحی یک «ابزار ایمنی نمایشی» برای کاربران نوجوان، نه تنها انتظارات مربوط به شفافیت الگوریتمی را برآورده نکرده، بلکه عملاً داده‌های کاربران را در یک آزمایش کنترل‌شده برای بررسی اثرات اعتیادآور پلتفرم قربانی کرده است.
فریب الگوریتمی: تحلیل عملکرد قابلیت «Algo Refresh»
قابلیت «Algo Refresh» با هدف ارائه کنترل بیشتر به کاربران جهت بازنشانی فید پیشنهادی و دور ماندن از محتوای مضر یا ناخواسته معرفی شد. با این حال، شواهد موجود در پرونده دادستانی کل نیویورک نشان می‌دهد که در سال ۲۰۲۳، تیک‌تاک گروهی از کاربران را در یک آزمایش «پلاسیبو» قرار داده است. در این سناریو، در حالی که رابط کاربری به کاربر نشان می‌داد که فید او در حال بازنشانی است، الگوریتم اصلی هیچ تغییری نکرد و عملاً محتوای پیشین بدون هیچ تغییری به کاربر نمایش داده شد.
تقابل اخلاق مهندسی و سودآوری تبلیغاتی
یکی از نکات حائز اهمیت در این اسناد، چت‌های داخلی مدیران محصول در تیم «Digital Well Being» تیک‌تاک است. یکی از مدیران این تیم به‌صراحت اشاره کرده است که «این ویژگی دقیقاً برای ایجاد شفافیت و کنترل الگوریتمی طراحی شده و استفاده از گروه پلاسیبو در تضاد کامل با این هدف است». با وجود این هشدارها، تیک‌تاک این آزمایش را با هدف بررسی اثرات این تغییر بر زمان حضور در اپلیکیشن (Screen Time) و درآمدهای تبلیغاتی ادامه داده است. این موضوع نشان می‌دهد که اولویت شرکت، جایگزینی ابزارهای ایمنی واقعی با معیارهای سنجش اعتیاد به اپلیکیشن بوده است.
ابعاد حقوقی و پیامدهای اجتماعی
این پرونده تنها به قابلیت رفرش محدود نمی‌شود. اسناد فاش‌شده حاکی از آن است که تیک‌تاک در یک آزمایش دیگر، به‌روزرسانی‌های امنیتی را برای ۱۰ درصد از کاربران آمریکایی (حدود ۱۵ میلیون نفر) متوقف کرده بود که متأسفانه با تراژدی‌های شخصی نیز گره خورده است. اکنون بیش از ۲۴ ایالت در آمریکا با طرح دعاوی حقوقی، تیک‌تاک را به طراحی آگاهانه اپلیکیشن برای اعتیاد نوجوانان متهم کرده‌اند. این در حالی است که تیک‌تاک مدعی است این شکایات تصویری نادرست از نحوه عملکرد الگوریتم‌هایش ارائه می‌دهند.
مشخصات و محورهای فنی پرونده
- قابلیت مورد مناقشه: Algo Refresh (ابزار بازنشانی پیشنهادات)
- ماهیت اتهام: استفاده از گروه کنترل پلاسیبو در ابزارهای ایمنی
- هدف آزمایش: تحلیل نرخ بازگشت کاربر و درآمد حاصل از نمایش تبلیغات
- وضعیت حقوقی: شکایت دسته‌جمعی بیش از ۲۴ ایالت آمریکا علیه ByteDance
- نقض پروتکل داخلی: نادیده گرفتن هشدارهای تیم «Digital Well Being» در مورد شفافیت الگوریتمی
نتیجه‌گیری؛ لزوم نظارت بر الگوریتم‌های سیاه
این رویداد بار دیگر اهمیت بحث «شفافیت الگوریتمی» را گوشزد می‌کند. زمانی که شرکت‌های بزرگ فناوری از الگوریتم‌های پیشنهاددهنده به عنوان ابزاری برای بهینه‌سازی «زمان ماندگاری کاربر» استفاده می‌کنند، ابزارهای ایمنی به جای آنکه یک پناهگاه برای کاربر باشند، خود به ابزاری برای فریب و آزمایش‌های کنترل‌شده روان‌شناختی تبدیل می‌شوند. جامعه فناوری باید در انتظار دستورالعمل‌های سخت‌گیرانه‌تری باشد که شرکت‌ها را مجبور می‌کند عملکرد واقعی این سیستم‌ها را شفاف‌سازی کنند.
