صفحه «About You» در پلتفرم آمازون که با هدف ارتقای تجربه کاربری و شخصی‌سازی پیشنهادات خرید طراحی شده است، اکنون به کانون توجه کاربران در شبکه‌های اجتماعی تبدیل شده است. این ابزار که از داده‌های کاوی رفتار خرید و تعاملات کاربران تغذیه می‌شود، نتایج غافلگیرکننده‌ای را در قالب «استنباط‌های رفتاری» به نمایش می‌گذارد که مرز میان هوشمندی الگوریتم و حریم خصوصی را به چالش کشیده است.
پشت پرده موتور استنتاج آمازون
آمازون در ۲۴ اردیبهشت ۱۴۰۳ (۱۳ مه ۲۰۲۴) ویژگی جدیدی به نام About You را معرفی کرد. هدف اصلی این سرویس، شفاف‌سازی داده‌هایی است که موتور پیشنهادات آمازون بر اساس آن‌ها، کالاهای مرتبط را به کاربر نمایش می‌دهد. این پروفایل بر پایه ترکیبی از داده‌های تاریخی شامل تاریخچه خرید، جستجوها، لیست‌های ذخیره شده (Wishlists)، بررسی محصولات (Reviews) و تعاملات صوتی با دستیار Alexa for Shopping ساخته می‌شود. با این حال، تحلیل‌های اخیر نشان می‌دهد که این «شخصی‌سازی» گاهی اوقات با استنتاج‌های عجیب و غریب همراه است که با واقعیت کاربران فاصله دارد.
تجربیات کاربران و خطاهای الگوریتمیک
انتشار گزارش‌هایی در پلتفرم‌هایی نظیر Threads و Reddit، موجی از واکنش‌ها را در پی داشت. کاربران گزارش داده‌اند که پروفایل‌های آن‌ها حاوی تحلیل‌های دقیق اما گاه توهین‌آمیز یا بی‌اساس است. برای مثال، مواردی از برچسب‌هایی نظیر «عدم توانایی در نگهداری گیاهان»، «درمان گربه‌ها به عنوان فرزند بیولوژیک» و حتی تحلیل‌های فیزیولوژیک عجیب دیده شده است. این نشان می‌دهد که مدل‌های هوش مصنوعی آمازون، رفتارهای آماری ساده را به ویژگی‌های شخصیتی پیچیده تعمیم می‌دهند که گاهی باعث ایجاد سوءتفاهم‌های جدی در پروفایل کاربری می‌شود.
ساختار داده و حریم خصوصی
- مبنای داده‌ای: تاریخچه تراکنش، کوئری‌های جستجو، لیست‌های خرید، نظرات ثبت شده و لاگ‌های صوتی الکسا.
- هدف فنی: بهینه‌سازی مدل‌های یادگیری ماشین برای افزایش نرخ تبدیل (Conversion Rate).
- کنترل کاربر: امکان مشاهده، ویرایش و حذف تمامی استنتاج‌های ثبت شده در بخش Shopping preferences.
- دسترسی: قابل دسترس از طریق اپلیکیشن، وب‌سایت موبایل و نسخه دسکتاپ آمازون.
تلفیق داده‌ها؛ هوش مصنوعی در خدمت تبلیغات
این رویکرد آمازون بخشی از استراتژی کلان‌تر این شرکت برای یکپارچه‌سازی داده‌های رفتاری با سیستم‌های تبلیغاتی است. در حالی که کاربران نگران حفظ حریم خصوصی هستند، آمازون در حال گسترش این اکوسیستم است. به عنوان مثال، در شهریور ۱۴۰۳، آمازون برنامه‌های آزمایشی را برای نمایش تبلیغات در سرویس‌های هوش مصنوعی نظیر ChatGPT آغاز کرد. همچنین استفاده از داده‌های استریم در Twitch برای آموزش مدل‌های هوش مصنوعی آمازون، نشان می‌دهد که این شرکت در حال تبدیل تمام نقاط تعامل کاربر به داده‌های قابل تحلیل برای مدل‌های پیش‌بینی است.
نتیجه‌گیری و راهکارهای امنیتی
اگرچه «About You» به عنوان ابزاری برای شفافیت معرفی شده است، اما برای بسیاری از کاربران به مثابه آینه‌ای از نفوذ بیش از حد شرکت‌های بزرگ فناوری در زندگی خصوصی عمل می‌کند. ضروری است کاربران با مراجعه به تنظیمات حساب کاربری خود در بخش Shopping preferences، نسبت به پاکسازی داده‌های نادرست اقدام کنند. شفافیت در الگوریتم‌ها زمانی کارآمد است که کاربر قدرت کنترل کامل بر «اثر انگشت دیجیتال» خود را داشته باشد. پیشنهاد می‌شود به طور دوره‌ای این پروفایل را بررسی کرده و مجوزهای دسترسی الکسا و سایر سرویس‌های متصل به حساب خود را بازبینی کنید.
