با گذشت حدود یک ماه از عرضه «میوز» (Muse)، ایجنت هوش مصنوعی جدید متا، بررسی‌های فنی و تحلیل دستورالعمل‌های سیستم (System Prompts) نشان می‌دهد که این ابزار به طور مداوم در حال ساخت و به‌روزرسانی پرونده‌های جامع از تمامی افراد موجود در دایره ارتباطی کاربران است؛ موضوعی که زنگ‌خطر جدیدی را برای حریم خصوصی در پاییز ۱۴۰۳ به صدا درآورده است.
معماری جمع‌آوری داده در Muse: فراتر از یک دستیار شخصی
بر اساس تحلیل‌های انجام شده توسط پژوهشگران حوزه امنیت هوش مصنوعی از جمله کاران جوشی (Karan Joshi) و گزارش‌های منتشر شده توسط The Future Society، ایجنت Muse دارای یک فرآیند ساعتی (Hourly Process) است که موظف به ایجاد و به‌روزرسانی مداوم «صفحه‌ای برای هر شخص در زندگی کاربر» می‌باشد. برخلاف دستیارهای صوتی سنتی که به اجرای فرامین محدود می‌شدند، Muse با دسترسی به اپلیکیشن‌ها و حساب‌های کاربری، روابط اجتماعی فرد را به صورت ساختاریافته مدل‌سازی می‌کند.
چه نوع داده‌هایی از اطرافیان شما ثبت می‌شود؟
جزئیات استخراج شده از ماشین‌های مجازی Muse نشان می‌دهد که این ایجنت صرفاً به لیست مخاطبین اکتفا نمی‌کند. داده‌های ذخیره شده در پروفایل‌های جانبی شامل موارد زیر است:
- نام و نوع رابطه (خانوادگی، کاری، دوستانه)
- موضوعات جاری و هدف‌های مشترک (مانند برنامه‌ریزی برای اسباب‌کشی یا پس‌انداز)
- تاریخ‌های کلیدی شامل تولدها و سالگردها
- تحلیل تاریخچه روابط و نقاط عطف (Milestones)
- ارزیابی میزان نزدیکی و نیازهای لحظه‌ای هر رابطه
متا در بیانیه‌ای رسمی به Gizmodo مدعی شده است که این اطلاعات در ماشین‌های مجازی امن و اختصاصی هر کاربر ذخیره شده و هیچ ایجنت دیگری به آن‌ها دسترسی ندارد. با این حال، کارشناسان امنیتی معتقدند که ذخیره چنین حجم وسیعی از داده‌های بیوگرافیک و رفتاری، حتی بدون موافقت افرادی که کاربر Muse نیستند، یک چالش اخلاقی و حریم خصوصی جدی ایجاد کرده است.
چالش‌های امنیتی و نفوذپذیری
علاوه بر ابعاد اخلاقی، Muse با مشکلات امنیتی متعددی نیز مواجه بوده است. در ماه شهریور ۱۴۰۳، آمازون به دلیل نگرانی از نحوه مدیریت اعتبارات مشتریان و عدم هماهنگی قبلی برای دسترسی ایجنت به سبد خرید، فعالیت آن را در سایت خود مسدود کرد. همچنین، یک آسیب‌پذیری روز-صفر (Zero-day) در نسخه مک (macOS) این اپلیکیشن شناسایی شد که می‌توانست به بدافزارهای محلی اجازه دهد تا با سوءاستفاده از دسترسی‌های اعطا شده به Muse، اختیارات سیستم را تحت کنترل بگیرند.
مشخصات فنی و چالش‌های ساختاری
- نوع عملکرد: ایجنت خودکار شخصی مبتنی بر مدل‌های هوش مصنوعی مولد.
- مکانیزم ذخیره‌سازی: ماشین‌های مجازی اختصاصی (Secure Virtual Machines) برای هر کاربر.
- گستره دسترسی: یکپارچه‌سازی با ایمیل‌ها، تقویم‌ها، پلتفرم‌های خرید آنلاین و حساب‌های کاربری شخص ثالث.
- آسیب‌پذیری‌های گزارش شده: وجود آسیب‌پذیری روز-صفر در پورت مک، دسترسی بدون مجوز به APIهای فروشگاهی.
جمع‌بندی: آیا مدل «دوست‌نمای» متا بیش از حد پیش رفته است؟
رویکرد فعلی متا در توسعه Muse، حرکت به سمت ایجاد یک «حافظه دوم» برای کاربر است. اگرچه این سطح از شخصی‌سازی می‌تواند بهره‌وری را افزایش دهد، اما هزینه آن، تبدیل حریم خصوصی به یک پایگاه داده ماشینی است که حتی اطرافیان کاربر را نیز شامل می‌شود. شفافیت در نحوه پردازش داده‌ها و ارائه گزینه‌های دقیق‌تر برای غیرفعال‌سازی «مدل‌سازی روابط» از جمله مواردی است که متا باید برای جلب اعتماد کاربران در ماه‌های آینده لحاظ کند.
