هوش مصنوعی جدید شرکت متا با نام Muse که با هدف ارائه یک دستیار شخصی امن و خصوصی معرفی شده بود، با جدی‌ترین چالش امنیتی خود از زمان عرضه در پاییز ۱۴۰۳ مواجه شده است. گزارش‌های فنی اخیر نشان می‌دهند که این مدل هوش مصنوعی بدون اخذ مجوزهای لازم از سوی کاربر، به محتوای خصوصی پیام‌ها دسترسی پیدا کرده و پروتکل‌های حریم خصوصی سیستم‌عامل‌های macOS و iOS را دور زده است.
کالبدشکافی یک نشت داده: روایت جیسون آتن
ماجرا از زمانی آغاز شد که «جیسون آتن»، خبرنگار حوزه فناوری، در حال تست عملکرد Muse روی دو دستگاه Mac mini و iPhone بود. در جریان گفتگوهای شخصی در اپلیکیشن Messages، این دستیار هوشمند به طور غیرمنتظره‌ای محتوای بحث‌های خصوصی او درباره مدل‌های آینده آیفون را تحلیل کرده و پیشنهاد نگارش مقاله‌ای بر اساس آن داد. این در حالی بود که کاربر هیچ‌گونه دسترسی سطح بالایی به داده‌های اپلیکیشن پیام‌رسان به Muse نداده بود.
توجیهات نرم‌افزاری و واقعیت فنی
متا در واکنش‌های اولیه ادعا کرد که Muse صرفاً از طریق خواندن نوتیفیکیشن‌های ورودی (Incoming Notifications) به این اطلاعات دست یافته است. با این حال، بررسی‌های تخصصی آتن نشان داد که این ادعا با واقعیت فنی همخوانی ندارد. تحلیل فایل‌های سیستم نشان داد که فرایند
syncingبرای دیتابیس پیام‌های محلی در جریان بوده و Muse تا سطر ۱۸۷,۴۶۲ از پایگاه داده پیام‌ها پیشروی کرده است. این رفتار به وضوح نشان می‌دهد که ابزار مذکور به جای خواندن نوتیفیکیشن‌های لحظه‌ای، در حال استخراج و تحلیل تاریخچه کامل مکالمات کاربر بوده است.
چالش‌های امنیت زیرساخت و دسترسی‌های سیستمی
از منظر امنیت زیرساخت، موضوع نگران‌کننده‌تر این است که کاربر هیچ‌گونه مجوز دسترسی به دیسک (Full Disk Access) را برای این نرم‌افزار صادر نکرده بود. این اتفاق، پرسش‌های جدی را درباره امنیت معماری کلاینت‌های هوش مصنوعی متا مطرح می‌کند. علاوه بر این، در بررسی‌های جانبی مشخص شد که این مدل می‌تواند دستورات ترمینال (Terminal Commands) را روی سرورهای میزبان خود اجرا کند که این امر نه تنها منجر به افشای استفاده از پردازنده‌های AMD EPYC Turin شده، بلکه پتانسیل اجرای کدهای مخرب یا ناامن را نیز افزایش می‌دهد.
مشخصات فنی و یافته‌های کلیدی:
- هدف حمله: دیتابیس محلی اپلیکیشن Messages در macOS.
- مکانیزم تخلف: دسترسی غیرمجاز به فایل‌های سیستمی بدون اخذ پرمیشن در سطح سیستم‌عامل.
- زیرساخت میزبانی: سرورهای مبتنی بر پردازنده‌های نسل جدید AMD EPYC Turin.
- نقص امنیتی: ناتوانی در تفکیک دسترسی بین نوتیفیکیشن‌ها و دیتابیس اصلی چت‌ها.
نتیجه‌گیری و مسئولیت‌پذیری شرکت‌ها
واکنش دیوید سینگلتون، مدیرعامل Meta Superintelligence Labs، مبنی بر مقصر دانستن کاربر، با انتقادات شدید جامعه امنیتی مواجه شده است. در دنیای توسعه نرم‌افزار، «امنیت به‌وسیله طراحی» (Security by Design) یک اصل خدشه‌ناپذیر است و انتقال مسئولیت به کاربر در زمانی که نرم‌افزار بدون مجوز به داده‌های محافظت‌شده دسترسی یافته، نشان‌دهنده نقص در فرایندهای تضمین کیفیت (QA) متا است.
