در مهرماه ۱۴۰۵، شرکت متا با موج جدیدی از تردیدها در مورد حریم خصوصی هوش مصنوعی خود یعنی Muse مواجه شده است. ادعای یک روزنامه‌نگار مبنی بر خواندن پیام‌های خصوصی کاربران توسط این ایجنت هوش مصنوعی بدون کسب اجازه، بحث‌های داغی را در فضای امنیت سایبری و اخلاق هوش مصنوعی برانگیخته است. متا با رد این ادعاها، بر معماری لایه‌بندی‌شده مجوزهای سیستم‌عامل macOS تأکید دارد.
معماری مجوزها و سد حفاظتی macOS
پس از گزارش جیسون آتن (Jason Aten)، ستون‌نویس Inc.، مبنی بر دسترسی هوش مصنوعی Muse به پیام‌های خصوصی وی، اندی استون، معاون ارتباطات متا، به‌سرعت واکنش نشان داد. از منظر فنی، متا تأکید دارد که دسترسی Muse به پیام‌ها یک فرآیند کاملاً Opt-in (با انتخاب فعال کاربر) است. دیوید سینگلتون از آزمایشگاه‌های ابرهوش متا، جزئیات فنی این محافظت را تشریح کرده است. طبق توضیحات وی، برای اینکه Muse بتواند پیام‌ها را بخواند، کاربر باید دو لایه امنیتی جداگانه را فعال کند: دسترسی «Full Disk Access» در سطح سیستم‌عامل و «Messages connector» در داخل خود اپلیکیشن.
تحلیل لایه‌های امنیتی و ادعای «توهم هوش مصنوعی»
دیوید سینگلتون تصریح کرده است که فرآیند اعطای دسترسی شامل سه مرحله مجزا از مجوزهای سطح اپلیکیشن و محافظت‌های پیش‌فرض macOS است. نکته کلیدی اینجاست که در صورت فعال نبودن Full Disk Access، گزینه‌های مربوط به پیام‌ها در اپلیکیشن Muse به صورت خاکستری و غیرقابل کلیک نمایش داده می‌شوند. همچنین فعال‌سازی این دسترسی منجر به ری‌استارت اجباری اپلیکیشن می‌شود که احتمال وقوع آن به‌صورت تصادفی یا بدون اطلاع کاربر را به حداقل می‌رساند.
در پاسخ به ادعای آتن مبنی بر اینکه Muse پیام‌های او را از طریق «اعلان‌های دستگاه» (Notification Syncing) خوانده است، متا پاسخ داد که این یک «توهم» (Hallucination) از سوی مدل هوش مصنوعی بوده است. از دیدگاه مهندسی، مدل‌های زبانی بزرگ (LLM) گاهی اوقات در توصیف نحوه عملکرد سیستم‌های زیرساختی خود دچار خطا می‌شوند و این پاسخ اشتباه Muse، مبنای اصلی سوءتفاهم پیش‌آمده تلقی می‌شود.
مشخصات و سازوکارهای امنیتی Muse
- مدل دسترسی: مبتنی بر Opt-in صریح کاربر (Explicit User Consent).
- یکپارچگی سیستم‌عامل: استفاده از لایه‌های امنیتی macOS (Sandboxing & TCC).
- الزامات دسترسی: نیاز به Full Disk Access و فعال‌سازی دستی در تنظیمات سیستم.
- خطاهای سیستمی: تمایز میان «عملکرد واقعی اپلیکیشن» و «پاسخ‌های توهم‌آمیز مدل» هنگام پرسش از کاربر.
سایه سنگین سوابق متا بر اعتماد عمومی
اگرچه متا از نظر فنی در حال دفاع از معماری ایمن Muse است، اما پیشینه این شرکت در مدیریت داده‌ها (مانند رسوایی کمبریج آنالیتیکا) باعث شده تا کاربران و جامعه فناوری با بدبینی به این توضیحات بنگرند. تداوم گزارش‌هایی نظیر تجربه کاربر دیگری که با مشکل در Facebook Marketplace مواجه شد، نشان می‌دهد که حتی اگر هوش مصنوعی به عمد داده‌ای را سرقت نکند، «رفتار غیرقابل پیش‌بینی» آن در محیط‌های واقعی می‌تواند امنیت کاربران را به خطر بیندازد. در دنیای هوش مصنوعی، اعتماد عمومی تنها با شفافیت کامل در کدهای منبع و حسابرسی‌های مستقل (Auditing) به دست می‌آید، نه صرفاً با تکذیب‌های رسمی.
