اواخر شهریور ۱۴۰۳، محققان امنیتی در بنیاد Objective-See یک آسیب‌پذیری قابل‌توجه در نسخه macOS اپلیکیشن ChatGPT کشف کردند که می‌توانست به مهاجمان اجازه دهد با دور زدن لایه‌های امنیتی، به تمامی تاریخچه چت‌ها و داده‌های حساس کاربر دسترسی پیدا کنند. این رخداد، پرسش‌های جدی و بنیادینی را درباره مدل امنیتی دستیارهای هوش مصنوعی و سطوح دسترسی وسیع آن‌ها به سیستم‌عامل مطرح کرده است.
معماری آسیب‌پذیری: فراتر از امضای دیجیتال
اپلیکیشن ChatGPT در macOS برای برقراری ارتباط امن بین مؤلفه‌های مختلف خود، از مکانیزم «اعتبارسنجی امضای دیجیتال» (Digital Signature Validation) استفاده می‌کند. معماری این برنامه به‌گونه‌ای طراحی شده که برای اطمینان از اصالت درخواست‌ها، سه لایه بررسی (Parent و Grandparent) را لحاظ کرده است. هدف این بود که هیچ کد غیرمجازی نتواند خود را به عنوان یک فرآیند معتبر OpenAI معرفی کرده و درخواست‌های کاذب ارسال کند.
با این حال، تیم تحقیقاتی به رهبری پاتریک واردل (Patrick Wardle) دریافتند که یکی از مؤلفه‌های کلیدی سیستم، یعنی «مفسر اسکریپت» (Script Interpreter)، فاقد سخت‌گیری‌های لازم است. این مفسر، اسکریپت‌های دریافتی را بدون بررسی دقیق ماهیتِ منبع، اجرا می‌کرد. یک مهاجم می‌توانست با ایجاد زنجیره‌ای از سه فرآیند متوالی، به‌سادگی این سد امنیتی سه مرحله‌ای را فریب داده و دستورات مخرب خود را در قالب فرآیندهای معتبر OpenAI اجرا کند.
چرا هوش مصنوعی سطح حمله را گسترش می‌دهد؟
پاتریک واردل معتقد است که مدل‌های هوش مصنوعی مانند «مدیر ساختمان» عمل می‌کنند؛ آن‌ها به تمامی اتاق‌ها کلید دارند تا بتوانند وظایف خود را به‌درستی انجام دهند. این سطح از دسترسی، از نگاه امنیتی یک «تارگت بزرگ» محسوب می‌شود. زمانی که یک برنامه برای تحلیل فایل‌ها، مرور وب و اجرای کد به APIهای سیستم‌عامل متصل است، هرگونه نفوذ به آن برنامه به معنای دسترسی مستقیم مهاجم به تمامی حریم خصوصی و نشست‌های (Sessions) مرورگر کاربر خواهد بود.
مشخصات فنی و یافته‌های امنیتی
- نوع آسیب‌پذیری: دور زدن چک‌لیست امنیت فرآیند (Process Security Check Bypass).
- سیستم‌عامل هدف: macOS.
- پیامد: دسترسی غیرمجاز به تاریخچه چت‌ها و اجرای دستورات در سطح کاربر.
- وضعیت فعلی: وصله شده توسط OpenAI در تاریخ ۲۵ شهریور ۱۴۰۳.
- روش بهره‌برداری: اسکریپت‌نویسی ساده با کمتر از ۱۲ خط کد.
فرهنگ توسعه؛ سرعت در برابر امنیت
یکی از انتقادات اساسی واردل به شرکت‌های فعال در حوزه هوش مصنوعی، تمرکز افراطی بر اضافه کردن ویژگی‌های جدید (Feature Creep) و نگاهِ دست‌چندم به امنیت است. در دنیای نرم‌افزارهای سنتی، رویکردهای امنیتی از همان ابتدا در چرخه توسعه (SDLC) لحاظ می‌شوند، اما در حوزه AI، گویی رقابت برای جذب کاربر باعث شده تا زیرساخت‌های امنیتی به عنوان یک «افزوده بعدی» تلقی شوند. علاوه بر مورد ChatGPT، بررسی‌های اخیر بر روی سایر ابزارهای هوش مصنوعی نیز نشان‌دهنده نقص‌های مشابه در مدیریت توکن‌های احراز هویت و دسترسی‌های سیستم است.
نتیجه‌گیری و توصیه‌های امنیتی
این واقعه نشان داد که حتی معتبرترین شرکت‌های دنیای فناوری نیز ممکن است در پیاده‌سازی جزئیات امنیتی سیستم‌های خود دچار خطاهای کلاسیک شوند. به کاربران اپلیکیشن‌های هوش مصنوعی توصیه می‌شود همواره نسخه‌های برنامه خود را در اسرع وقت به‌روزرسانی کرده و تا حد امکان از دادن دسترسی‌های غیرضروری (مانند دسترسی به تمام فایل‌های سیستم یا میکروفون) به ابزارهای جانبی اجتناب کنند. شفافیت در گزارش‌دهی OpenAI و سرعت در ارائه وصله، گام مثبتی بود، اما تغییر پارادایم از «امنیت به عنوان وصله» به «امنیت به عنوان معماری» برای تمام شرکت‌های این حوزه ضروری است.
