در حالی که سازمان‌ها و نهادهای دولتی در کشور با شتابی فزاینده به سمت به‌کارگیری راهکارهای مبتنی بر هوش مصنوعی حرکت می‌کنند، هشدار اخیر محمدحسین شیخی، رئیس پژوهشگاه ارتباطات و فناوری اطلاعات در پاییز ۱۴۰۳، زنگ خطر جدیدی را در خصوص امنیت داده‌ها و حریم خصوصی در فضای دیجیتال ایران به صدا درآورده است.
مخاطرات نشت اطلاعات در بسترهای ابری عمومی
یکی از جدی‌ترین چالش‌های فنی در بهره‌گیری از هوش مصنوعی، ناآگاهی از نحوه پردازش و ذخیره‌سازی داده‌ها در مدل‌های زبانی بزرگ (LLM) است. شیخی با اشاره به اینکه وارد کردن نامه‌های اداری و اسناد طبقه‌بندی شده در سامانه‌های هوش مصنوعی عمومی می‌تواند به افشای غیرعمدی داده‌های حساس منجر شود، بر ضرورت تفکیک میان هوش مصنوعی محلی (On-premise) و سرویس‌های ابری عمومی تأکید کرد. از دیدگاه زیرساختی، هنگامی که اطلاعات سازمانی در یک مدل متن‌باز مانند Llama (در صورت استقرار در زیرساخت‌های مدیریت‌نشده) یا APIهای تجاری وارد می‌شوند، این داده‌ها به‌طور بالقوه به بخشی از دیتاسِت‌های آموزشی آتی تبدیل شده و حاکمیت داده‌های کشور را به خطر می‌اندازند.
تغییر پارادایم: از پژوهش دانشگاهی به حل مسائل صنعتی
رویدادهای مسئله‌محور هوش مصنوعی که توسط مرکز نوآوری و توسعه هوش مصنوعی پژوهشگاه ارتباطات برگزار می‌شود، نشان‌دهنده تغییر جهت از تئوری‌پردازی محض به سمت کاربردهای عملیاتی در صنایعی نظیر نفت، گاز و کشاورزی است. محمدهادی بکایی، رئیس این مرکز، تأکید می‌کند که هدف اصلی، ایجاد یک زنجیره ارزش است که در آن بازیگران بخش خصوصی، دانشگاه‌ها و صنعت، در کنار یکدیگر قرار می‌گیرند. این رویکرد به معنای انتقال بار پردازشی به زیرساخت‌های داخلی (Cloud Infrastructure) است تا با فراهم کردن منابع پردازشی در داخل مرزهای سایبری، نیاز به ارسال داده‌های حساس به خارج از کشور کاهش یابد.
زیرساخت و حکمرانی داده؛ ستون‌های توسعه پایدار
بر اساس تحلیل‌های ارائه‌شده، مدل‌های بهینه‌سازی زنجیره تأمین و پردازش تصاویر ماهواره‌ای نیازمند یک اکوسیستم داده‌ایِ امن است. ایجاد آزمایشگاه‌های مرجع و استانداردهای ملی برای ارزیابی مدل‌های هوش مصنوعی (AI Benchmarking) از جمله اقدامات ضروری برای جلوگیری از تکیه بر مدل‌های غیرقابل اعتماد است. در این راستا، پژوهشگاه ICT تلاش دارد با برچسب‌زنی و آماده‌سازی داده‌های واقعی در محیطی امن، از وقوع «نشت داده» جلوگیری کرده و بهره‌وری اقتصادی را در صنایع هدف افزایش دهد.
مشخصات و ابعاد راهبردی گزارش:
- هدف اصلی: بومی‌سازی زنجیره هوش مصنوعی و کاهش وابستگی امنیتی.
- چالش مطرح‌شده: جلوگیری از خروج نامه‌ها و اطلاعات محرمانه در تعامل با LLMهای خارجی.
- راهکار زیرساختی: ایجاد پلتفرم‌های پردازش ابری داخلی برای شرکت‌کنندگان در رویدادهای مسئله‌محور.
- حوزه‌های کاربردی: تشخیص خرابی تجهیزات صنعتی، بهینه‌سازی لجستیک فروشگاهی و کشاورزی دقیق.
