در رویداد Snowflake World Tour لندن در پاییز ۱۴۰۳، مفهوم «سازمان هوشمند با کارگزاران خودکار» (Agentic Enterprise) به محور اصلی مباحث تبدیل شد. با ظهور ابزارهای هوش مصنوعی که نه تنها تحلیل‌گر، بلکه مجری عملیات‌های تجاری هستند، چالش بزرگ سازمان‌ها انتقال از فاز آزمایشگاهی به محیط‌های عملیاتی با تکیه بر اعتماد و امنیت پایدار است.
امنیت؛ از نگاه بازدارنده به عامل شتاب‌دهنده
مایانک آپادیای، مدیر ارشد امنیت و اعتماد اسنوفلیک، معتقد است که دیدگاه سنتی به امنیت به عنوان یک «مانع» برای سرعت نوآوری، اکنون جای خود را به «پیشران اعتماد» داده است. در دنیای هوش مصنوعی، همان‌طور که ترمزهای یک خودروی مسابقه‌ای به راننده اجازه می‌دهد با اطمینان در پیچ‌های تند حرکت کند، چارچوب‌های امنیتی (Guardrails) نیز به سازمان‌ها اجازه می‌دهند تا با سرعت بیشتری در حوزه پیاده‌سازی هوش مصنوعی گام بردارند. بدون این کنترل‌ها، سازمان‌ها ناچارند با احتیاط بیش از حد و سرعتی بسیار پایین حرکت کنند.
معماری سه لایه: داده، مدل و کارگزار
اسنوفلیک برای درک نحوه عملکرد این سیستم‌ها، از تشبیه آناتومی انسانی استفاده می‌کند:
- بنیاد داده‌ها (Data Foundation): زیربنای مستحکمی که باید کاملاً یکپارچه و امن باشد.
- مدل هوش مصنوعی (AI Model): که به عنوان «مغز» سیستم عمل می‌کند.
- کارگزار (Agent): که نقش «بدن» یا مجری عملیات را ایفا کرده و دستورات مغز را بر روی داده‌ها اجرا می‌کند.
چالش اصلی در این معماری، جلوگیری از حملات به کارگزاران است؛ جایی که هوش مصنوعی ممکن است ناخواسته از محدوده دسترسی‌های خود خارج شده یا داده‌های حساس را نشت دهد.
حکمرانی بر کارگزاران: کنترل دسترسی‌های پویا
یکی از بزرگترین خطرات در سازمان‌های بزرگ، «خزش دسترسی‌ها» (Permission Creep) است. کارمندان در طول سال‌ها دسترسی‌های مختلفی دریافت می‌کنند که ممکن است دیگر به آن‌ها نیاز نداشته باشند. وقتی یک کارگزار هوش مصنوعی با هویت کاربر فعالیت می‌کند، این دسترسی‌های اضافه به یک حفره امنیتی بالقوه تبدیل می‌شود. اسنوفلیک با ابزار Snowflake Trust Center تلاش می‌کند تا دید کاملی از وضعیت امنیتی سیستم فراهم کرده و اصلاحات مورد نیاز را به تیم‌های IT پیشنهاد دهد.
مشخصات و ابزارهای کلیدی معرفی شده:
- Snowflake Trust Center: پلتفرم مرکزی برای پایش، ارزیابی امنیت و ارائه دید عملیاتی (Visibility) به زیرساخت‌ها.
- Coco & CoWork: پلتفرم‌های تعاملی اسنوفلیک برای ادغام اتوماسیون هوشمند با وظایف انسانی.
- محور تمرکز: تغییر از اتوماسیون قطعی (Deterministic) به سمت عاملیت خودمختار (Agentic Autonomy).
هرم اعتماد در اتوماسیون
آپادیای مدل «هرم اعتماد» را برای گذار به اتوماسیون کامل معرفی می‌کند. در قاعده این هرم، وظایف تکراری و پیش‌پاافتاده قرار دارند که هوش مصنوعی به راحتی می‌تواند آن‌ها را خودکار کند. هرچه به سمت قله هرم حرکت می‌کنیم، وظایف حساس‌تر می‌شوند. در این بخش، ضرورت حضور یک ناظر انسانی برای تأیید خروجی‌های هوش مصنوعی «قطعی‌ناپذیر» (Non-deterministic) اجتناب‌ناپذیر است. ایجاد اعتماد در سازمان، یعنی مشخص کنیم کدام لایه‌ها برای واگذاری کامل به ماشین آماده‌اند.
