بحران توهم هوش مصنوعی در امنیت سایبری: چرا گوگل برنامه شکار باگ متن‌باز را تعلیق کرد؟

در تحولی بی‌سابقه که زنگ خطر را برای جامعه امنیت سایبری جهانی به صدا درآورده است، گوگل اعلام کرد که برنامه پاداش آسیب‌پذیری پروژه‌های متن‌باز (Open Source Software Vulnerability Rewards Program) خود را به دلیل سیل گزارش‌های نامعتبر و تولیدشده توسط هوش مصنوعی، تا اوایل سال ۲۰۲۷ به حالت تعلیق درآورده است. این تصمیم که بازتاب گسترده‌ای در اکوسیستم توسعه نرم‌افزار ایران داشته، نشان‌دهنده چالش‌های جدیدی است که هوش مصنوعی مولد برای فرآیندهای سنتیِ بررسی امنیتی و اعتماد متقابل ایجاد کرده است.

فناوری در خدمت تخریب: پدیده گزارش‌های توهمی

هسته اصلی این بحران، سوءاستفاده از مدل‌های زبانی بزرگ برای تولید خودکار گزارش‌های باگ است. بسیاری از کاربران با استفاده از ابزارهای هوش مصنوعی، اقدام به تولید متون شبه‌تخصصی می‌کنند که در ظاهر آسیب‌پذیری‌های امنیتی پیچیده‌ای را توصیف می‌کنند، اما در عمل فاقد هرگونه مبنای فنی واقعی (PoC) هستند. این پدیده که در ادبیات فنی به عنوان «توهم هوش مصنوعی» (AI Hallucination) شناخته می‌شود، باعث شده است تیم‌های امنیتی گوگل به‌جای تمرکز بر کشف نقاط ضعف واقعی در پروژه‌های متن‌باز گوگل، زمان و منابع پردازشی خود را صرف اعتبارسنجی گزارش‌های بی‌کیفیت و خودکار کنند.

اثرات تعلیق بر اکوسیستم امنیت شبکه و ابزارهای متن‌باز

توقف این برنامه، پیامی جدی برای جوامع متن‌باز دارد. اکوسیستم‌های متن‌باز همواره بر پایه مشارکت داوطلبانه و اعتماد متقابل استوار بوده‌اند. ورود گزارش‌های خودکار که نه با هدف کشف حقیقت، بلکه با هدف دریافت پاداش‌های مالی (Bug Bounty) تولید شده‌اند، این اعتماد را متزلزل کرده است. برای متخصصان حوزه امنیت در ایران که بسیاری از آن‌ها در پروژه‌های بین‌المللی مشارکت دارند، این تغییر سیاست به معنای محدود شدن فرصت‌های همکاری و نیاز به بازنگری در متدولوژی‌های گزارش‌دهی استاندارد است.

چالش رگولاتوری و اعتبار سنجی در عصر هوش مصنوعی

این رویداد نشان می‌دهد که مدل‌های امنیتی قدیمی که بر پایه «تایید دستی» (Manual Validation) استوار بودند، در مقیاس فعلیِ گزارش‌های تولیدی توسط ماشین، کارایی خود را از دست داده‌اند. ضرورت استفاده از ابزارهای آنالیز استاتیک (SAST) و دینامیک (DAST) که قادر به تمایز میان کدهای مخرب واقعی و متون تولید شده توسط LLMها هستند، بیش از هر زمان دیگری احساس می‌شود. در حالی که گوگل قول داده است تا سه‌ماهه نخست سال ۲۰۲۷ سیستم بازنگری‌شده‌ای را ارائه دهد، انتظار می‌رود استانداردهای سخت‌گیرانه‌تری برای پذیرش گزارش‌ها در آینده تعریف شود.