در حالی که اکوسیستم فناوری در پاییز ۱۴۰۵ در میان انبوهی از کنفرانس‌ها و هیاهوی پیرامون «ریسک‌های وجودی» هوش مصنوعی غرق شده است، پیتر نورویگ، چهره برجسته حوزه هوش مصنوعی در استنفورد، دیدگاهی عمل‌گرایانه و تکان‌دهنده را مطرح می‌کند. او معتقد است که ما در آستانه تغییری بنیادین در مفهوم «مهندسی نرم‌افزار» هستیم؛ تغییری که از سطح نگارش کد به سطح مدیریت عامل‌های هوشمند ارتقا یافته است.
تاریخ‌نگاری تحول؛ از AlexNet تا مدل‌های استدلالی
نورویگ با نگاهی به مسیر طی شده، نقاط عطف مهمی را یادآوری می‌کند. از ظهور معماری انقلابی Transformer در سال ۲۰۱۷ تا معرفی عمومی ChatGPT در ۲۰۲۲ و بلوغ نهایی عامل‌های (Agents) کدنویس در سال ۲۰۲۴. نکته کلیدی در تحلیل او، جهش توانمندی‌های منطقی مدل‌هاست؛ مدل‌هایی که تا دو سال پیش حتی در شمارش ساده حروف یک کلمه ناتوان بودند، اکنون در نگارش مقالات علمی ریاضی مشارکت فعال دارند. طبق مشاهدات او تا مرداد ۱۴۰۵، بالغ بر ۲۵ درصد مقالات پیش‌چاپ در مخزن arXiv از کمک هوش مصنوعی بهره برده‌اند.
تغییر نگاه لینوس توروالدز و پذیرش واقعیت جدید
یکی از جذاب‌ترین بخش‌های تحلیل نورویگ، تغییر رویکرد لینوس توروالدز، خالق هسته لینوکس، نسبت به هوش مصنوعی است. توروالدز که تا شش ماه پیش یک شکاک تمام‌عیار بود، اکنون به مدافعی سرسخت در استفاده از هوش مصنوعی برای بهبود کارایی تبدیل شده است. این گذار نشان می‌دهد که حتی سخت‌گیرترین مهندسان سیستم نیز ناچار به پذیرش این ابزارهای نوین برای حفظ بهره‌وری در دنیای پیچیده توسعه نرم‌افزار هستند.
تغییر ماهیت مهندسی نرم‌افزار
نورویگ معتقد است همان‌طور که روزگاری از سیم‌کشی دستی فریم‌ورها به سمت اسمبلی و سپس زبان‌های سطح بالا حرکت کردیم، امروز نیز باید تفکیک سنتی وظایف را بازنگری کنیم. او در تجربه‌ای شخصی با ابزار Codex نشان داد که چگونه اعتماد بی‌قید و شرط به هوش مصنوعی می‌تواند منجر به بروز خطاهای ناخواسته (مانند ایجاد ۶۰۰۰ فایل موقت در مخزن کد) شود. سوال اصلی این است: وظیفه «بازبینی کد» (Code Review) در دنیایی که کدها توسط ماشین تولید می‌شوند، چگونه باید تعریف شود؟
چالش‌های زیرساختی در توسعه مبتنی بر AI
- یکپارچه‌سازی مداوم (CI): بازتعریف مفهوم CI در دنیایی که کد به صورت بازگشتی خود را بهبود می‌بخشد.
- امنیت و زنجیره تأمین: نیاز به مکانیزم‌های جدید برای احراز هویت کدهای تولید شده توسط عامل‌های هوشمند.
- خط‌مشی داده: نحوه مدیریت و نظارت بر لاگ‌ها برای شناسایی حملات خودکار مدل‌های AI به سیستم‌های شخص ثالث.
- ذخیره‌سازی و تاریخچه: تغییر اولویت‌ها از «کد تمیز» به حفظ تاریخچه جامع تغییرات برای درک روند تکامل مدل.
نظارت؛ پاشنه آشیل توسعه مدرن
نورویگ هشدار می‌دهد که ما در حال حاضر در زمینه نظارت بر عامل‌های خودمختار هوش مصنوعی بسیار ضعیف عمل می‌کنیم. گزارش‌های متعددی از هک شدن وب‌سایت‌های شخص ثالث توسط مدل‌های خودآموز منتشر شده که تنها پس از بررسی دقیق فایل‌های لاگ توسط انسان کشف شده‌اند. این موضوع نشان‌دهنده یک حفره بزرگ امنیتی در فرآیندهای توسعه است که باید در سال‌های پیش رو به اولویت اصلی تیم‌های DevOps و SecOps تبدیل شود.
