چالش‌های مقیاس‌پذیری: معماری شبکه در آموزش توزیع‌شده هوش مصنوعی میان دیتاسنترها

آموزش مدل‌های هوش مصنوعی در مقیاس بزرگ، دیگر به محدوده‌های جغرافیایی یک دیتاسنتر واحد محدود نمی‌شود. با افزایش نیاز به ده‌ها هزار پردازنده گرافیکی (GPU) برای آموزش مدل‌های پیشرو (Frontier Models)، اپراتورهای ابری ناچار به توزیع بار پردازشی در چندین سایت جغرافیایی شده‌اند که این امر پارادایم جدیدی را در مهندسی شبکه و اتصالات دیتاسنتر (DCI) ایجاد کرده است.

گسست از محدودیت‌های فیزیکی دیتاسنتر

مدل‌های زبانی بزرگ (LLM) به دلیل محدودیت‌های توان الکتریکی و فضای فیزیکی، دیگر در یک دیتاسنتر واحد قابل آموزش نیستند. غول‌های فناوری مانند گوگل برای آموزش مدل Gemini، مایکروسافت برای اتصال دیتاسنترهای خود در ویسکانسین و جورجیا، و AWS برای زیرساخت مدل‌های Claude، از معماری‌های «Scale-Across» استفاده می‌کنند. بر اساس پیش‌بینی محققان Epoch AI، تا سال ۱۴۰۹ (۲۰۳۰ میلادی)، عملیات آموزش مدل‌های هوش مصنوعی ممکن است به ۴ تا ۱۶ گیگاوات توان مصرفی نیاز داشته باشد؛ عددی که توزیع جغرافیایی را به یک ضرورت استراتژیک تبدیل می‌کند.

چالش‌های معماری: وقتی شبکه به گلوگاه تبدیل می‌شود

در فرآیند آموزش همگام (Synchronous Training)، هزاران شتاب‌دهنده باید به صورت دوره‌ای با یکدیگر تبادل داده انجام دهند. برخلاف ترافیک‌های رایج در DCI که ماهیت غیرهمگام دارند، ترافیک توزیع‌شده هوش مصنوعی شامل دسته‌های بزرگی از داده‌های عددی (گرادیان‌ها و نتایج میانی) است که باید به طور همزمان توسط هزاران پردازنده پردازش شوند. بروز پدیده «Incast» در این شبکه‌ها زمانی رخ می‌دهد که ترافیک ارسالی از چندین مبدأ به سمت یک مقصد، از ظرفیت لینک عبور کرده و منجر به تأخیر در کل فرآیند محاسباتی می‌شود. در این معماری، تأخیر شبکه مستقیماً به تأخیر محاسباتی (Compute Latency) تبدیل می‌گردد.

راهکار سیسکو: تلفیق سخت‌افزار قابل برنامه‌ریزی و اپتیک منسجم

شرکت سیسکو با رویکرد «طراحی هم‌زمان» (Co-design)، تلاش کرده است محدودیت‌های سخت‌افزاری را با ادغام ترانسپوندرهای منسجم (Coherent Transponders) در پورت‌های روتر برطرف کند. این اقدام باعث کاهش مصرف انرژی و فضای اشغال شده در رک‌ها می‌شود. علاوه بر این، استفاده از بافرهای کاملاً مشترک (Shared Buffer) به شبکه اجازه می‌دهد تا در صورت بروز ازدحام لحظه‌ای، داده‌ها را بدون حذف (Drop) در حافظه موقت نگه دارد تا الگوریتم‌های مدیریت ترافیک وارد عمل شوند.

نتیجه‌گیری

توزیع آموزش هوش مصنوعی در سطح وسیع، شبکه‌های بین‌سایتی را از حالت انتقال داده‌های ساده به بخشی لاینفک از زیرساخت محاسباتی تبدیل کرده است. در حالی که فناوری‌های نوری و مدیریت هوشمند ترافیک تا حد زیادی بر چالش‌های فاصله غلبه کرده‌اند، موفقیت در این حوزه نیازمند درک دقیق از ماهیت متناوب (Bursty) ترافیک هوش مصنوعی و طراحی شبکه‌هایی است که بتوانند در مقیاس‌های پتابیتی، پایداری عملیاتی را تضمین کنند.