کنسول بازی پلی‌استیشن ۵ (PS5) که تا پیش از این به عنوان یک ماشین اختصاصی برای اجرای بازی‌های AAA شناخته می‌شد، اکنون با دستاورد جدید توسعه‌دهندگان مستقل، به بستری قدرتمند برای اجرای محلی مدل‌های زبانی بزرگ (LLM) تبدیل شده است. با جیل‌بریک کردن این کنسول و استفاده از قابلیت‌های GPU که پیش‌تر قفل شده بود، کاربران اکنون می‌توانند مدل‌هایی نظیر Qwen-27B را با سرعتی خیره‌کننده روی این سخت‌افزار اجرا کنند.
گذار از محدودیت‌های CPU به قدرت پردازشی GPU
پیش‌تر، تلاش‌ها برای اجرای کتابخانه llama.cpp بر روی PS5 به صورت یک Payload در سطح CPU انجام می‌شد. در آن روش، به دلیل تداخل با سیستم‌عامل اصلی کنسول، حافظه رم در دسترس به حدود ۶ گیگابایت محدود بود که منجر به پایداری پایین و سرعت بسیار کم می‌شد. اما با ظهور فورک جدید پروژه PS5LM توسط کاربر AdIllustrious7246، این محدودیت‌ها شکسته شده است.
کلید اصلی این پیشرفت، استفاده از PS5_Vulkan است؛ یک پورت از درایور گرافیکی RADV که به توسعه‌دهندگان اجازه می‌دهد دستورات محاسباتی را مستقیماً به GPU کنسول ارسال کنند. کنسول PS5 از یک واحد پردازش گرافیکی مبتنی بر معماری AMD استفاده می‌کند، اما در حالت عادی این سخت‌افزار در محیط بسته سونی محصور است. اکنون با این درایور، امکان بهره‌گیری از قدرت موازی‌سازی GPU برای استنتاج (Inference) مدل‌های هوش مصنوعی فراهم شده است.
مشخصات فنی و توانمندی‌های سیستم
- مدل‌های پشتیبانی شده: Qwen2.5-7B, Qwen-27B, Gemma 4B, Llama 3.2 3B
- سرعت تولید توکن: ۱۲۴ توکن در ثانیه (برای مدل‌های سبک) تا ۲۰ توکن در ثانیه (برای مدل‌های ۲۷ میلیاردی)
- ظرفیت رم در دسترس: افزایش از ۶.۲۵ گیگابایت به ۱۱.۴ گیگابایت
- ابزار اصلی: استفاده از موتور llama.cpp در محیط Native
- قابلیت‌های جانبی: داشبورد مانیتورینگ زنده، رابط کاربری تحت وب برای دسترسی از سایر دیوایس‌ها
تحلیل معماری و پایداری عملکرد
یکی از بزرگترین مشکلات در اجرای LLM روی سخت‌افزارهای غیر تخصصی، گلوگاه حافظه است. در نسخه پیشین، سیستم به دلیل اشغال حافظه توسط سرویس‌های سیستمی و محیط کاربری، دچار کرش می‌شد. با اجرای Native، اپلیکیشن اکنون به صورت یک برنامه مستقل در حافظه کنسول بارگذاری می‌شود که اجازه می‌دهد تا ۱۱.۴ گیگابایت از رم سیستم به مدل هوش مصنوعی اختصاص یابد. این امر باعث شده است تا مدل‌های حجیم‌تر مانند Qwen-27B با سرعتی معادل ۲۰ توکن در ثانیه اجرا شوند که برای بسیاری از کاربردهای شخصی بسیار کارآمد است.
علاوه بر این، توسعه‌دهنده یک رابط داشبورد اختصاصی نیز تعبیه کرده است که داده‌های لحظه‌ای شامل توان مصرفی، دمای قطعات، میزان اشغال GPU/CPU و همچنین تخصیص حافظه (KV Cache) را به کاربر نمایش می‌دهد. پشتیبانی از Web UI در این پروژه به این معناست که می‌توانید کنسول PS5 خود را به یک سرور هوش مصنوعی محلی تبدیل کرده و از طریق مرورگر سایر دستگاه‌های شبکه (مانند لپ‌تاپ یا موبایل) با آن تعامل داشته باشید.
نگرانی‌ها و آینده این پروژه
در حالی که این دستاورد فنی در مهر ۱۴۰۳ مورد توجه جامعه برنامه‌نویسان قرار گرفته است، برخی تحلیل‌گران نگران تکرار سناریوی بحران قیمت کارت گرافیک در دوران استخراج رمزارزها هستند. با این حال، به دلیل محدودیت‌های سخت‌افزاری PS5 در مقایسه با کارت‌های گرافیک حرفه‌ای سری RTX انویدیا و دشواری فرآیند جیل‌بریک، بعید است این موضوع منجر به کمبود قطعات شود. این پروژه بیشتر به عنوان یک تحقیق در حوزه مهندسی معکوس و استفاده بهینه از سخت‌افزارهای بسته (Closed-Source) اهمیت دارد تا یک راهکار تجاری برای دیتاسنترها.
