A Anon84 در github.com

اجرای مدل‌های زبانی روی پلی‌استیشن ۵ جیلبریک‌شده با پروژه PS5LM

۳ دقیقه مطالعه ۲۹۴ امتیاز ۷۳ نظر ۲۵ مهر ۱۴۰۵

اجرای مدل‌های زبانی روی پلی‌استیشن ۵ جیلبریک‌شده با پروژه PS5LM — Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

خلاصه

پروژه متن‌باز PS5LM با پورت کردن کتابخانه llama.cpp روی پردازنده گرافیکی پلی‌استیشن ۵ جیلبریک‌شده، امکان اجرای مدل‌های GGUF را فراهم می‌کند. این ابزار کنسول را به یک سرور هوش مصنوعی با رابط سازگار با OpenAI و Anthropic در شبکه محلی تبدیل می‌کند.

کنسول‌های بازی به دلیل نسبت فوق‌العاده توان پردازشی به قیمت، همواره هدفی جذاب برای توسعه‌دهندگان بوده‌اند تا از سخت‌افزار اختصاصی آن‌ها برای اهداف محاسباتی همه‌منظوره استفاده کنند. اکنون پروژه متن‌باز PS5LM که توسط توسعه‌دهنده‌ای با نام cobanov طراحی شده، پای مدل‌های زبانی بزرگ (LLM) را به کنسول بازی PlayStation 5 باز کرده است. این ابزار به کاربران اجازه می‌دهد مدل‌های مختلف مبتنی بر فرمت GGUF را مستقیماً روی پردازنده گرافیکی کنسول اجرا کرده و از طریق شبکه محلی از آن به عنوان یک سرویس هوش مصنوعی مستقل استفاده کنند.

معماری فنی و نحوه عملکرد

کنسول پلی‌استیشن ۵ به پردازنده گرافیکی قدرتمندی بر پایه معماری AMD RDNA 2 و حافظه مشترک پرسرعت مجهز است. در PS5LM، حدود ۱۱٫۴ گیگابایت از این حافظه به عنوان VRAM برای بارگذاری وزن‌های مدل و پنجره زمینه (Context Window) در دسترس برنامه قرار می‌گیرد.

ویژگی‌های فنی کلیدی این پروژه عبارتند از:

  • موتور پردازشی llama.cpp و Vulkan: هسته اصلی استنتاج بر دوش llama.cpp است که با استفاده از درایور متن‌باز RADV و پروژه PS5_Vulkan روی API گرافیکی Vulkan اجرا می‌شود.
  • رابط‌های استاندارد شبکه: این پروژه یک وب‌سرور داخلی دارد که اندپوینت‌های /v1/chat/completions (سازگار با OpenAI) و /v1/messages (سازگار با Anthropic) را ارائه می‌دهد. ابزارهایی مثل Claude Code یا افزونه‌های کدنویسی بدون هیچ تغییری می‌توانند کنسول را به عنوان سرور مدل هدف بگیرند.
  • مدل‌های تصمیم‌گیری (Decision Models): با الهام از Ollaya، اندپوینت اختصاصی /v1/systemone برای اجرای مدل‌های تصمیم‌گیری ساختاریافته (مانند d1 Omni و Clef) پشتیبانی می‌شود که خروجی‌های قطعی یا امتیازدهی را بدون نیاز به تولید متن خام برمی‌گردانند.
  • رابط کاربری روی تلویزیون: اپلیکیشن با C++ و بر بستر ps5-homebrew-ui توسعه یافته و دارای داشبورد گرافیکی اختصاصی برای تلویزیون است؛ از جمله نمایش چت زنده، مانیتورینگ بلادرنگ دما، مصرف برق، بار کاری GPU/CPU و امکان دانلود مستقیم مدل‌ها از Hugging Face.

در یک نگاه

  • سازنده / مخزن: cobanov/PS5LM
  • زبان برنامه نویسی: C++
  • مجوز (License): GPL-3.0
  • پیش‌نیازها: کنسول PS5 جیلبریک‌شده (فریم‌ور 7.00 تا 13.60) به همراه پی‌لودهای etaHEN و kstuff-lite
  • پشتیبانی سخت‌افزاری: پشتیبانی از مدل‌های متنی و چندوجهی (Vision مانند Gemma 4 و MiniCPM-V)
  • کارایی تخمینی: حدود ۲۰۷ توکن بر ثانیه روی مدل‌های کوچک (Qwen 3.5 0.8B) و حدود ۲۰ توکن بر ثانیه روی مدل‌های فشرده بزرگ (Qwen 3.8 27B در کوانتایز دو بیتی)

نحوه نصب و راه‌اندازی

برای راه‌اندازی، پس از جیلبریک کنسول و فعال‌سازی پی‌لودهای پایه، کافی است فایل فشرده برنامه از بخش Releases گیت‌هاب دانلود شده و پوشه PPSA99575 از طریق FTP به مسیر /data/homebrew منتقل شود. با ابزاری مانند ShadowMountPlus آیکون برنامه در منوی اصلی ظاهر می‌شود. مدل‌های دانلودی را می‌توان از طریق فلش درایو USB یا مستقیماً از رابط کاربری دانلود کرد و سپس با ارجاع به آدرس پورت 8081 کنسول، درخواست‌ها را از لپ‌تاپ یا گوشی موبایل ارسال نمود.

بازخوردها و اهمیت در جامعه توسعه‌دهندگان

بحث پیرامون این پروژه در Hacker News نکات جالبی به همراه داشته است. اجرای مدل‌های فشرده ۲ بیتی شاید برای چت‌های عمومی ایده‌آل نباشد، اما کاربران اشاره کرده‌اند که به عنوان یک پردازشگر ارزان‌قیمت ۲۴ ساعته (با مصرف برقی حدود ۷۰ سنت در روز) برای تسک‌های پس‌زمینه، مانیتورینگ لاگ سرورها، امنیت و اتوماسیون خانه بسیار اقتصادی است. همچنین برخی به شباهت سخت‌افزاری PS5 با بردهای ماینینگ ارزان‌قیمت BC250 اشاره کرده و احتمال اجرای پروژه‌های مشابه روی آن سخت‌افزارها را مطرح کرده‌اند. در نهایت، با توجه به سخت‌گیری‌های سونی، کاربران بحث‌هایی درباره لزوم انتقال چنین پروژه‌هایی به هاست‌هایی مستقل‌تر از GitHub برای در امان ماندن از ادعاهای حقوقی DMCA مطرح ساختند.

این مطلب به‌صورت کاملاً خودکار و با هوش مصنوعی از مقالهٔ اصلی و بحث هکرنیوز تهیه شده و ممکن است خطا داشته باشد. حقوق مطلب اصلی متعلق به نویسندهٔ آن است. قوانین و گزارش مشکل

خبرهای فناوری در قالب پست و ویدیوی کوتاه، در اینستاگرام هکرنیوز بلاگ. به‌زودی
هر خبر به محض انتشار، به‌همراه پادکست روزانه در کانال تلگرام هکرنیوز بلاگ.