PS5運行本地語言模型 PS5LM Plus提供網頁聊天介面
實驗項目PS5LM Plus建基於llama.cpp移植,以PS5 GPU執行量化語言模型,並提供網頁聊天介面。其區域網絡API亦可讓開發工具連接;報道所述方案需要已破解主機,並非一般PS5官方功能。

PS5除了執行遊戲,也被社群開發者用來嘗試本地語言模型。PS5LM Plus以llama.cpp移植為基礎,讓已破解主機的GPU運行GGUF模型,並提供電視儀表板、模型管理及網頁聊天介面。這是一項需要特定非官方環境的技術實驗,普通零售主機不能因為看到網頁介面,就直接使用相同功能。
從原本PS5LM分支延伸的原生應用
維護者把Plus描述為從Mert Cobanov的PS5LM分支發展而來,保留GPL-3.0授權,之後圍繞原生GPU應用獨立擴充。原始項目曾以payload方式運行,Plus則使用原生應用可存取的記憶體與GPU資源,兩者的執行方式與限制不同。
文件提到llama.cpp的Vulkan後端,以及PS5上的RADV移植。這些名稱解釋的是軟件如何接近硬件能力,並不代表Sony已開放一般用戶在主機系統中安裝任意AI程式,也不能推廣成所有PS5韌體版本都能使用的官方相容承諾。

聊天介面可由區域網絡裝置存取
項目提供模型庫及聊天介面,讓同一網絡中的其他裝置透過瀏覽器與主機上的模型互動;亦有OpenAI相容API,供支援相同格式的工具連接。相容API描述的是通訊格式,不等於模型由OpenAI提供或達到相同服務能力。
模型大小、量化與速度不能混成單一指標
維護者展示多款不同大小與量化方式的模型效能,但生成速度還會受上下文、快取及設定影響。比較時需要把模型名稱與設定一併看,不能只抽取最快的一個數字,便宣稱PS5在所有AI工作都達到相同速度。本文沒有重新測試相關數據。
編輯觀察:技術展示與日常工具仍有距離
這項實驗的價值,是展示現有遊戲硬件在社群工具下能承擔不同運算工作。對實際想使用本地AI的讀者,仍需考慮模型品質、維護成本、可用記憶體與裝置環境;能在主機上產生文字,只是起點,並不直接等於適合取代自己的電腦工作流程或已完成長期穩定性驗證。
玩家討論
正在確認登入狀態…
留言經審核後公開。只顯示最近 50 則可見留言。
暫時未有可顯示的留言。




