Deprecated: Constant PDO::MYSQL_ATTR_INIT_COMMAND is deprecated since 8.5, use Pdo\Mysql::ATTR_INIT_COMMAND instead in /data/web/tuiapp.com/app/database.php on line 14
越狱PS5解锁GPU跑大模型:27B参数每秒20 token,内存上限升至11.4 GiB 更新时间11月21日 - Tuiapp
登录 注册

越狱PS5解锁GPU跑大模型:27B参数每秒20 token,内存上限升至11.4 GiB

Reddit用户 u/AdIllustrious7246 近日发布了他对 PS5LM 的分支版本。PS5LM 是 llama.cpp 在 PS5 上的移植项目,新分支让 PS5LM 能够在 PS5 上原生运行,并利用 GPU 运行更大的 A

越狱PS5可原生运行AI模型,27B模型达每秒20 token

越狱PS5在不玩游戏时可充当本地AI助手,但该技术依赖破解,文章明确不支持、不鼓励盗版或破解行为。

要点速览

  • Reddit用户 u/AdIllustrious7246 发布 PS5LM 分支版本,可在 PS5 原生运行并利用 GPU。
  • 该分支运行 Qwen3.8-27B 模型速度达每秒 20 个 token。
  • 此前 cobanov 的移植版以 payload 形式在 CPU 运行,内存限制在约 6 GiB。
  • 新分支借助 PS5_Vulkan 驱动向 PS5 GPU 发送指令,原生运行内存最高可达 11.4 GiB。
  • 较小模型 Gemma 4 E4B 和 Llama 3.2 3B 分别达到每秒 61 个和 124 个 token。

事件时间线

时间发生了什么
14天前GitHub用户cobanov在Reddit发布非官方llama.cpp移植版,让越狱PS5可本地离线运行AI聊天模型。
近日Reddit用户u/AdIllustrious7246发布PS5LM分支版本,实现PS5原生运行并利用GPU运行更大AI模型。

三个关键问题

这个分支和之前的版本有什么不同?

之前版本以payload形式在CPU上运行,内存限制约6 GiB;新分支原生运行并利用GPU,内存最高可达11.4 GiB。

PS5上能跑多快的AI模型?

据发布者称,27B参数模型达每秒20个token,Gemma 4 E4B达61个,Llama 3.2 3B达124个。

这会导致PS5涨价吗?

文章认为不太可能重演显卡危机,因为大型AI数据中心需求已让GPU和内存紧张,而PS5的GPU并非最快、内存也并非最多。

越狱PS5可原生运行AI模型,27B模型达每秒20 token 越狱PS5可原生运行AI模型,27B模型达每秒20 token

评论 (0)

登录后参与评论

登录

暂无评论,快来发表第一条评论吧!