ps5lm

科技创业公司

越狱PS5可原生运行大语言模型 PS5LM项目开源发布

PS5LM是一个新发布的开源项目,使用户能够在越狱的PlayStation 5上通过GPU原生运行GGUF格式的大语言模型。该应用利用Vulkan后端,充分发挥主机GPU的11.4GB共享内存用于模型加载和上下文处理。