在阿里 PPU 环境中编译使用 llama.cpp
环境介绍 本文基于以下环境编写: * Ubuntu 24.04 * PPU SDK v2.0.0 * CUDA 兼容 SDK 12.9 编译过程 首先将 llama.cpp 代码仓库克隆到你喜欢的目录,例如我这里是 ~/work/llama.cpp/src。 git clone https://github.com/ggml-org/llama.cpp.git -b v0.4.0 --depth 1 ~/work/llama.cpp/src 保存 patch 文件 ~/work/llama.…