English
Agent 基础设施

llama.cpp

prismml-eng/llama.cpp

llama.cpp 的 PrismML 分支,用 C/C++ 在多种硬件上高效运行大模型推理,并为 Bonsai 系列低比特模型加入专用格式和运行时支持。