English
Agent 基础设施

ninfer

neroued/ninfer

面向 RTX 5090 与 DGX Spark 的高性能 C++/CUDA 推理引擎,提供 CLI 及 OpenAI/Anthropic 兼容 HTTP 接口。