WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
Agent 基础设施
共 451 个项目 · 第 1 / 5 页
全部
11236
工具
5334
库 / 框架
1987
资源合集
631
Agent 基础设施
451
AI 应用
415
其他 / 未分类
406
Agent 工具
387
技能包
382
AI Agent
332
数据库
245
编排层
153
Agent 外壳
134
Agent 框架 / SDK
116
模型
98
AI 平台
86
低代码平台
79
第 1-100 条,共 451 个
项目
收录
建库
Stars
01
C
cc-switch
ai-tools
claude-code
desktop-app
管理
多
家
编
码
助手
的
桌面
工具,
一键
切换
API
供
应商
并
集中
管理
MCP、
技能
与
提示
词
等
多
项
配置。
farion1231
2026-06-26
2025-08-04
155.2k
stars
02
O
OmniRoute
a2a
ai-agents
ai-gateway
免费MIT AI
网关,
用
一
个
OpenAI
兼容
端点
接入
380家
供
应商、
1500+模型,
提供
配额
感知
自动
回退、
token
压缩、
多策
略路
由
及
MCP/A2A。
cheaper-inference
2026-10-21
2026-02-13
89.4k
stars
03
O
OmniRoute
a2a
ai-agents
ai-gateway
聚合数
百家
模型
供
应商
的
免费
AI
网关,
单端点路
由
fallback
并
压
缩节
省
Token。
diegosouzapw
2026-06-24
2026-02-13
88.6k
stars
04
D
dsh-our-free-model
ai-agents
deepseek
deepseek-harness
为
DeepSeek Harness
提供
免费
模型
与
多
提供
商
接入
的
插件,
内置
本
地
OpenAI/Anthropic
兼容
网关、
模型
路由、
用量
统计
和
token 压缩。
Ebony-Vinyl
2026-10-05
2026-09-24
74.2k
stars
05
D
dsh-our-free-model
ai-agents
deepseek
deepseek-harness
DeepSeek Harness
的
免费
模型
插件:
免
登录
接入
多
个
免费
上
游
模型,
并
提供
本
地
OpenAI/Anthropic
兼容
网关、
路由
降级、
用量
看板
与
Token 压缩。
zouyuxuan122
2026-09-30
2026-09-24
72.7k
stars
06
F
free-claude-code
多
编码
代理
的
免费
模型
网关,
统
一
61家
供应商
目录、
故障
转移
与
token
优化
的
管理
面板。
alishahryar1
2026-06-26
2026-01-28
72.2k
stars
07
T
t3code
已
装 AI
编程智
能体
的
远程
控制台,
通过
手机、
网页
和
桌面
端统
一
操作 Claude Code、
Codex、
Cursor、
OpenCode
等
会话。
pingdotgg
2026-07-26
2026-02-08
66.2k
stars
08
F
freellmapi
聚合数
十家
免费
大模型
配额
的
本
地
统
一
网关,
提供
路
由
容灾
与
用量
统
计面板。
tashfeenahmed
2026-06-26
2026-04-21
54.6k
stars
09
H
herdr
agent
agent-orchestration
ai
常
驻
终端
的
编码
智
能
体多
路
复
用器,
支持
断线
保持、
多
机
聚合
与
智
能
体
状态
感知。
ogulcancelik
2026-06-26
2026-03-27
51.9k
stars
10
H
herdr
agent
agent-orchestration
ai
编码
代理
专用
的
终端
运行
时,
支持
会
话持久化、
多机
工作区、
agent
状态
标记
和
插件
扩展。
herdrdev
2026-07-30
2026-03-27
51.4k
stars
11
L
LocalAI
llama
ai
llm
开源
本
地
AI
推理
引擎,
统一
调度
多
模态
模型
与
后端,
以
兼容
API
对
外
提供
服务。
mudler
2026-06-26
2023-03-18
50.5k
stars
12
C
colibri
可
在
个人
硬件
上
运行数千亿
MoE
大
模型
的
纯C本
地
推理
引擎
与
兼容
服务。
justvugg
2026-07-10
2026-07-01
50.3k
stars
13
I
iFixAi
ai
diagnostic-tool
agent-evaluation
面
向
AI Agent
的
独立
审计
工具,
通过
模拟
真实
业务
请
求
与
裁判
模型,
检测
越权、
欺骗、
提示
注入
等
风险
并生成 A
-F 评分
报告。
ifixai-ai
2026-07-24
2026-04-27
46.2k
stars
14
S
sub2api
2api
antigravity2api
claude
一
站式
AI
订阅
中
转
网关,
聚合Claude/OpenAI/Gemini/
Grok订阅
配额,
提供
API Key分
发计费
调度
管理。
wei-shaw
2026-06-26
2025-12-18
46.2k
stars
15
A
airllm
chinese-nlp
finetune
generative-ai
让
70B乃
至
671B
大模型
在
单张
小显
存显卡上
推理
与
微调
的
Python
推理
加速库。
lyogavin
2026-06-24
2023-06-12
42.3k
stars
16
P
posthog
analytics
python
react
开源
产品
分析
与
可
观测
平台,
覆盖
事件
回放
灰度
实验
错误
日志
与
AI
追踪
评估,
为
应用
与
智
能
体
提供
统
一
上
下文
与
诊断
能力。
PostHog
2026-06-26
2020-01-23
40.8k
stars
17
S
sglang
cuda
inference
llama
面
向
大模型
与
多
模态
模型
的
高性
能
推理
服务
框架,
优化
智
能
体
负载、
大规模
serving
与
强化
学习 rollout。
sgl-project
2026-06-24
2024-01-08
38.9k
stars
18
C
claude-code-router
面
向
Claude Code、
Codex
等
编码
Agent
的
本地
模型
网关
与
控制
平面,
统一
管理
Provider、
路由、
凭据、
工具
和
请求
日志。
musistudio
2026-08-26
2025-02-25
38.3k
stars
19
M
magpie
claude-code
codex
deepseek
本
地
LLM/Agent
网关
与
模型
管理
应用,
在
菜单
栏
为
Claude Code、
Codex
等
任意 Agent
统
一切
换
模型、
账户
与
订阅,
并
支持
故障
转移。
yetone
2026-11-04
2026-09-23
36.9k
stars
20
D
deepseek-harness-desktop
deepseek
deepseek-harness
dsh-plugin
DeepSeek Harness
的
开箱
即用
桌面
客户
端,
集成
服务
管理
托盘
窗口
与
插件
市场
生态。
anywhere-labs
2026-08-15
2026-08-13
35.9k
stars
21
C
codexplusplus
Codex
桌面
应用
的
统一
管理
增强
工具,
提供
多
供
应商
切换、
会话
管理
与
界面
用量
增强
能力。
bigpizzav3
2026-06-26
2026-05-06
33.2k
stars
22
A
antigravity-manager
account-manager
antigravity
面
向
AI
服务
的
桌面
账号
管理
与
协议
代理
工具,
支持
多
账号
一
键
切换、
配额
监控,
并
把
网页
会
话
转成
标准
API 供 Claude Code
等
客户
端
使用。
lbjlaq
2026-07-20
2025-11-26
33.1k
stars
23
9
9router
claude-code
cursor
ai-agents
聚合40
余
家
模型
供
应商
的
免费
AI路
由
网关,
支持
自动
降级、
配额
追踪
与
token 节
省
压缩。
decolua
2026-06-26
2026-01-05
32.6k
stars
24
C
claude-hud
anthropic
claude
claude-code
为
Claude Code
提供
实时
状态栏
的
观测
插件,
可
显示
上
下文
用量、
工具、
子智
能体
与
待办
进度。
jarrodwatts
2026-06-24
2026-01-02
29.3k
stars
25
M
mlflow
machine-learning
ai
ml
开源
AI
工程
与
可
观测
平台,
提供
大模型
追踪
评估、
提示
管理
与
模型
全生命
周期
治理
能力。
mlflow
2026-06-24
2018-06-05
28.8k
stars
26
C
cmux
amp
claude-code
codex
面
向
AI
编码
智
能体
的
原生
macOS
终端,
提供
多
会
话
标签页、
通知
提醒
与
可编程
浏
览器。
manaflow-ai
2026-06-24
2026-01-28
28.8k
stars
27
P
promptfoo
llm
prompt-engineering
prompts
面向
提示
词、
智
能
体
与
RAG
的
评估
与
红队
测试
工具,
支持
多
模型
对比
和
CI
集成。
promptfoo
2026-06-24
2023-04-28
27.1k
stars
28
L
llamafile
cross-platform
gguf
llama-cpp
将
大模型
打包
为
单文件
可
执行
程序,
无
需
安装即
可
在
多
系统本
地
运行
LLM
与
语音识别。
mozilla-ai
2026-06-24
2023-09-10
26.6k
stars
29
D
ds4
专为
DeepSeek
等
开源
大模型
优化
的
本地
推理
引擎,
支持
Metal
与
CUDA多
卡
及
服务端部署。
antirez
2026-06-26
2026-05-06
24.4k
stars
30
O
omlx
apple-silicon
inference-server
llm
面
向
Mac
的
本地
大模型
推理
服务器,
支持
连续
批
处理
与
菜单栏
管理
供智
能
体
调用。
jundot
2026-06-24
2026-02-13
23.6k
stars
31
M
mlc-llm
llm
language-model
tvm
面
向
全
平台
的
LLM
编译
与
高性
能
推理
部署
引擎,
支持
多
硬件
后端
与
OpenAI
兼容
接口。
mlc-ai
2026-06-24
2023-04-29
23.4k
stars
32
O
opik
open-source
langchain
openai
开源
LLM
可
观测
与
评测
平台,
提供
agent
追踪、
实验
评估、
提示
优化
与
生产
监控
能力。
comet-ml
2026-06-24
2023-05-10
23.4k
stars
33
N
nemoclaw
ai-agents
nvidia
openclaw
NVIDIA
开源
参考栈,
在
OpenShell
沙箱
中
安全
运行
OpenClaw、
Hermes
等
AI agent,
提供
托管
推理、
网络
策略、
状态持久化
与
生命
周期
管理。
nvidia
2026-07-15
2026-03-15
23.0k
stars
34
O
opcode
anthropic
anthropic-claude
claude
面
向
Claude Code
的
桌面
管理
应用,
提供
会
话
浏览、
自定
义智
能体、
用量
统计
与
MCP
配置。
winfunc
2026-06-24
2025-06-19
22.4k
stars
35
O
onnxruntime
deep-learning
onnx
neural-networks
跨平台
高性
能
机器
学习
推理
训练
加速
引擎,
兼容
多
框架
模型
并
利用
硬件
加速
优化
执行。
microsoft
2026-06-24
2018-11-10
22.3k
stars
36
O
OpenShell
面
向
自主智
能体
的
安全
隔
离
运行
时,
以
策略
声明
与
内核
强制
实现
文件
网络
凭证
的
最
小
权限
管控。
NVIDIA
2026-06-24
2026-02-24
21.8k
stars
37
W
wasmer
webassembly
wasm
wasi
轻量
安全
的
WebAssembly 沙
箱
运行
时,
提供
CLI
与
多语言 SDK,
可
在
本地、
云端
或
浏览器
隔
离
运行
Python、
JS
等
代码。
wasmerio
2026-08-26
2018-10-11
21.3k
stars
38
C
cockpit-tools
account-manager
ai
antigravity
通用
AI IDE
账号
管理
桌面
工具,
支持
Antigravity、
Codex、
Cursor、
Copilot
等
十
余
个
平台
的
账号
切换、
配额
监控、
自动
唤醒
与
多
开
实例
管理。
jlcodes99
2026-07-16
2026-01-16
20.0k
stars
39
E
evals
OpenAI
推出
的
大模型
评测
框架
与
基准
注
册表,
支持
自定
义评测
逻辑、
批量
运行
与
结果
管理,
用于
衡量
模型
能力。
openai
2026-06-24
2023-01-23
19.7k
stars
40
D
deepeval
evaluation-metrics
evaluation-framework
llm-evaluation
开源
LLM评估
框架,
提供
G-Eval、
任务
完成率
等
数
十
种
指标,
支持
智
能
体
轨迹
与
RAG端到
端测试。
confident-ai
2026-06-24
2023-08-10
19.5k
stars
41
W
web-llm
deep-learning
llm
tvm
浏览器
端
高性
能
大模型
推理
引擎,
基于
图形
加速且
兼容
开放
接口,
开发者
可用
软件
包集
成构
建本
地化
AI
应用。
mlc-ai
2026-06-24
2023-04-13
19.4k
stars
42
O
opencodex
ai-tools
claude
codex
opencodex
是
本
地
AI
网关,
把
Codex、
Claude Code、
Claude Desktop、
Grok Build
等
连接
到
任意
模型
供
应商,
并
提供
路由
与
账号
池
管理。
lidge-jun
2026-07-21
2026-06-18
18.6k
stars
43
O
OpenSandbox
ai
ai-infra
kubernetes
为
AI智
能
体
提供
隔离代码
执行
与
浏览器
桌面
的
沙箱
运行
时,
支持
Docker本
地
启动
与
K8s统
一
API部署。
opensandbox-group
2026-06-24
2025-12-17
17.3k
stars
44
F
freetoken
deepseek-v4
edge
glm
面
向
个
人
硬件
的
边缘
MoE
推理
引擎,
可
在
消费
级
GPU
上
运行
超大
开源
模型,
并
提供
桌面
应用、
CLI
与
OpenAI/Anthropic
兼容 API。
flashml-org
2026-08-22
2026-07-20
17.3k
stars
45
A
ag-ui
ag-ui-protocol
agent-frontend
agent-ui
开源
的
Agent-
用
户
交互
协议,
用
标准化
事件
把
AI Agent
接入
前端
应用,
并
提供
多
语言 SDK、
中间
件
与
参考
实现。
ag-ui-protocol
2026-11-14
2025-05-07
17.3k
stars
46
E
experiential
面
向
Agent
工作流
的
开源
模型
网关,
提供
统
一
接口、
权限
预算
管控
与
基于
流量
的
路由
优化。
experientiallabs
2026-08-28
16.7k
stars
47
N
nano-vllm
inference
llm
pytorch
从
零实现
的
轻量
vLLM
推理
引擎,
代码
精简
可读,
推理
速度
可
比肩
原版vLLM。
GeeeekExplorer
2026-06-24
2025-06-09
16.4k
stars
48
C
cc-connect
连
接本
地
AI
编
程助手
与
飞书
Telegram
等
聊天
平台
的
桥接
网关,
支持
多
智
能
体
中
继
会话
与
定时
任务。
chenhg5
2026-06-24
2026-02-28
16.4k
stars
49
R
ragas
llm
llmops
evaluation
面
向
大模型
应用
的
评估
工
具包,
提供
客观
指标测试
集生成
与
生产
数
据
反馈闭环。
vibrantlabsai
2026-06-24
2023-05-08
16.3k
stars
50
R
RagaAI-Catalyst
agentneo
agents
llm-testing
面
向
LLM
与
多智
能
体
系统
的
可观测、
评测
与
护栏
平台,
提供
追踪
调试
与
自托管
看板
分析
能力。
raga-ai-hub
2026-06-24
2024-08-26
16.2k
stars
51
C
claudian
claude-code
obsidian
obsidian-plugin
Obsidian
插件,
将
Claude Code、
Codex、
OpenCode
等
编码
agent
嵌入
笔
记库,
支持
会话、
内联编辑、
技能
与
跨会
话
消息。
YishenTu
2026-07-15
2025-12-05
16.0k
stars
52
T
TensorRT-LLM
blackwell
cuda
moe
英伟
达
开源
的
大模型
推理
优化
库,
提供
高效
内核
与
运行
时,
支撑
高性
能
部署。
NVIDIA
2026-06-24
2023-08-16
15.1k
stars
53
E
E2B
ai
gpt
openai
运行
AI生成
代码
的
云端
安全
沙箱
基础
设施,
提供
SDK
创建管
控沙箱
及
桌面
操作
能力
的
开发者
服务。
e2b-dev
2026-06-24
2023-03-04
14.9k
stars
54
C
claudecodeui
claude
claude-api
claude-code
面
向
Claude Code、
Cursor CLI
和
Codex
的
Web/
移动
端图形界面,
可
远
程
查看
和
管理
编程 Agent
的
会话、
文件
与
Git
操作。
siteboon
2026-08-26
2025-06-25
14.6k
stars
55
A
ax
谷歌
开源
的
声明式
agent
任务
调度
运行
时,
在
Kubernetes
集群
上
以
沙箱
方式
批量
运行、
预配置
并
恢复智
能
体
任务。
google
2026-09-22
2026-03-30
14.6k
stars
56
H
hermes-desktop
ai
ai-agent
autonomous-agents
Hermes智
能体
的
桌面
配套
应用,
提供
安装
配置
聊
天
会
话
记忆
与
工具
管理
的
图形化
管理端。
fathah
2026-06-24
2026-04-02
14.6k
stars
57
C
ccstatusline
ai-tools
claude-code
cli
为
Claude Code CLI
打造
的
高度
可定制
状态栏,
实时
显示
模型、
Git
分支、
Token
用量、
费用
与
限额,
并
支持
主题
与
Powerline 样式。
sirmalloc
2026-07-16
2025-08-08
13.6k
stars
58
C
cubesandbox
agents
container
sandbox
面
向
AI智
能体
的
高性
能
安全
沙箱
服务,
毫
秒级
启动
硬件
隔离,
兼容
E2B
接口
支持
高
并
发代
码
执行。
tencentcloud
2026-07-09
2026-04-10
13.4k
stars
59
G
gateway
gateway
generative-ai
llmops
面
向
开发者
的
开源
AI
网关,
提供
多
模型
路由、
重试
熔断、
护栏
与
MCP
管理
能力。
Portkey-AI
2026-06-24
2023-08-23
13.4k
stars
60
O
openchamber
ai
opencode
agentic-engineering
OpenCode
编码
Agent
的
桌面
与
网页
工作区,
支持
会
话
目标、
多模型
并行
运行、
变
更
评审、
预览、
GitHub
流程
与
跨
设备
远
程续
接。
openchamber
2026-07-17
2025-09-11
12.9k
stars
61
O
OpenLLM
llm
llmops
model-inference
简化
大模型
自托管
与
推理
服务
的
开源
项目,
提供
命
令行
与
API部署
及
云端
推理
能力
的
服务
框架。
bentoml
2026-06-24
2023-04-19
12.6k
stars
62
L
LMCache
amd
cuda
inference
面
向
大模型
推理
的
KV
缓存
管理层,
实现
跨
引擎持久化
复用
与
可
观测,
显著降低
首字
延迟
提升
吞吐。
LMCache
2026-06-24
2024-05-28
12.4k
stars
63
P
phoenix
llmops
ai-monitoring
ai-observability
开源
LLM
应用
可
观测
与
评测
平台,
基于
OpenTelemetry
追踪
调用
链,
支持
数
据集、
实验、
提示
词
管理
与
LLM
评审。
Arize-ai
2026-08-26
2022-11-09
12.3k
stars
64
K
kubeshark
kubernetes
golang
rest
面
向
K8s
的
eBPF
网络
可
观测
平台,
索引L4/L7
流量
解密
TLS
并
支持
MCP
查询。
kubeshark
2026-06-24
2021-04-19
12.1k
stars
65
K
kimi-k3-in-c
avx2
c99
cpu-inference
用
纯C
实现
的
超大
MoE模型
CPU
推理
引擎,
无
依赖
流式
加载权重,
在
单机
低
内存下生成
文本
fareedkhan-dev
2026-08-02
2026-08-01
12.1k
stars
66
C
codeburn
ai-coding
claude-code
cli
本
地化
AI
编程
花费
观测
工具,
统计
多
款
代
码智
能
体
的
模型
项目
任务级
token
与
成本。
getagentseal
2026-08-19
2026-04-13
11.9k
stars
67
W
wandb
machine-learning
experiment-track
deep-learning
面
向
机器
学习
实验
的
追踪
与
可视化
平台,
记录
指标、
数据
集
与
模型
版本。
wandb
2026-06-24
2017-03-24
11.3k
stars
68
I
inspector
tool
debug
mcp
MCP官方
服务器
调试
检验
配套,
提供
网页命令行
与
终端界面用于
连接列举调用
MCP
服务,
面
向
MCP
开发者
测试
联调。
modelcontextprotocol
2026-06-24
2024-10-03
11.3k
stars
69
S
server
inference
gpu
machine-learning
英伟
达
开源
的
AI
模型
推理
服务
软件,
支持
多
框
架
模型
的
高性
能
云边
部署。
triton-inference-server
2026-06-24
2018-10-04
11.1k
stars
70
T
tyk
go
api
api-management
Tyk
是
云
原生
开源
的
API
与
AI
网关,
支持
REST、
GraphQL、
gRPC、
TCP
和
MCP,
可
为
API
与
AI agent
流量
提供
认证、
限流、
分析
与
LLM
路
由
治理。
TykTechnologies
2026-08-26
2014-05-07
10.9k
stars
71
O
openskills
面
向
所有
AI
编程智
能体
的
通用
技能
加载器,
用统
一
CLI
安装同步
SKILL.
md,
保持
与
Claude Code相同
格式。
numman-ali
2026-06-24
2025-10-26
10.8k
stars
72
L
llama-cpp-python
llama.cpp
的
Python
绑定
与
兼容
服务,
支持
本
地
大模型
推理
补全
embeddings
及
函数
调用,
便于
快速
集成
部署。
abetlen
2026-06-24
2023-03-23
10.7k
stars
73
A
astrid
agent-runtime
ai-agents
capability-security
面
向
AI智
能体
的
操作
系统
级
运行
时,
用WebAssembly
胶囊、
能力
令牌
与
沙箱
实现
可
组合
的
安全
隔离
执行。
unicity-astrid
2026-06-24
2026-02-15
10.3k
stars
74
P
pixel-agents
ai-agents
claude-code
cli
把
终端
中
的
AI
编码
agent
变成
像
素办公室
角色,
可视化
其
读写、
搜索
与
等待
状态,
并
可
启动
和
管理
多
个
会话。
pixel-agents-hq
2026-11-18
2026-02-08
10.3k
stars
75
G
garak
ai
llm-evaluation
llm-security
面
向
LLM
的
红队
评测
扫
描器,
用
大量
探针
检测
幻觉、
注入
与
越狱
等
弱点。
NVIDIA
2026-06-24
2023-05-10
10.1k
stars
76
H
hyperdx
analytics
application-monitoring
log-management
开源
可
观测
平台,
统一
搜索
可视化
日志、
指标、
链路
与
回放,
基于
ClickHouse
实现
高速
检索
告警。
hyperdxio
2026-06-24
2023-09-13
10.0k
stars
77
C
computer
给
智
能体
的
云端
电脑
基座,
提供
持久
文件
系统
与
容器
隔离
执行
环境
及
多
示例。
cloudflare
2026-08-05
2026-06-05
9.9k
stars
78
F
failproofai
claude-code
reliability
agent-reliability
面
向
Agent
Harness
的
可观测
与
策略
执行层,
提供
运行
追踪、
护
栏
拦截
与
本地
审计。
failproofai
2026-08-12
2026-04-06
9.8k
stars
79
I
inference
pytorch
deployment
llm
统
一
的
大模型
推理
服务库,
一
条
命令部署
开源
模型,
兼容OpenAI
接口
并
支持
分
布式
运行。
xorbitsai
2026-06-24
2023-06-14
9.7k
stars
80
S
self-hosted
sentry
docker
docker-compose
Sentry
官
方
自托管
发行版,
开箱
打
包错
误
追踪
与
性
能
监控
全
功
能
栈,
适合
小
规模
私有化部
署
验证。
getsentry
2026-06-24
2016-02-11
9.7k
stars
81
B
bifrost
gateway
llm-gateway
guardrails
高性
能
开源
AI
网关,
用 OpenAI
兼容 API
统
一
接入
23
+ 模型
提供
商,
提供
自动
回退、
负载
均衡、
语义
缓存、
护栏、
预算
治理
与
可观测性。
maximhq
2026-08-26
2025-03-19
9.5k
stars
82
A
atlas
ai
ai-coding-assistant
claude-code
Atlas
是
面
向
编码
智
能体
的
可视化
与
管控层,
记录
会话、
关联
提交
并
提供
团队
时间线
与
共享记忆。
tryatlas
2026-11-06
2026-05-14
9.4k
stars
83
A
atlas
ai
ai-coding-assistant
claude-code
面
向
编码
智
能体
的
源代
码
管理
与
会话
中枢,
并
行
运行
多
种
智
能
体
并
共
享记忆
与
检查点,
附带编
辑器
与
终端。
pacifio
2026-08-07
2026-05-14
9.2k
stars
84
M
microsandbox
agents
docker
linux
本
地
优先
的
轻量
MicroVM
运行时
与
开发库,
可
在
毫
秒级
启动
隔离
沙箱
运行智
能体、
代码
与
自动化
任务。
superradcompany
2026-06-24
2024-10-03
9.1k
stars
85
C
claude-squad
claude-code
cli
vibe-coding
在
单个
终端
管理
多
个
AI
编程智
能
体
会话,
为
每
任务
隔离git
工作区,
支持
后
台
执行
与
变
更
审核。
smtg-ai
2026-06-24
2025-03-09
8.8k
stars
86
C
Claude-Code-Usage-Monitor
ai
claude
claude-code
实时
监控
Claude Code
用量
的
终端
工具,
跟踪 token、
消息
与
成本,
提供
预测、
告警
和
数
据
导出。
Maciek-roboblog
2026-08-26
2025-06-19
8.8k
stars
87
N
nexa-sdk
llm
on-device-ai
sdk
骁龙
设备
端生
成式
AI
推理
运行
时,
可
在
NPU/GPU/CPU本
地
运行
前
沿
大
模型。
qualcomm
2026-06-24
2024-08-16
8.5k
stars
88
O
ogx
OpenAI
兼容
的
开源
智
能
体API
服务器,
统
一
接入
多
模型
与
检索
工具,
为
AI
应用
提供
推理
编排
基础
设施。
ogx-ai
2026-06-24
2024-06-25
8.5k
stars
89
A
aos-ce
面
向
AI agent
的
本地
运行
环境
与
权限
系统,
用
隔离 WebAssembly 胶囊
执行
工具
并
保留
审计
轨迹。
unicity-aos
2026-07-26
2026-07-12
8.5k
stars
90
P
pi-web
pi
编码
Agent
的
本地
浏览器
界面,
复用
pi
的
配置
与
会话
文件,
可浏
览续
聊
会话、
运行
Agent
回合、
配置
模型
并查
看
项目
文件。
agegr
2026-07-21
2026-03-22
8.2k
stars
91
L
lmdeploy
cuda-kernels
deepspeed
fastertransformer
面
向
LLM
的
压缩部署
推理
工具包,
提供
高吞吐
推理
引擎、
量化
与
多机
服务
能力,
支持众
多
开源
模型。
InternLM
2026-06-24
2023-06-15
8.1k
stars
92
E
evidently
data-drift
jupyter-notebook
pandas-dataframe
评估测试监控
ML
与
LLM
系统
的
开源
框架,
提供
百余
指标、
报告
测
试集
与
生产
监
控面板
服务。
evidentlyai
2026-06-24
2020-11-25
8.1k
stars
93
O
openspace
面
向
智
能
体技
能
全
生命
周期
的
管理
与
评估
设施,
提供
检索、
质量
评估、
进化
与
本地
优先
的
技能
共
享
运
行层。
hkuds
2026-08-16
2026-03-24
8.1k
stars
94
S
stable-diffusion.cpp
ai
cplusplus
diffusion
纯 C/C+
+
的
扩散
模型
推理
引擎,
支持
SD、
Flux、
Wan、
Qwen Image
等
图像
与
视频
模型,
可
在
CPU/GPU
本
地
运行。
leejet
2026-09-24
2023-08-13
8k
stars
95
G
grok2api
grok
grok-imagine
grok-build
面
向
Grok Build/Web/Console
的
多账
号
API
网关,
统
一
OpenAI/Anthropic
接口,
提供
账号池、
路由、
审计
和
管理
台。
chenyme
2026-07-15
2025-10-10
7.9k
stars
96
M
mistral.rs
llm
rust
uqff
高性
能
多
模态
LLM
推理
引擎,
提供量化、
兼容
API
服务
与
SDK,
支持
本
地
与
多卡
快速部
署
运行。
EricLBuehler
2026-06-24
2024-02-26
7.8k
stars
97
M
magnitude
面
向
智
能体
的
开源
本地
推理
引擎,
针对
硬件
调优
提速,
下载
模型
后
供常
用
编程
智
能
体
调用。
magnitudedev
2026-08-09
2026-06-12
7.8k
stars
98
S
substrate
面
向
K8s
的
零信任
Agent沙
箱
运行
时,
提供
隔离、
快照
恢复
与
高密度
调度
的
基础
设施。
agent-substrate
2026-08-20
2026-05-13
7.8k
stars
99
V
vllm-omni
diffusion
inference
model-serving
面
向
全
模态
模型
的
推理
与
服务
框架,
支持
文本、
图像、
音频、
视频
与
动作生成
及
OpenAI
兼容 API。
vllm-project
2026-07-18
2025-09-11
7.8k
stars
100
M
manifest
openclaw
cost-tracking
llm-observability
开源
LLM
网关,
把
多
家
API key、
订阅
与
本地
模型
汇聚
为
一
个
OpenAI
兼容
端点,
提供
路由、
回退、
全量
日志
与
成本
追踪。
mnfst
2026-08-26
2022-09-27
7.7k
stars
第 1 / 5 页
下一页 →