English

Agent 基础设施

共 451 个项目 · 第 1 / 5 页

第 1-100 条,共 451 个
项目
收录
建库
Stars
01
cc-switchai-toolsclaude-codedesktop-app
管理多家编码助手的桌面工具,一键切换API供应商并集中管理MCP、技能与提示词等多项配置。farion1231
2026-06-26
2025-08-04
155.2k stars
02
OmniRoutea2aai-agentsai-gateway
免费MIT AI网关,用一个OpenAI兼容端点接入380家供应商、1500+模型,提供配额感知自动回退、token压缩、多策略路由及MCP/A2A。cheaper-inference
2026-10-21
2026-02-13
89.4k stars
03
OmniRoutea2aai-agentsai-gateway
聚合数百家模型供应商的免费AI网关,单端点路由 fallback并压缩节省Token。diegosouzapw
2026-06-24
2026-02-13
88.6k stars
04
dsh-our-free-modelai-agentsdeepseekdeepseek-harness
为 DeepSeek Harness 提供免费模型与多提供商接入的插件,内置本地 OpenAI/Anthropic 兼容网关、模型路由、用量统计和 token 压缩。Ebony-Vinyl
2026-10-05
2026-09-24
74.2k stars
05
dsh-our-free-modelai-agentsdeepseekdeepseek-harness
DeepSeek Harness 的免费模型插件:免登录接入多个免费上游模型,并提供本地 OpenAI/Anthropic 兼容网关、路由降级、用量看板与 Token 压缩。zouyuxuan122
2026-09-30
2026-09-24
72.7k stars
06
free-claude-code
多编码代理的免费模型网关,统一61家供应商目录、故障转移与token优化的管理面板。alishahryar1
2026-06-26
2026-01-28
72.2k stars
07
t3code
已装 AI 编程智能体的远程控制台,通过手机、网页和桌面端统一操作 Claude Code、Codex、Cursor、OpenCode 等会话。pingdotgg
2026-07-26
2026-02-08
66.2k stars
08
freellmapi
聚合数十家免费大模型配额的本地统一网关,提供路由容灾与用量统计面板。tashfeenahmed
2026-06-26
2026-04-21
54.6k stars
09
herdragentagent-orchestrationai
常驻终端的编码智能体多路复用器,支持断线保持、多机聚合与智能体状态感知。ogulcancelik
2026-06-26
2026-03-27
51.9k stars
10
herdragentagent-orchestrationai
编码代理专用的终端运行时,支持会话持久化、多机工作区、agent 状态标记和插件扩展。herdrdev
2026-07-30
2026-03-27
51.4k stars
11
LocalAIllamaaillm
开源本地AI推理引擎,统一调度多模态模型与后端,以兼容API对外提供服务。mudler
2026-06-26
2023-03-18
50.5k stars
12
colibri
可在个人硬件上运行数千亿MoE大模型的纯C本地推理引擎与兼容服务。justvugg
2026-07-10
2026-07-01
50.3k stars
13
iFixAiaidiagnostic-toolagent-evaluation
面向 AI Agent 的独立审计工具,通过模拟真实业务请求与裁判模型,检测越权、欺骗、提示注入等风险并生成 A-F 评分报告。ifixai-ai
2026-07-24
2026-04-27
46.2k stars
14
sub2api2apiantigravity2apiclaude
一站式AI订阅中转网关,聚合Claude/OpenAI/Gemini/Grok订阅配额,提供API Key分发计费调度管理。wei-shaw
2026-06-26
2025-12-18
46.2k stars
15
airllmchinese-nlpfinetunegenerative-ai
让70B乃至671B大模型在单张小显存显卡上推理与微调的Python推理加速库。lyogavin
2026-06-24
2023-06-12
42.3k stars
16
posthoganalyticspythonreact
开源产品分析与可观测平台,覆盖事件回放灰度实验错误日志与AI追踪评估,为应用与智能体提供统一上下文与诊断能力。PostHog
2026-06-26
2020-01-23
40.8k stars
17
sglangcudainferencellama
面向大模型与多模态模型的高性能推理服务框架,优化智能体负载、大规模 serving 与强化学习 rollout。sgl-project
2026-06-24
2024-01-08
38.9k stars
18
claude-code-router
面向Claude Code、Codex等编码Agent的本地模型网关与控制平面,统一管理Provider、路由、凭据、工具和请求日志。musistudio
2026-08-26
2025-02-25
38.3k stars
19
magpieclaude-codecodexdeepseek
本地 LLM/Agent 网关与模型管理应用,在菜单栏为 Claude Code、Codex 等任意 Agent 统一切换模型、账户与订阅,并支持故障转移。yetone
2026-11-04
2026-09-23
36.9k stars
20
deepseek-harness-desktopdeepseekdeepseek-harnessdsh-plugin
DeepSeek Harness的开箱即用桌面客户端,集成服务管理托盘窗口与插件市场生态。anywhere-labs
2026-08-15
2026-08-13
35.9k stars
21
codexplusplus
Codex桌面应用的统一管理增强工具,提供多供应商切换、会话管理与界面用量增强能力。bigpizzav3
2026-06-26
2026-05-06
33.2k stars
22
antigravity-manageraccount-managerantigravity
面向 AI 服务的桌面账号管理与协议代理工具,支持多账号一键切换、配额监控,并把网页会话转成标准 API 供 Claude Code 等客户端使用。lbjlaq
2026-07-20
2025-11-26
33.1k stars
23
9routerclaude-codecursorai-agents
聚合40余家模型供应商的免费AI路由网关,支持自动降级、配额追踪与 token 节省压缩。decolua
2026-06-26
2026-01-05
32.6k stars
24
claude-hudanthropicclaudeclaude-code
为Claude Code提供实时状态栏的观测插件,可显示上下文用量、工具、子智能体与待办进度。jarrodwatts
2026-06-24
2026-01-02
29.3k stars
25
mlflowmachine-learningaiml
开源AI工程与可观测平台,提供大模型追踪评估、提示管理与模型全生命周期治理能力。mlflow
2026-06-24
2018-06-05
28.8k stars
26
cmuxampclaude-codecodex
面向AI编码智能体的原生macOS终端,提供多会话标签页、通知提醒与可编程浏览器。manaflow-ai
2026-06-24
2026-01-28
28.8k stars
27
promptfoollmprompt-engineeringprompts
面向提示词、智能体与RAG的评估与红队测试工具,支持多模型对比和CI集成。promptfoo
2026-06-24
2023-04-28
27.1k stars
28
llamafilecross-platformggufllama-cpp
将大模型打包为单文件可执行程序,无需安装即可在多系统本地运行LLM与语音识别。mozilla-ai
2026-06-24
2023-09-10
26.6k stars
29
ds4
专为DeepSeek等开源大模型优化的本地推理引擎,支持Metal与CUDA多卡及服务端部署。antirez
2026-06-26
2026-05-06
24.4k stars
30
omlxapple-siliconinference-serverllm
面向Mac的本地大模型推理服务器,支持连续批处理与菜单栏管理供智能体调用。jundot
2026-06-24
2026-02-13
23.6k stars
31
mlc-llmllmlanguage-modeltvm
面向全平台的LLM编译与高性能推理部署引擎,支持多硬件后端与OpenAI兼容接口。mlc-ai
2026-06-24
2023-04-29
23.4k stars
32
opikopen-sourcelangchainopenai
开源LLM可观测与评测平台,提供agent追踪、实验评估、提示优化与生产监控能力。comet-ml
2026-06-24
2023-05-10
23.4k stars
33
nemoclawai-agentsnvidiaopenclaw
NVIDIA 开源参考栈,在 OpenShell 沙箱中安全运行 OpenClaw、Hermes 等 AI agent,提供托管推理、网络策略、状态持久化与生命周期管理。nvidia
2026-07-15
2026-03-15
23.0k stars
34
opcodeanthropicanthropic-claudeclaude
面向Claude Code的桌面管理应用,提供会话浏览、自定义智能体、用量统计与MCP配置。winfunc
2026-06-24
2025-06-19
22.4k stars
35
onnxruntimedeep-learningonnxneural-networks
跨平台高性能机器学习推理训练加速引擎,兼容多框架模型并利用硬件加速优化执行。microsoft
2026-06-24
2018-11-10
22.3k stars
36
OpenShell
面向自主智能体的安全隔离运行时,以策略声明与内核强制实现文件网络凭证的最小权限管控。NVIDIA
2026-06-24
2026-02-24
21.8k stars
37
wasmerwebassemblywasmwasi
轻量安全的 WebAssembly 沙箱运行时,提供 CLI 与多语言 SDK,可在本地、云端或浏览器隔离运行 Python、JS 等代码。wasmerio
2026-08-26
2018-10-11
21.3k stars
38
cockpit-toolsaccount-manageraiantigravity
通用 AI IDE 账号管理桌面工具,支持 Antigravity、Codex、Cursor、Copilot 等十余个平台的账号切换、配额监控、自动唤醒与多开实例管理。jlcodes99
2026-07-16
2026-01-16
20.0k stars
39
evals
OpenAI推出的大模型评测框架与基准注册表,支持自定义评测逻辑、批量运行与结果管理,用于衡量模型能力。openai
2026-06-24
2023-01-23
19.7k stars
40
deepevalevaluation-metricsevaluation-frameworkllm-evaluation
开源LLM评估框架,提供G-Eval、任务完成率等数十种指标,支持智能体轨迹与RAG端到端测试。confident-ai
2026-06-24
2023-08-10
19.5k stars
41
web-llmdeep-learningllmtvm
浏览器端高性能大模型推理引擎,基于图形加速且兼容开放接口,开发者可用软件包集成构建本地化AI应用。mlc-ai
2026-06-24
2023-04-13
19.4k stars
42
opencodexai-toolsclaudecodex
opencodex 是本地 AI 网关,把 Codex、Claude Code、Claude Desktop、Grok Build 等连接到任意模型供应商,并提供路由与账号池管理。lidge-jun
2026-07-21
2026-06-18
18.6k stars
43
OpenSandboxaiai-infrakubernetes
为AI智能体提供隔离代码执行与浏览器桌面的沙箱运行时,支持Docker本地启动与K8s统一API部署。opensandbox-group
2026-06-24
2025-12-17
17.3k stars
44
freetokendeepseek-v4edgeglm
面向个人硬件的边缘 MoE 推理引擎,可在消费级 GPU 上运行超大开源模型,并提供桌面应用、CLI 与 OpenAI/Anthropic 兼容 API。flashml-org
2026-08-22
2026-07-20
17.3k stars
45
ag-uiag-ui-protocolagent-frontendagent-ui
开源的 Agent-用户交互协议,用标准化事件把 AI Agent 接入前端应用,并提供多语言 SDK、中间件与参考实现。ag-ui-protocol
2026-11-14
2025-05-07
17.3k stars
46
experiential
面向Agent工作流的开源模型网关,提供统一接口、权限预算管控与基于流量的路由优化。experientiallabs
2026-08-28
16.7k stars
47
nano-vllminferencellmpytorch
从零实现的轻量vLLM推理引擎,代码精简可读,推理速度可比肩原版vLLM。GeeeekExplorer
2026-06-24
2025-06-09
16.4k stars
48
cc-connect
连接本地AI编程助手与飞书Telegram等聊天平台的桥接网关,支持多智能体中继会话与定时任务。chenhg5
2026-06-24
2026-02-28
16.4k stars
49
ragasllmllmopsevaluation
面向大模型应用的评估工具包,提供客观指标测试集生成与生产数据反馈闭环。vibrantlabsai
2026-06-24
2023-05-08
16.3k stars
50
RagaAI-Catalystagentneoagentsllm-testing
面向LLM与多智能体系统的可观测、评测与护栏平台,提供追踪调试与自托管看板分析能力。raga-ai-hub
2026-06-24
2024-08-26
16.2k stars
51
claudianclaude-codeobsidianobsidian-plugin
Obsidian 插件,将 Claude Code、Codex、OpenCode 等编码 agent 嵌入笔记库,支持会话、内联编辑、技能与跨会话消息。YishenTu
2026-07-15
2025-12-05
16.0k stars
52
TensorRT-LLMblackwellcudamoe
英伟达开源的大模型推理优化库,提供高效内核与运行时,支撑高性能部署。NVIDIA
2026-06-24
2023-08-16
15.1k stars
53
E2Baigptopenai
运行AI生成代码的云端安全沙箱基础设施,提供SDK创建管控沙箱及桌面操作能力的开发者服务。e2b-dev
2026-06-24
2023-03-04
14.9k stars
54
claudecodeuiclaudeclaude-apiclaude-code
面向 Claude Code、Cursor CLI 和 Codex 的 Web/移动端图形界面,可远程查看和管理编程 Agent 的会话、文件与 Git 操作。siteboon
2026-08-26
2025-06-25
14.6k stars
55
ax
谷歌开源的声明式 agent 任务调度运行时,在 Kubernetes 集群上以沙箱方式批量运行、预配置并恢复智能体任务。google
2026-09-22
2026-03-30
14.6k stars
56
hermes-desktopaiai-agentautonomous-agents
Hermes智能体的桌面配套应用,提供安装配置聊天会话记忆与工具管理的图形化管理端。fathah
2026-06-24
2026-04-02
14.6k stars
57
ccstatuslineai-toolsclaude-codecli
为 Claude Code CLI 打造的高度可定制状态栏,实时显示模型、Git 分支、Token 用量、费用与限额,并支持主题与 Powerline 样式。sirmalloc
2026-07-16
2025-08-08
13.6k stars
58
cubesandboxagentscontainersandbox
面向AI智能体的高性能安全沙箱服务,毫秒级启动硬件隔离,兼容E2B接口支持高并发代码执行。tencentcloud
2026-07-09
2026-04-10
13.4k stars
59
gatewaygatewaygenerative-aillmops
面向开发者的开源AI网关,提供多模型路由、重试熔断、护栏与MCP管理能力。Portkey-AI
2026-06-24
2023-08-23
13.4k stars
60
openchamberaiopencodeagentic-engineering
OpenCode 编码 Agent 的桌面与网页工作区,支持会话目标、多模型并行运行、变更评审、预览、GitHub 流程与跨设备远程续接。openchamber
2026-07-17
2025-09-11
12.9k stars
61
OpenLLMllmllmopsmodel-inference
简化大模型自托管与推理服务的开源项目,提供命令行与API部署及云端推理能力的服务框架。bentoml
2026-06-24
2023-04-19
12.6k stars
62
LMCacheamdcudainference
面向大模型推理的KV缓存管理层,实现跨引擎持久化复用与可观测,显著降低首字延迟提升吞吐。LMCache
2026-06-24
2024-05-28
12.4k stars
63
phoenixllmopsai-monitoringai-observability
开源 LLM 应用可观测与评测平台,基于 OpenTelemetry 追踪调用链,支持数据集、实验、提示词管理与 LLM 评审。Arize-ai
2026-08-26
2022-11-09
12.3k stars
64
kubesharkkubernetesgolangrest
面向K8s的eBPF网络可观测平台,索引L4/L7流量解密TLS并支持MCP查询。kubeshark
2026-06-24
2021-04-19
12.1k stars
65
kimi-k3-in-cavx2c99cpu-inference
用纯C实现的超大MoE模型CPU推理引擎,无依赖流式加载权重,在单机低内存下生成文本fareedkhan-dev
2026-08-02
2026-08-01
12.1k stars
66
codeburnai-codingclaude-codecli
本地化AI编程花费观测工具,统计多款代码智能体的模型项目任务级token与成本。getagentseal
2026-08-19
2026-04-13
11.9k stars
67
wandbmachine-learningexperiment-trackdeep-learning
面向机器学习实验的追踪与可视化平台,记录指标、数据集与模型版本。wandb
2026-06-24
2017-03-24
11.3k stars
68
inspectortooldebugmcp
MCP官方服务器调试检验配套,提供网页命令行与终端界面用于连接列举调用MCP服务,面向MCP开发者测试联调。modelcontextprotocol
2026-06-24
2024-10-03
11.3k stars
69
serverinferencegpumachine-learning
英伟达开源的AI模型推理服务软件,支持多框架模型的高性能云边部署。triton-inference-server
2026-06-24
2018-10-04
11.1k stars
70
tykgoapiapi-management
Tyk 是云原生开源的 API 与 AI 网关,支持 REST、GraphQL、gRPC、TCP 和 MCP,可为 API 与 AI agent 流量提供认证、限流、分析与 LLM 路由治理。TykTechnologies
2026-08-26
2014-05-07
10.9k stars
71
openskills
面向所有AI编程智能体的通用技能加载器,用统一CLI安装同步SKILL.md,保持与Claude Code相同格式。numman-ali
2026-06-24
2025-10-26
10.8k stars
72
llama-cpp-python
llama.cpp的Python绑定与兼容服务,支持本地大模型推理补全 embeddings及函数调用,便于快速集成部署。abetlen
2026-06-24
2023-03-23
10.7k stars
73
astridagent-runtimeai-agentscapability-security
面向AI智能体的操作系统级运行时,用WebAssembly胶囊、能力令牌与沙箱实现可组合的安全隔离执行。unicity-astrid
2026-06-24
2026-02-15
10.3k stars
74
pixel-agentsai-agentsclaude-codecli
把终端中的 AI 编码 agent 变成像素办公室角色,可视化其读写、搜索与等待状态,并可启动和管理多个会话。pixel-agents-hq
2026-11-18
2026-02-08
10.3k stars
75
garakaillm-evaluationllm-security
面向LLM的红队评测扫描器,用大量探针检测幻觉、注入与越狱等弱点。NVIDIA
2026-06-24
2023-05-10
10.1k stars
76
hyperdxanalyticsapplication-monitoringlog-management
开源可观测平台,统一搜索可视化日志、指标、链路与回放,基于ClickHouse实现高速检索告警。hyperdxio
2026-06-24
2023-09-13
10.0k stars
77
computer
给智能体的云端电脑基座,提供持久文件系统与容器隔离执行环境及多示例。cloudflare
2026-08-05
2026-06-05
9.9k stars
78
failproofaiclaude-codereliabilityagent-reliability
面向Agent Harness的可观测与策略执行层,提供运行追踪、护栏拦截与本地审计。failproofai
2026-08-12
2026-04-06
9.8k stars
79
inferencepytorchdeploymentllm
统一的大模型推理服务库,一条命令部署开源模型,兼容OpenAI接口并支持分布式运行。xorbitsai
2026-06-24
2023-06-14
9.7k stars
80
self-hostedsentrydockerdocker-compose
Sentry官方自托管发行版,开箱打包错误追踪与性能监控全功能栈,适合小规模私有化部署验证。getsentry
2026-06-24
2016-02-11
9.7k stars
81
bifrostgatewayllm-gatewayguardrails
高性能开源 AI 网关,用 OpenAI 兼容 API 统一接入 23+ 模型提供商,提供自动回退、负载均衡、语义缓存、护栏、预算治理与可观测性。maximhq
2026-08-26
2025-03-19
9.5k stars
82
atlasaiai-coding-assistantclaude-code
Atlas 是面向编码智能体的可视化与管控层,记录会话、关联提交并提供团队时间线与共享记忆。tryatlas
2026-11-06
2026-05-14
9.4k stars
83
atlasaiai-coding-assistantclaude-code
面向编码智能体的源代码管理与会话中枢,并行运行多种智能体并共享记忆与检查点,附带编辑器与终端。pacifio
2026-08-07
2026-05-14
9.2k stars
84
microsandboxagentsdockerlinux
本地优先的轻量MicroVM运行时与开发库,可在毫秒级启动隔离沙箱运行智能体、代码与自动化任务。superradcompany
2026-06-24
2024-10-03
9.1k stars
85
claude-squadclaude-codeclivibe-coding
在单个终端管理多个AI编程智能体会话,为每任务隔离git工作区,支持后台执行与变更审核。smtg-ai
2026-06-24
2025-03-09
8.8k stars
86
Claude-Code-Usage-Monitoraiclaudeclaude-code
实时监控 Claude Code 用量的终端工具,跟踪 token、消息与成本,提供预测、告警和数据导出。Maciek-roboblog
2026-08-26
2025-06-19
8.8k stars
87
nexa-sdkllmon-device-aisdk
骁龙设备端生成式AI推理运行时,可在NPU/GPU/CPU本地运行前沿大模型。qualcomm
2026-06-24
2024-08-16
8.5k stars
88
ogx
OpenAI兼容的开源智能体API服务器,统一接入多模型与检索工具,为AI应用提供推理编排基础设施。ogx-ai
2026-06-24
2024-06-25
8.5k stars
89
aos-ce
面向 AI agent 的本地运行环境与权限系统,用隔离 WebAssembly 胶囊执行工具并保留审计轨迹。unicity-aos
2026-07-26
2026-07-12
8.5k stars
90
pi-web
pi 编码 Agent 的本地浏览器界面,复用 pi 的配置与会话文件,可浏览续聊会话、运行 Agent 回合、配置模型并查看项目文件。agegr
2026-07-21
2026-03-22
8.2k stars
91
lmdeploycuda-kernelsdeepspeedfastertransformer
面向LLM的压缩部署推理工具包,提供高吞吐推理引擎、量化与多机服务能力,支持众多开源模型。InternLM
2026-06-24
2023-06-15
8.1k stars
92
evidentlydata-driftjupyter-notebookpandas-dataframe
评估测试监控ML与LLM系统的开源框架,提供百余指标、报告测试集与生产监控面板服务。evidentlyai
2026-06-24
2020-11-25
8.1k stars
93
openspace
面向智能体技能全生命周期的管理与评估设施,提供检索、质量评估、进化与本地优先的技能共享运行层。hkuds
2026-08-16
2026-03-24
8.1k stars
94
stable-diffusion.cppaicplusplusdiffusion
纯 C/C++ 的扩散模型推理引擎,支持 SD、Flux、Wan、Qwen Image 等图像与视频模型,可在 CPU/GPU 本地运行。leejet
2026-09-24
2023-08-13
8k stars
95
grok2apigrokgrok-imaginegrok-build
面向 Grok Build/Web/Console 的多账号 API 网关,统一 OpenAI/Anthropic 接口,提供账号池、路由、审计和管理台。chenyme
2026-07-15
2025-10-10
7.9k stars
96
mistral.rsllmrustuqff
高性能多模态LLM推理引擎,提供量化、兼容API服务与SDK,支持本地与多卡快速部署运行。EricLBuehler
2026-06-24
2024-02-26
7.8k stars
97
magnitude
面向智能体的开源本地推理引擎,针对硬件调优提速,下载模型后供常用编程智能体调用。magnitudedev
2026-08-09
2026-06-12
7.8k stars
98
substrate
面向K8s的零信任Agent沙箱运行时,提供隔离、快照恢复与高密度调度的基础设施。agent-substrate
2026-08-20
2026-05-13
7.8k stars
99
vllm-omnidiffusioninferencemodel-serving
面向全模态模型的推理与服务框架,支持文本、图像、音频、视频与动作生成及 OpenAI 兼容 API。vllm-project
2026-07-18
2025-09-11
7.8k stars
100
manifestopenclawcost-trackingllm-observability
开源 LLM 网关,把多家 API key、订阅与本地模型汇聚为一个 OpenAI 兼容端点,提供路由、回退、全量日志与成本追踪。mnfst
2026-08-26
2022-09-27
7.7k stars