WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
Agent 基础设施
Rapid-MLX
raullenchai/Rapid-MLX
为
Apple Silicon
优化
的
本地
LLM
推理
服务器,
提供
OpenAI/Anthropic
兼容 API,
支持
工具
调用、
视觉、
连续
批
处理
与
多
种
编码
agent
接入。
去 GitHub 看仓库
复制链接
标签
apple-silicon
local-llm
macos
mlx
tool-calling
ollama-alternative
claude-code
anthropic-api
同类项目
mlx-serve
2.5k
面
向
Apple Silicon
的
原生本
地
LLM
推理
服务
与
macOS
应用,
兼容
OpenAI、
Anthropic、
Ollama
接口,
支持
聊天、
编程
代理
以及
图像、
视频、
语音
等
生成。
claude-code-local
3.5k
让
Claude Code
在
Apple Silicon
或
普通
PC
上
完全
本
地
运行
的
方案,
通过
MLX/llama.cpp
提供
Anthropic API
兼容
服务
并
自动
选
择
本
地
模型。
VoxtMini
890
macOS
本
地
语
音
输入
应用,
按
快捷键
说
话
即可
在
任意
应
用
光标处
转写、
翻译
或
改写
文本。
omlx
23.6k
面
向
Mac
的
本地
大模型
推理
服务器,
支持
连续
批
处理
与
菜单栏
管理
供智
能
体
调用。
mlx-dspark
742
苹果
芯片
上
原生
的
推测
解码
加速
推理
引擎,
兼容
多
模型
并
提供
本
地
API
服务。
magpie
36.9k
本
地
LLM/Agent
网关
与
模型
管理
应用,
在
菜单
栏
为
Claude Code、
Codex
等
任意 Agent
统
一切
换
模型、
账户
与
订阅,
并
支持
故障
转移。
4155
apple-silicon,local-llm,macos
为 Apple Silicon 优化的本地 LLM 推理服务器,提供 OpenAI/Anthropic 兼容 API,支持工具调用、视觉、连续批处理与多种编码 agent 接入。
←
上一个
chunkr
下一个
→
gigatoken