WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
Agent 基础设施
omlx
jundot/omlx
面
向
Mac
的
本地
大模型
推理
服务器,
支持
连续
批
处理
与
菜单栏
管理
供智
能
体
调用。
去 GitHub 看仓库
复制链接
标签
apple-silicon
inference-server
llm
macos
mlx
openai-api
同类项目
apfel
6.6k
Mac端Apple Intelligence
CLI
与
本地
OpenAI
兼容
服务,
百分百端侧
推理,
支持
管道
与
MCP工具
调用。
Rapid-MLX
4.2k
为
Apple Silicon
优化
的
本地
LLM
推理
服务器,
提供
OpenAI/Anthropic
兼容 API,
支持
工具
调用、
视觉、
连续
批
处理
与
多
种
编码
agent
接入。
mlx-serve
2.5k
面
向
Apple Silicon
的
原生本
地
LLM
推理
服务
与
macOS
应用,
兼容
OpenAI、
Anthropic、
Ollama
接口,
支持
聊天、
编程
代理
以及
图像、
视频、
语音
等
生成。
VoxtMini
890
macOS
本
地
语
音
输入
应用,
按
快捷键
说
话
即可
在
任意
应
用
光标处
转写、
翻译
或
改写
文本。
magpie
36.9k
本
地
LLM/Agent
网关
与
模型
管理
应用,
在
菜单
栏
为
Claude Code、
Codex
等
任意 Agent
统
一切
换
模型、
账户
与
订阅,
并
支持
故障
转移。
inference
9.7k
统
一
的
大模型
推理
服务库,
一
条
命令部署
开源
模型,
兼容OpenAI
接口
并
支持
分
布式
运行。
23603
apple-silicon,inference-server,llm
面向Mac的本地大模型推理服务器,支持连续批处理与菜单栏管理供智能体调用。
←
上一个
marimo
下一个
→
saleor