WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
Agent 基础设施
lucebox
luce-org/lucebox
面
向
AMD
消费
级
硬件
的
开源
LLM
推理
引擎,
支持
投机
解码、
长
上
下文
与
多
用户,
提供
OpenAI/Anthropic
兼容 API 供
编程
agent
接入。
去 GitHub 看仓库
复制链接
标签
kernel
llama-cpp
local-ai
qwen
megakernel
dflash
luce
speculative-decoding
同类项目
mtplx
2.7k
在
Mac
上
本
地
运行
Qwen
等
大模型
的
应用
与
推理
服务,
带聊
天
仪
表盘
与
兼容
API。
llamafile
26.6k
将
大模型
打包
为
单文件
可
执行
程序,
无
需
安装即
可
在
多
系统本
地
运行
LLM
与
语音识别。
qwen38-27b-rtx3090
2.8k
让
Qwen
大模型
在
单张
消费
级
显卡上
高速
推理
的
vLLM
补丁
与量化
部
署
方案。
ods
7.8k
一
键
把
个人
电脑
变成
私
有
AI
服务器
的
部署
系统,
集成
LLM
推理、
聊天
UI、
语音、
agent、
RAG、
工作流
与
生图。
OGAM
3.4k
手机
和
Mac
上
的
离线
AI
套件,
集成
本
地
大
模型、
图像
生成、
视觉、
语音
转写、
工具
调用
和
知识库。
off-grid-mobile-ai
3.4k
可
在
iOS/Android/macOS 离线
运行
的
本地
AI
套件,
支持
文本
与
图像
生成、
视觉、
语音
转写、
工具
调用、
项目
知识库
和
多
模型
管理。
3007
kernel,llama-cpp,local-ai
面向 AMD 消费级硬件的开源 LLM 推理引擎,支持投机解码、长上下文与多用户,提供 OpenAI/Anthropic 兼容 API 供编程 agent 接入。
←
上一个
readme-ai
下一个
→
markdownify-mcp