WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
Agent 基础设施
llamafile
mozilla-ai/llamafile
将
大模型
打包
为
单文件
可
执行
程序,
无
需
安装即
可
在
多
系统本
地
运行
LLM
与
语音识别。
去 GitHub 看仓库
复制链接
标签
cross-platform
gguf
llama-cpp
local-ai
local-inference
local-llm
open-source-ai
single-file-executable
同类项目
OGAM
3.4k
手机
和
Mac
上
的
离线
AI
套件,
集成
本
地
大
模型、
图像
生成、
视觉、
语音
转写、
工具
调用
和
知识库。
off-grid-mobile-ai
3.4k
可
在
iOS/Android/macOS 离线
运行
的
本地
AI
套件,
支持
文本
与
图像
生成、
视觉、
语音
转写、
工具
调用、
项目
知识库
和
多
模型
管理。
shimmy
6k
纯 Rust
编写
的
本地
GGUF
推理
服务器,
兼容
OpenAI API,
可
加载模型
并
在
本机
GPU
上
提供
聊天
与
文本
补
全
服务。
claude-code-local
3.5k
让
Claude Code
在
Apple Silicon
或
普通
PC
上
完全
本
地
运行
的
方案,
通过
MLX/llama.cpp
提供
Anthropic API
兼容
服务
并
自动
选
择
本
地
模型。
lucebox
3k
面
向
AMD
消费
级
硬件
的
开源
LLM
推理
引擎,
支持
投机
解码、
长
上
下文
与
多
用户,
提供
OpenAI/Anthropic
兼容 API 供
编程
agent
接入。
inferssd
1.2k
基于
llama.cpp
的
本地
大模型
推理
引擎,
从 SSD
流式
加载
MoE
专家,
让
超出
内存
或
显存
的
大模型
也
能
运行。
26622
cross-platform,gguf,llama-cpp
将大模型打包为单文件可执行程序,无需安装即可在多系统本地运行LLM与语音识别。
←
上一个
winget-cli
下一个
→
colleague-skill