WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
AI 应用
koboldcpp
lostruins/koboldcpp
单文件
免
安装
的
本地
大
模型
一体
应用,
内置
聊
天角色
扮演
与
多
模态生成界面。
去 GitHub 看仓库
复制链接
标签
koboldcpp
llamacpp
llm
koboldai
llama
ggml
gguf
gemma
同类项目
shimmy
6k
纯 Rust
编写
的
本地
GGUF
推理
服务器,
兼容
OpenAI API,
可
加载模型
并
在
本机
GPU
上
提供
聊天
与
文本
补
全
服务。
lsp-ai
3.2k
基于
LSP
协议
的
AI
辅助
编程
后端,
提供
编辑器
内
聊天、
代码
补全
和
自定
义
操作
等
功能。
tensorsharp
679
面
向
GGUF
模型
的
.
NET
本
地
推理
引擎,
提供
CLI、
网页
聊天
与
Ollama/OpenAI
兼容 API,
支持
多
种
GPU
后端。
bonsai-demo
3.5k
Bonsai 2
本
地
大
模型
的
演示
与
启动
套件,
一
条
命令
下
载权重
和
llama.cpp 二
进制,
提供
聊天、
视觉、
工具
调用
和
Open WebUI 界面。
LocalAI
50.5k
开源
本
地
AI
推理
引擎,
统一
调度
多
模态
模型
与
后端,
以
兼容
API
对
外
提供
服务。
jan
46k
开源
ChatGPT替代
桌面
平台,
支持
本地
与
云端
多
模型
对话、
自定
义助手、
MCP
扩展
与
本地
API
服务。
12294
koboldcpp,llamacpp,llm
单文件免安装的本地大模型一体应用,内置聊天角色扮演与多模态生成界面。
←
上一个
genoffice
下一个
→
ipatool