English
库 / 框架

DFloat11

LeanModels/DFloat11

DFloat11 是面向大语言模型与扩散模型的无损压缩框架,可将模型体积缩小约 30%,并在 GPU 上按需解压,实现显存受限环境下的高效推理。

标签