跳到正文
小众软件· 青小蛙·· 17 天前AI 评分65

Strata 0.2.9 发布:本地大模型 Prefill 最高提速 88%,新增 1-bit DeepSeek 支持

Strata 0.2.9 发布:本地大模型 Prefill 最高提速 88%,还支持 1 比特 DeepSeek

AI 导读

Strata 是一款本地运行大模型的工具,0.2.9 版本重点优化推理速度。在 Windows + AMD Strix Halo 上运行 Qwen3.8,32K 提示词处理从 791 提升到 1,460 tok/s,最高提速 88%,同长度提示词耗时从约 41 秒降到约 22 秒。

每天 1 到 4 条出海新工具

Telegram 频道 @IndieRadarPro · 只发精选

在 Telegram 订阅

来源:小众软件 · appinn.com