跳到正文
Hacker News (Frontpage)· ggcr·· 28 天前AI 评分76

DeepSeek 开源推理引擎 DeepInfer:支撑大规模生产服务的高性能框架

DeepInfer: High-performance inference framework for DeepSeek models

AI 导读

【这是什么】DeepSeek 开源了驱动其大规模生产服务的推理框架 DeepInfer,提供离线推理与规模化服务核心能力,当前支持 DeepSeek-V4.1-Flash 模型。

每天 1 到 4 条出海新工具

Telegram 频道 @IndieRadarPro · 只发精选

在 Telegram 订阅

来源:Hacker News (Frontpage) · github.com