Hacker News (Show HN)· unikcc·· 8 天前AI 评分50
Flide 开源:精确状态分叉让 Jev 决策模型推理最高提速 9.5 倍
Show HN: Flide: Make Jev-like decision models up to 9.5x faster
AI 导读
【这是什么】Flide 是面向 Jev 风格决策模型的开源推理基础设施,通过精确状态分叉提供 /v1/systemone API。【商业/痛点逻辑】自称在单张 H200 上对比 vLLM 和 SGLang,部分工作负载延迟最高快 9.5 倍,且答案不受批量请求影响。
每天 1 到 4 条出海新工具
Telegram 频道 @IndieRadarPro · 只发精选