Edge0 团队开源 145B 端侧大模型
热点事件历史事件
Edge0 团队开源 145B 端侧大模型
1 篇报道1 个报道来源5 天前更新
先了解这件事
AI 综述
Edge0 团队开源发布 Edge0-145B 与 Edge0-120B 端侧模型,并附统一推理框架和部署工具,宣称 145B 参数模型可在兼容笔记本本地运行。 据其宣称,模型通过稀疏专家共享矩阵、三层层级加载与 CPU/GPU 协同调度,实测峰值内存 29GB、解码速度 80+ tokens/s,支持 128K–256K 上下文;核心能力可离线运行,无需账号或用量配额。Edge0-145B 首发支持 macOS、Windows 和 Linux,包括 Apple M 系列芯片及 RTX Spark、RTX 4090、RTX 5090 等 NVIDIA 平台。上述性能数据为团队自己的报告,尚待第三方验证。
AI 根据报道生成 · 4 天前更新
最新进展11月13日 07:06
Edge0 开源 145B 端侧模型:29GB 内存、80+ tokens/s 本地运行报道时间线
沿着报道,了解事件的不同侧面。
11月13日
- Hacker News (Frontpage)精选Edge0 开源 145B 端侧模型:29GB 内存、80+ tokens/s 本地运行
【这是什么】Edge0 团队开源 Edge0-145B 与 Edge0-120B 端侧模型及统一推理框架,宣称可在笔记本本地运行 145B 参数模型。【商业逻辑】瞄准云端 AI 的 API 费用、隐私限制与联网依赖三重痛点,通过稀疏专家共享矩阵、三层层级加载与 CPU/GPU 协同调度,实测峰值内存 29GB、解码 80+ tokens/s、支持 128K–256K 上下文。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 811月13日 13:00
- 近 24 小时变化
- -50%
02.557.510
11月14日12:0011月15日
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。