跳到正文
  1. Hacker News (Frontpage)80

    Edge0 开源 145B 端侧模型:29GB 内存、80+ tokens/s 本地运行

    【这是什么】Edge0 团队开源 Edge0-145B 与 Edge0-120B 端侧模型及统一推理框架,宣称可在笔记本本地运行 145B 参数模型。【商业逻辑】瞄准云端 AI 的 API 费用、隐私限制与联网依赖三重痛点,通过稀疏专家共享矩阵、三层层级加载与 CPU/GPU 协同调度,实测峰值内存 29GB、解码 80+ tokens/s、支持 128K–256K 上下文。

    推荐理由:官方完整披露了端侧大模型的内存与速度实测数据,工程上如何让145B模型跑进笔记本值得借鉴。

  2. 每天 1 到 4 条出海新工具

    Telegram 频道 @IndieRadarPro · 只发精选

    在 Telegram 订阅
  1. Hacker News (Show HN)73

    Linum 开源 Pyramid-JiT 文生图模型:约 $21K 训练成本,2B 参数,Apache 2.0 权重

    【这是什么】两人研究实验室 Linum 发布实验性文生图模型 Pyramid-JiT(2.18B 参数),以 Apache 2.0 开放权重。【商业逻辑】作为其生成视频模型路线的压力测试,目标是把推理成本压下来,让视频模型可用于创作与叙事。

    推荐理由:两人团队公开从零训练小模型的完整架构与成本明细,对想低成本复现生成模型的研究者是难得的工程参考。

  1. Hacker News (Frontpage)81

    Mistral Large 4(Le Chonk)开放权重:1 万亿参数多模态模型,主打编码与防御性安全

    【这是什么】Mistral 发布 Mistral Large 4(代号 Le Chonk)的模型权重,1 万亿参数、原生多模态,定位编码与防御性网络安全。【商业逻辑】以开源权重和主权 AI 叙事吸引企业自托管,API 定价 $0.70 输入 / $2.10 输出每百万 token;对 MaaS 业务需另行商业授权。

    推荐理由:开源权重加明码定价,作者实测中可对比其在 agentic coding 与安全场景的 token 效率与授权条件。

已经到底了