V2EX · 创造节点· heybenben·· 26 天前精选AI 评分70
RigCheck 上线:查显卡 / Mac 能否本地跑开源模型,作者自费租卡实测 24 次
RigCheck:查你的显卡 / Mac 能不能本地跑新出的开源模型,数字都有来源,还自己租卡实测了 24 次
AI 导读
【这是什么】英文小站 localrigcheck.com,用真实模型文件大小和 llama.cpp 逐层 KV cache 计算方式,判断你的显卡或 Mac 能否跑某个开源模型。
推荐理由
作者公开了从真实文件大小估算显存需求的方法和自费租卡实测数据,对做本地模型工具的开发者有工程借鉴价值。
每天 1 到 4 条出海新工具
Telegram 频道 @IndieRadarPro · 只发精选
来源:V2EX · 创造节点 · v2ex.com