跳到正文
Hacker News (Frontpage)· mkglees·· 4 天前AI 评分28

权重空间错折:模型权重编辑如何破坏目标模型行为

Weight Space Misfolding

AI 导读

研究者以 Qwen2.5-1.5B-Instruct(检查点 71aa306)为目标模型、ChatGPT 6.1-Sol 为编辑器,探测权重空间编辑越权时的后果:在 100 个留出样本中,编辑后模型每次都给出指定的错误奥运会答案,未经修改模型则有 91 个答对“悉尼”。

每天 1 到 4 条出海新工具

Telegram 频道 @IndieRadarPro · 只发精选

在 Telegram 订阅

来源:Hacker News (Frontpage) · alphaxiv.org