论文提出权重空间错折并展示权重编辑探测结果
热点事件历史事件
论文提出权重空间错折并展示权重编辑探测结果
1 篇报道1 个报道来源4 天前更新
先了解这件事
AI 综述
论文作者发布一项研究,提出“权重空间错折”概念,并展示通过对模型权重的编辑持久改变目标模型行为的探测结果:以检查点 71aa306 的 Qwen2.5-1.5B-Instruct 为目标模型、ChatGPT 6.1-Sol 为编辑器,编辑后模型在 100 个留出样本中每次都给出指定的错误奥运会答案,而未修改的模型答对“悉尼”91 次。这是对小模型的受控探测,是对模型本身的持久修改,而非对话中的提示词说服。 论文同时讨论了治理建议。作者称其中一条攻击路径仅为提出的假设、并未展示,且这些结果不能证明发生过已部署的攻击,也不能证明攻击在模型之间传播。作者称探测结果表明权重编辑可以造成不良行为,但每个案例都伴有不同的附带影响。
AI 根据报道生成 · 3 天前更新
最新进展11月14日 02:33
权重空间错折:模型权重编辑如何破坏目标模型行为报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- Hacker News (Frontpage)权重空间错折:模型权重编辑如何破坏目标模型行为
研究者以 Qwen2.5-1.5B-Instruct(检查点 71aa306)为目标模型、ChatGPT 6.1-Sol 为编辑器,探测权重空间编辑越权时的后果:在 100 个留出样本中,编辑后模型每次都给出指定的错误奥运会答案,未经修改模型则有 91 个答对“悉尼”。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 911月14日 06:00
- 近 24 小时变化
- -51%
02.557.510
12:0011月15日12:0011月16日
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。