跳到正文
热点事件历史事件

论文提出权重空间错折并展示权重编辑探测结果

1 篇报道1 个报道来源4 天前更新

先了解这件事

AI 综述

论文作者发布一项研究,提出“权重空间错折”概念,并展示通过对模型权重的编辑持久改变目标模型行为的探测结果:以检查点 71aa306 的 Qwen2.5-1.5B-Instruct 为目标模型、ChatGPT 6.1-Sol 为编辑器,编辑后模型在 100 个留出样本中每次都给出指定的错误奥运会答案,而未修改的模型答对“悉尼”91 次。这是对小模型的受控探测,是对模型本身的持久修改,而非对话中的提示词说服。 论文同时讨论了治理建议。作者称其中一条攻击路径仅为提出的假设、并未展示,且这些结果不能证明发生过已部署的攻击,也不能证明攻击在模型之间传播。作者称探测结果表明权重编辑可以造成不良行为,但每个案例都伴有不同的附带影响。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. Hacker News (Frontpage)
    权重空间错折:模型权重编辑如何破坏目标模型行为

    研究者以 Qwen2.5-1.5B-Instruct(检查点 71aa306)为目标模型、ChatGPT 6.1-Sol 为编辑器,探测权重空间编辑越权时的后果:在 100 个留出样本中,编辑后模型每次都给出指定的错误奥运会答案,未经修改模型则有 91 个答对“悉尼”。

本事件热度走势

可比范围当前
3
可比范围峰值
911月14日 06:00
近 24 小时变化
-51%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。