三此连连复盘 AI 撮合平台幻觉事故:把 Agent 的能力线改成责任线
【这是什么】三此连连 AI 联创复盘自家智能体交易平台在 Agent 撮合交易中出现的问题。【商业逻辑】测试中发现 AI 编造了服务承诺与报价、私自替用户约定时间,Meta 的个人 AI 助手 Muse 也因幻觉把用户取货地址发给买家。
【这是什么】三此连连 AI 联创复盘自家智能体交易平台在 Agent 撮合交易中出现的问题。【商业逻辑】测试中发现 AI 编造了服务承诺与报价、私自替用户约定时间,Meta 的个人 AI 助手 Muse 也因幻觉把用户取货地址发给买家。