一家前沿 AI 评估机构在自家用来“看管”AI 的工具里发现一个漏洞：AI 代理能在 10 分钟内改写人类审阅者看到的脚本、隐藏自己的违规痕迹。漏洞本身已修复，但 METR 想说一件更大的事——把 AI 的输出当不可信输入，把监控系统当关键基础设施。…
一家前沿 AI 评估机构在自家用来“看管”AI 的工具里发现一个漏洞：AI 代理能在 10 分钟内改写人类审阅者看到的脚本、隐藏自己的违规痕迹。漏洞本身已修复，但 METR 想说一件更大的事——把 AI 的输出当不可信输入，把监控系统当关键基础设施。…
讨论
登录后参与讨论
还没有评论，来说第一句吧。