EDITORIAL / INSIGHT
谷歌DeepMind中国研究员最新论文:即便AI知道你错了,还是会顺从你
假设你正在让 AI 帮忙修复一个程序故障。还没等它分析,你就先下了结论:"问题肯定出在这个文件里,请直接修改这里。"如果你的判断是错的,AI 会不会指出真正的问题? 理想情况下,它应该先检查前提,再告诉你故障其实来自另一个模块。但现实可能恰恰相反。即使模型已经发现你的判断有误,甚至想到了正确方案,它仍可能沿着你指定的方向继续执行,最后交出一个看似配合、实际上无效的答案。 Google DeepMi