【CNMO 科技消息】人们对人工智能的信任正出现危险的新转向。研究人员表示，AI 生成的照片和摘要正在成功扭曲人们自身的记忆。10 月 18 日，据外媒报道，麻省理工学院科学家帕蒂 · 梅斯介绍了其团队的研究。参与者先观看一系列照片，经过一段休息后，部分参与者再次看到完全相同的照片，另一些人则看到被 AI 修改过的版本。在随后的记忆测试中，观看 AI 修改图像的人不仅更容易记错原始图像，而且对自己的错误记忆过度自信。

人类记忆本就易变、不可靠，且极易受暗示影响。早在 19 世纪，心理学实验就对此有广泛记录。这也使错误信息尤其危险。一些研究显示，即便在更正信息发布后，错误信息仍可能继续影响决策，包括政治决策。

人工智能的引入使这一动态更加脆弱。AI 生成的粗制滥造内容正变得更具说服力，并在网络上广泛传播，助推新一轮欺诈和虚假信息。除梅斯团队外，多项研究显示，AI 生成的错误信息能够成功在参与者大脑中植入虚假记忆，改变他们原本认为真实的事情。去年一项研究发现，深度伪造和 AI 生成文本都能有效植入关于完全虚构政治丑闻的虚假记忆，甚至降低投票意愿。

即便 AI 未被恶意使用，也可能对真相产生潜在灾难性影响。这是因为生成式 AI 容易在输出中犯错，即 " 幻觉 "。随着政府机构、银行、军队、医院等越来越多组织加速部署 AI，人们常听到要强调 " 人在环路 "，也就是由通常具备相关专业知识的资深人员审核 AI 系统输出。其设想是，在人类监督下广泛部署 AI，可加快从军事打击到记录保存的各种流程，同时确保 AI 生成的错误在转化为行动并造成现实伤害前被捕获。

但研究表明，用户并不特别擅长发现这些幻觉。加之记忆并不可靠、人们倾向于相信 AI 系统，即便 AI 输出与环路中人类专家已知为真的信息相矛盾，专家的判断也可能被扭曲。

目前，普通人正确识别 AI 生成内容的能力 " 基本相当于抛硬币 "，但许多研究者正努力寻找干预措施和训练方法，帮助人们更好地识别深度伪造。然而，尚无万无一失的方法纠正这一易错倾向。在专家努力寻找方法之际，AI 行业正竞相通过智能体 AI 系统将人类排除在环路之外，希望使其完全自主。