IT 之家 6 月 13 日消息,昨日印度一架波音 787-8" 梦想客机 " 在起飞后不到 1 分钟坠毁,航班号为 AI-171,机上 242 人全部遇难,其中包括 169 名印度公民,53 名英国公民,1 名加拿大公民和 7 名葡萄牙公民。
后续有用户发现,谷歌搜索引擎引入的 AI 搜索功能在这起事件中出现了严重的 " 幻觉 " 现象,当用户询问失事客机的机型时,相应 AI 会声称此次空难涉及一架 " 空中客车(Airbus)A330-243 型客机 ",在 Reddit 等论坛受到用户强烈批评。
对此,谷歌回应称该公司已手动移除了该错误回答。
我们将持续改进,并利用本次案例对搜索系统进行更新。目前该回答已不再显示。
那么,谷歌 AI 搜索功能为什么会给出错误的空难机型结果?最可能的原因是大量关于这起事故的新闻报道中都提到了 " 空客是波音的主要竞争对手 ",而 AI 在汇总这些信息时产生混淆。
事实上,谷歌也承认其 AI 搜索功能有可能给出错误的结果,每项 AI 搜索结果下方都会有一条免责声明,声称相应 AI 搜索答案 " 可能存在错误 "。尽管这类提示在所有 AI 产品中都很常见,但并不显眼,很多用户在面对 " 看起来很自信 " 的 AI 回答时,往往不会太在意相应提醒。然而在重大场合,这种不经意间往往就会导致错误的认知,进而引发更多蝴蝶效应。
登录后才可以发布评论哦
打开小程序可以发布评论哦