科技巨头谷歌近日宣布，在发现“AI概览”功能出现一系列错误信息后，已对AI系统进行了多项技术改进和更新。
在5月中旬的年度I/O开发者大会上，这家科技巨头发布了众多有关AI的产品和服务，其中一项内容是将AI融入其搜索引擎中，即“AI概览”功能，首先在美国市场推出。
简而言之，用户进行搜索时，首先显示的不再是网页链接，而是AI整理的摘要。
不久后社交媒体用户开始分享“AI概览”给出的一系列离谱答案的截图。
谷歌对此辩称，“AI概览”功能通常准确，且经过广泛测试。但谷歌搜索业务主管利兹·里德在周五承认，确实出现了一些奇怪、不准确或无益的AI搜索结果。
虽然其中许多搜索结果很愚蠢，但也有一些是危险或有害的谎言，例如建议在披萨上涂胶水以帮助奶酪粘住，每天应该至少吃一块小石头。
再加上一些网友推波助澜，虚假截图也在社交媒体上被广泛分享，导致事件热度越来越高。
里德表示，已对“AI概览”增加了更多“触发限制”，以提高对某些查询问题（如健康相关问题）答案的准确性和可靠性。
但在谷歌宣布更新并经过测试后，发现仍然存在不少问题。“AI概览”旨在为人们提供所寻找信息的权威答案，无需点击网站链接列表。但目前看来，该功能仍然存在很大缺陷。
一些AI专家长期以来一直警告谷歌，不要将其搜索结果拱手让给AI生成的答案，这可能会延续偏见和错误信息，并危及在紧急情况下寻求帮助的人。
大语言模型的工作原理是，根据训练数据预测哪些词语最能回答问题，这会导致它们经常编造答案，即“AI幻想”。
里德表示，“AI概览”通常不会产生“幻想”或编造答案，因为它们与谷歌的传统搜索引擎更紧密地结合在一起，只显示最有权威或相关性最高的网页支持的内容。
但华盛顿大学计算机科学家Chirag Shah指出，信息检索应是谷歌的核心业务，不能急于将其交给AI模型。“即使AI不编造答案，也会把错误信息传递给用户，这对谷歌来说可能带来糟糕的结果。”
