AI摘要“幻觉”风波未平,谷歌Gemini聊天机器人被曝“胡言乱语”
2024-06-05 11:19来源:IT之家
6 月 5 日消息,前段时间,谷歌搜索“AI 摘要”(AI Overviews)功能因其经常提供具有严重错误的搜索结果而备受诟病,导致官方亲自下场保证后续会进行修正。而如今,又有网友爆料称谷歌旗下的人工智能产品“抽了风”,这次问题出在 Gemini 聊天机器人。
从北京时间昨夜至今日凌晨,有 Reddit 网友陆续发现,Gemini 生成的回复偶尔会充斥着杂乱无章的代码和外文字母 —— 这些结果对用户的查询毫无帮助。
过去几天里,部分 Gemini 用户陆续发现自己遇到了这一奇怪问题:Gemini 会输出胡言乱语。这些回复可能是一连串的重复单词、短语,也可能是随机字符,回复的内容往往相当冗长,且与提示词毫无关联。
截至华夏快报发文,谷歌暂未对上述问题进行回应。
据外媒 9to5Google 报道,这些奇怪的回复结果会在 Gemini 网页端、移动端出现,且往往都以“Full”或“Full bor”开头。不过,在大多数情况下,Gemini 仍然会正常回应用户提出的请求。