谷歌是全球最大的搜尋引擎，佔據全球市場的 90% 以上，在谷歌上進行搜尋現在看起來有些不同了。 谷歌不會在頁面頂部自動產生摘要，引用一些選定的網站，而不是指向其他網站的連結頁面。
這些變化是在上周宣布的，谷歌向其每月超過 2.5 億的美國用戶推出了人工智慧摘要。 但現在，一些用戶報告新技術錯誤地獲取了重要資訊。
儘管谷歌表示，早期測試人員對人工智慧概述搜尋結果更滿意，但更廣泛的受眾已經發現了該功能的不準確或幻覺。
當 X 用戶輸入搜尋查詢「起司不黏在披薩上」時，Google 的 AI 概述 回答說：“你還可以在醬汁中加入大約⅛杯無毒膠水，以增加其粘性。”
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 2024 年 5 月 22 日
Google 的答案來源似乎是 11 年前寫的 Reddit 貼文。
評論
來自討論
披薩店
「這個例子很有趣，但可能存在不那麼明顯的危險，」標記該問題的 X 用戶寫道。
谷歌二月與 Reddit 簽署了一項協議，以訓練其人工智慧。 OpenAI 本月稍早與 Reddit 簽署了類似的協議。
有關的： OpenAI 的新政讓 ChatGPT 拓荒者追隨競爭對手的腳步
西雅圖人工智慧研究員 Margaret Mitchell 博士週三也在 X 上指出了兩種人工智慧幻覺。
第一個顯示馬斯克去了加州大學柏克萊分校。 在撰寫本文時，該錯誤似乎已得到糾正。
第二張顯示，1845 年去世的總統安德魯傑克遜 (Andrew Jackson) 於 2005 年畢業於威斯康辛大學麥迪遜分校。
根據 AI 概覽，安德魯約翰遜總統從未上過學，自學閱讀，但他從威斯康辛大學麥迪遜分校獲得了 14 個學位。
同時，在谷歌搜尋中。
安德魯·約翰遜一直在殺人，我從來不知道。 pic.twitter.com/IV2zCmI6Zv— MMitchell (@mmitchell_ai) 2024 年 5 月 22 日
企業家 驗證在撰寫本文時第二個錯誤仍然存在。
多項統計不準確。 信用：企業家
谷歌的人工智慧似乎取自 2016 年威斯康辛大學麥迪遜分校校友會的一篇文章，該文章顯示了總統校友的畢業年份 名字。
有關的： 太棒了，人工智慧現在可以偵測諷刺了
這些錯誤說明人工智慧可能無法識別訓練資料中的細微差別，並可能放大錯誤訊息，尤其是當整合到Google等廣泛使用的平台時。
SE Ranking 的 SEO 主管 Anastasia Kotsiubynska 在與 企業家 上個星期。
「最有可能的是，搜尋結果和幻覺中仍然會存在誤導性訊息，許多用戶可能會在沒有仔細檢查的情況下使用這些信息，」科齊賓斯卡當時表示。
有關的： 網站流量下降？ 以下是谷歌對其搜尋工具進行的重大人工智慧更改
谷歌週二宣布，「很快」就會開始在人工智慧概述中測試廣告，為其新的人工智慧搜尋體驗增添了另一層。
