谷歌在美國搜尋結果中推出人工智慧生成的概述正在發生災難性的轉變，包括《紐約時報》、BBC 和 CNBC 在內的主流媒體報導了許多不準確的內容和奇怪的反應。
在社群媒體上，用戶分享了無數該功能無意義且有時甚至是危險的輸出範例。
從推薦在披薩上使用無毒膠水到建議吃石頭可以提供營養，如果這些錯誤不是那麼令人震驚的話，那會很有趣。
複製…
但我很欣賞建議的膠水是「無毒」的！
看，這不是關於“陷阱”，而是關於指出明顯可預見的損害。 例如，之前，一個孩子死於這種混亂。
這不是關於谷歌，而是關於人工智慧對社會的可預見的影響。 https://t.co/kG0xP2if7L pic.twitter.com/MIPjF8hg0i— MMitchell (@mmitchell_ai) 2024 年 5 月 23 日
在嘗試之前我簡直不敢相信。 谷歌需要盡快修復這個問題… pic.twitter.com/r3FyOfxiTK
— 克里斯卡什塔諾娃 (@icreatelife) 2024 年 5 月 23 日
主流媒體報道
根據《紐約時報》報道，Google的人工智慧概述與基本事實相悖，聲稱巴拉克·歐巴馬是美國第一位穆斯林總統，並聲稱安德魯·傑克遜於 2005 年大學畢業。
這些錯誤破壞了人們對Google搜尋引擎的信任，全球超過 20 億人信任Google搜尋引擎提供的權威資訊。
手動刪除和系統改進
根據 The Verge 報導，Google現在正忙於清除人工智慧產生的奇怪回應，並手動改進其係統。
谷歌發言人證實，該公司正在採取「快速行動」來刪除有問題的答案，並使用這些範例來完善其人工智慧概述功能。
谷歌急於整合人工智慧
對於谷歌來說，人工智慧概述的失敗發布並不是一個孤立事件。
正如 CNBC 在其報告中指出的那樣，谷歌在急於將人工智慧融入其產品的過程中犯了一些錯誤。
今年二月，Google被迫關閉了 Gemini 聊天機器人，因為它產生了不準確的歷史人物圖像，並且在大多數情況下拒絕描繪白人。
此前，該公司的巴德聊天機器人因分享有關外太空的錯誤訊息而面臨嘲笑，導致谷歌市值縮水1000億美元。
儘管遭遇這些挫折，《紐約時報》引述業界專家的話說，Google別無選擇，只能繼續推動人工智慧的整合，以保持競爭力。
然而，馴服大語言模型（吸收虛假資訊和諷刺出版物）的挑戰現在更加明顯。
關於人工智慧研究的爭論
圍繞人工智慧概述的爭議加劇了關於人工智慧風險和局限性的爭論。
儘管該技術具有潛力，但這些失敗提醒大家，在向公眾發布之前需要進行更多測試。
英國廣播公司指出，Google的競爭對手也面臨類似的強烈抵制，因為他們試圖將更多人工智慧工具塞進面向消費者的產品中。
英國數據監管機構正在調查微軟，因為該公司宣布了一項可以連續截取用戶線上活動螢幕截圖的功能。
同時，女演員史嘉蕾喬韓森批評OpenAI未經許可使用與她相似的聲音。
這對網站和 SEO 專業人士意味著什麼
主流媒體對谷歌人工智慧概述缺陷的報導將搜尋品質下降的問題帶入了公眾的視野。
在該公司努力糾正錯誤的同時，這起事件對整個產業來說是一個警示。
重點：優先考慮負責任地使用人工智慧技術，以確保效益大於風險。
