真正危險的：Google的不準確AI概述引發嘲諷及擔憂

Home AI新聞真正危險的：Google的不準確AI概述引發嘲諷及擔憂

你該在披薩上加膠水嗎？盯著太陽看30分鐘？吃石頭？用冰治療蛇咬傷？

根據谷歌最新的“AI概覽”功能，這些危險的建議在用戶搜尋資訊時，竟成為前列結果之一。

什麼是 Google AI 概覽？

2023年5月，谷歌推出了“搜尋生成體驗”，以與 OpenAI 的 ChatGPT 競爭。這項由AI驅動的關鍵資訊摘要顯著顯示在搜索欄下方，位於傳統藍色連結列表之前。最初為可選功能，但在最近的 I/O 大會上重新命名為 AI 概覽後，已成為所有美國用戶的預設選項。用戶仍可通過切換到“網頁”標籤來選擇退出。

為何 Google AI 概覽引發爭議？

自推出以來，許多人在X（前身為Twitter）上指出AI概覽生成的令人擔憂且常常不準確的結果。一些誤導性的結果甚至可能有害，引發名人和用戶的批評。AI生成響應質量不佳，已經成為搞笑梗的來源，嘲諷谷歌的可靠性。

為了解決這些問題，谷歌將AI概覽功能標籤為“實驗性”，表明結果的準確性可能有所不同。該公司聲稱，用戶反饋和人工審核將指導系統的改進。

谷歌會移除AI概覽嗎？

對於谷歌重新考慮AI概覽功能的呼聲日漸增多，特別是過去谷歌因生成問題結果而暫停AI工具的事件後。一位公司發言人指出，網上分享的最可擔憂範例涉及“非常不常見的查詢”，並回應單一事件，進行功能完善。然而，部分用戶視此為藉口，懷疑該系統的完整性，質疑其生成內容是否依賴於先前索引的資料，包括錯誤資訊和諷刺。

結論

雖然不清楚有多少搜尋會產生不準確資訊，但 AI 概覽似乎比傳統的谷歌搜尋更容易受到不可靠來源的影響。用戶在根據這些AI生成的結果採取行動前，必須謹慎並核實可靠來源的信息。像 Perplexity 這樣的替代方案已顯示出更高的準確性，提供值得信賴的資訊，這對於最早推動現代生成AI技術的谷歌而言，無疑是一個諷刺的轉折。

金融分析的未來：根據最新研究洞察，GPT-4 如何改變行業格局

McKesson和Merck投資Atropos Health的3300萬美元資金輪，推動AI驅動的藥物開發