谷歌因多次發生“覺醒”不準確性而暫停Gemini的人員生成功能

Home AI新聞谷歌因多次發生“覺醒”不準確性而暫停Gemini的人員生成功能

本週，有關Google新推出的AI聊天機器人Gemini的爭議持續發酵，因其生成的歷史圖像不準確，例如將美國開國元勳描繪成黑人，並將Google創始人描繪為亞洲人。為此，Google宣布暫時停止該AI生成人物圖像的功能。

Google表示，他們正在處理用戶的擔憂，並計劃在未來恢復此功能。來自科技領袖、作家和Gemini用戶分享的截圖顯示，該AI經常創建來自不同背景的人物圖像，而不考慮歷史的準確性。舉例來說，生成的圖像中既有黑人天主教教皇（實際上從未存在過此類人物），也有皮膚較黑的維京人（大多數維京人並不如此），以及將納粹德國士兵描繪為亞洲人（大多數並非如此）。

雖然生成圖像的AI模型旨在消除偏見並推動多樣性，Gemini的預設輸出卻引發了對Google在代表性方面的辯論，並遭遇了廣泛的嘲諷與批評。針對這一反彈，Google產品高級總監Jack Krawczyk確認了問題，並指出公司正在努力改進模型，以更好地尊重歷史背景，同時在更廣泛的提示中保持對多樣性的承諾，例如描繪一個人遛狗。“作為我們AI原則的一部分，我們設計圖像生成能力時考慮到全球用戶基礎，我們對代表性和偏見持認真態度。”Krawczyk表示。

該事件引發了用戶和影響力人物的強烈批評，包括風險投資家Marc Andreessen和Paul Graham，促進了有關AI聊天機器人如Gemini在平衡多樣性與事實準確性方面的可靠性更廣泛的討論。這一爭議甚至獲得了主流媒體的關注，登上了《紐約郵報》的頭條。

在Google努力解決問題的同時，值得注意的是，這並不是Gemini首次面臨審查。自2023年12月推出Gemini模型系列以來，該系列被宣傳為與OpenAI的GPT-4相比，甚至在某些方面超越了其性能，Google面臨的挑戰持續不斷。最初的推出因一段誇大Gemini數位助手能力的假視頻而受到批評。此外，獨立研究人員的評估發現，Gemini的表現不及OpenAI的舊有模型GPT-3.5。

本月，Google將其Bard聊天機器人重新命名為Gemini，並為訂閱者推出了升級版本，同時在Workspace下以Gemini名義推廣改版的Duet AI。儘管Gemini 1.5和Advanced承諾增強的功能，尤其是在視頻分析和文檔解析方面，但這些優勢可能會因持續的爭議而受到影響。

Krawczyk強調，報告不準確的圖像生成問題對於改進至關重要。然而，如果這些問題持續存在，則可能會削弱Google將Gemini定位為競爭激烈的生成AI領域領導者的努力。

準備迎接主權人工智慧時代：Jensen Huang 受訪的深刻見解

Stable Diffusion 3.0 發布了創新的擴散架構，為下一代文本轉圖像的人工智慧創作帶來全新體驗。

Most people like

getimg.ai

2.3M

探索一系列迷人的AI工具，專為創造、修改和增強圖像而設計。利用我們強大的功能釋放您的創造力，讓您的藝術願景變為現實。

AI 藝術工具 AI Art Generator

Hirebase

29.3K

介紹尖端的人工智慧求職引擎，旨在為求職者提供即時的工作索引。我們創新的平台通過提供針對您特定技能和偏好的最新工作列表，簡化了您的求職流程。立即利用我們的人工智慧驅動能力，找到您夢想中的工作！

求職搜尋 AI Recruiting

Balto

15.3K

在當今快速變化的數位環境中，客服代理扮演著提升顧客滿意度的重要角色。然而，面對複雜的問題時，若沒有即時的支持將會頗具挑戰。我們的即時指導平台通過提供上下文相關的即時協助，賦能聯絡中心的代理，確保他們能夠提供準確且及時的回應。透過先進的分析與人工智慧驅動的洞察，該平台提升了代理的表現，優化了顧客互動，最終提高了聯絡中心的整體生產力。立即體驗未來的客服服務！

聯絡中心 AI Customer Service Assistant

Giftron

發掘根據收禮者獨特喜好量身打造的理想禮物。無論是生日、周年紀念還是特別場合，我們的個性化禮物建議將幫助您找到完美的選擇！

個性化禮物 AI Gift Ideas

Find AI tools in YBX