谷歌因多次發生“覺醒”不準確性而暫停Gemini的人員生成功能

Home AI新聞谷歌因多次發生“覺醒”不準確性而暫停Gemini的人員生成功能

本週，有關Google新推出的AI聊天機器人Gemini的爭議持續發酵，因其生成的歷史圖像不準確，例如將美國開國元勳描繪成黑人，並將Google創始人描繪為亞洲人。為此，Google宣布暫時停止該AI生成人物圖像的功能。

Google表示，他們正在處理用戶的擔憂，並計劃在未來恢復此功能。來自科技領袖、作家和Gemini用戶分享的截圖顯示，該AI經常創建來自不同背景的人物圖像，而不考慮歷史的準確性。舉例來說，生成的圖像中既有黑人天主教教皇（實際上從未存在過此類人物），也有皮膚較黑的維京人（大多數維京人並不如此），以及將納粹德國士兵描繪為亞洲人（大多數並非如此）。

雖然生成圖像的AI模型旨在消除偏見並推動多樣性，Gemini的預設輸出卻引發了對Google在代表性方面的辯論，並遭遇了廣泛的嘲諷與批評。針對這一反彈，Google產品高級總監Jack Krawczyk確認了問題，並指出公司正在努力改進模型，以更好地尊重歷史背景，同時在更廣泛的提示中保持對多樣性的承諾，例如描繪一個人遛狗。“作為我們AI原則的一部分，我們設計圖像生成能力時考慮到全球用戶基礎，我們對代表性和偏見持認真態度。”Krawczyk表示。

該事件引發了用戶和影響力人物的強烈批評，包括風險投資家Marc Andreessen和Paul Graham，促進了有關AI聊天機器人如Gemini在平衡多樣性與事實準確性方面的可靠性更廣泛的討論。這一爭議甚至獲得了主流媒體的關注，登上了《紐約郵報》的頭條。

在Google努力解決問題的同時，值得注意的是，這並不是Gemini首次面臨審查。自2023年12月推出Gemini模型系列以來，該系列被宣傳為與OpenAI的GPT-4相比，甚至在某些方面超越了其性能，Google面臨的挑戰持續不斷。最初的推出因一段誇大Gemini數位助手能力的假視頻而受到批評。此外，獨立研究人員的評估發現，Gemini的表現不及OpenAI的舊有模型GPT-3.5。

本月，Google將其Bard聊天機器人重新命名為Gemini，並為訂閱者推出了升級版本，同時在Workspace下以Gemini名義推廣改版的Duet AI。儘管Gemini 1.5和Advanced承諾增強的功能，尤其是在視頻分析和文檔解析方面，但這些優勢可能會因持續的爭議而受到影響。

Krawczyk強調，報告不準確的圖像生成問題對於改進至關重要。然而，如果這些問題持續存在，則可能會削弱Google將Gemini定位為競爭激烈的生成AI領域領導者的努力。

準備迎接主權人工智慧時代：Jensen Huang 受訪的深刻見解

Stable Diffusion 3.0 發布了創新的擴散架構，為下一代文本轉圖像的人工智慧創作帶來全新體驗。