谷歌暂停Gemini人生成功能，因多次出现“觉醒”失实问题

Home AI News CN 谷歌暂停Gemini人生成功能，因多次出现“觉醒”失实问题

本周，由于谷歌的新AI聊天机器人Gemini生成了历史不准确的形象（如将美国开国元勋描绘为黑人，将谷歌创始人描绘为亚洲人），引发了争议。谷歌宣布暂时停止该AI生成人物图像的功能。

谷歌表示，他们正在重视用户的关注，并计划在未来恢复这项功能。技术领袖、作家和Gemini用户分享的截图显示，该AI常常会创建来自不同背景的角色形象，而不顾历史的准确性。例如，Gemini生成了黑人的天主教教皇（尽管历史上从未出现过），将维京人描绘成肤色较深的人（而大多数维京人并非如此），以及将纳粹德国士兵描绘成亚洲人（而大多数士兵并非如此）。

尽管图像生成AI模型旨在消除偏见并促进多样性，Gemini的默认输出引发了关于谷歌如何看待 representación 的争论，导致广泛的嘲笑和批评。对此，谷歌产品高级总监Jack Krawczyk确认了问题，并指出公司正在努力优化模型，以更好地尊重历史背景，同时在如“遛狗的人”这类更广泛的提示中保持对多样性的承诺。Krawczyk表示：“作为我们AI原则的一部分，我们设计图像生成能力以反映全球用户基础，我们认真对待代表性和偏见问题。”

这一情况引发了用户和影响力人物的强烈批评，包括风险投资家Marc Andreessen和Paul Graham，关于像Gemini这样的AI聊天机器人在平衡多样性和事实准确性方面的可靠性引发了更广泛的讨论。这场争议甚至引起了主流关注，在《纽约邮报》上占据了头条。

在谷歌寻求解决方案的同时，值得注意的是，这并不是Gemini首次面临审查。自2023年12月Gemini模型系列推出以来，谷歌面临着持续的挑战，宣传其与OpenAI的GPT-4相媲美，有时甚至超越。

初始发布因一段夸大Gemini数字助理能力的宣传视频而受到批评。此外，独立研究者的评估指出，Gemini在性能上优于OpenAI的旧版模型GPT-3.5。

本月，谷歌将其Bard聊天机器人重新品牌为Gemini，并为订阅者推出了更高级的版本，同时为Workspace推出了更新的Duet AI，均以Gemini命名。尽管Gemini 1.5和Advanced承诺提供更强大的功能，特别是在视频分析和文档解析方面，但这些优势可能会被持续的争议所掩盖。

Krawczyk强调，报告像不准确图像生成这样的问题对于改进至关重要。然而，如果问题持续存在，可能会削弱谷歌让Gemini成为竞争激烈的生成AI领域领跑者的努力。

为主权AI时代做好准备：Jensen Huang访谈洞察

Stable Diffusion3.0发布：革新扩散架构，开启下一代文本生成图像的人工智能时代

Most people like

aiktp.com

896.5K

aiktp.com是一个人工智能驱动的内容创作和WordPress管理平台，专注于根据关键词和大纲生成高质量的博客文章。通过智能算法，我们帮助用户轻松创建引人入胜的内容，提升网站的搜索引擎优化（SEO）效果。

人工智能驱动 AI博客作家

SupportGuy

SupportGuy利用AI驱动的ChatGPT，革新客户支持，全天候高效处理客户查询，提升服务质量与响应速度。

其他 AI聊天机器人

Kraftful

32.4K

Kraftful运用人工智能技术深入分析用户反馈，从而不断优化产品，提升用户体验。

人工智能驱动的工具 AI产品描述生成器

QuizSolver

27.9K

高效的人工智能测评助手工具，让您轻松提升评测体验和准确性。借助先进的AI技术，这款工具不仅提高了测验效率，还能提供实时反馈，帮助用户更好地理解和改善学习成果。适用于各类教育环境，是追求卓越评测效果的理想之选。

人工智能作业帮助工具

Find AI tools in YBX