揭露操控者：深入了解人工智能的真实风险

Home AI News CN 揭露操控者：深入了解人工智能的真实风险

我们的生活正面临巨变，随着对话式人工智能的兴起，这些AI助手旨在随时满足我们的需求。这些智能代理将通过个人数据分析我们的兴趣、背景和目标，提供个性化的信息和有效的服务，最终目的是提升我们日常生活的便利性。

本周，OpenAI 发布了最新的聊天机器人 GPT-4o，能够识别人类情感。这项先进技术不仅能分析文本情感，还能解读在视频互动中声音和面部表情的细微差别。

谷歌最近宣布了阿斯特拉计划，旨在开发一种能理解周围环境并进行对话的辅助AI。该技术将使其能够提供实时互动指导。

OpenAI 的首席执行官山姆·奥特曼在接受《麻省理工科技评论》采访时表示，AI 的未来在于个性化的辅助代理，这些代理被描述为“超级能干的同事”，能够管理我们的电子邮件和日常对话，为我们主动采取行动。

然而，这种理想的愿景也引发了担忧。正如我在之前的文章中所讨论的，AI助手可能会侵犯人类的自主权，尤其是在进行有针对性的操控时。随着这些代理逐渐融入我们的移动设备——数字生活的入口——它们将收集大量关于我们的数据，影响我们消费的信息，同时监控和过滤我们的互动。

任何一个观察我们生活并策划我们接收信息的系统都存在操控的风险。配备摄像头和麦克风的AI助手将在实时环境中感知周围，并对刺激作出反应，而无需我们的明确请求。虽然这种功能会带来便利——如提醒我们完成任务或提供社交指导——但也带来了深度监控和干预的风险，可能让许多人感到不安。然而，我预计许多人仍会乐于接受这种技术，因其为日常生活带来了诸多便利。

这一趋势将促使科技公司之间展开“军备竞赛”，争相推出最强大的心理增强工具。当这些功能变得普遍时，选择不接受的人将逐渐处于不利地位，使曾经看似的选择变为一种必要性。我预测到2030年这些技术将迅速被广泛应用。

尽管如此，我们必须意识到潜在的风险。如我在《我们的下一个现实》一书中所述，虽然辅助代理可以赋予我们卓越的认知能力，但它们终究是以盈利为驱动的产品。使用这些工具的同时，我们也在邀请公司来引导和影响我们的想法，这使得这项技术既是赋权的资源，也是可能被利用的工具。

这引发了“AI操控问题”：与传统广告相比，通过对话代理进行的有针对性影响的有效性大幅提升。熟练的销售人员知道，通过对话与个人互动，比静态广告更具说服力。随着AI代理熟练运用心理战术并掌握我们广泛的偏好，它们的操控能力将超过任何人。

这些代理会显著影响我们的决策，利用持续反馈实时调整影响策略，就像热导弹调整轨迹接近目标一样。在未受到监管的情况下，对话代理可能会利用这种能力传播错误信息，因此，监管监督势在必行。

来自Meta、谷歌和苹果等公司的创新表明，对话代理将很快成为我们生活的一部分。Meta最近推出的Ray-Ban眼镜和苹果在多模态AI方面的进展，突显了技术向提供持续指导的快速发展。当这些产品投放市场后，预计将会迎来广泛采用。

尽管这些技术有很多益处，但潜在的操控风险也不得不引起重视。为了保护公众利益，我强烈呼吁监管机构迅速采取行动，对互动式对话广告实施严格限制，因为这正是传播错误信息的入口。

政策制定者应立即采取切实行动。

ElevenLabs推出网站语音旁白功能，提升用户体验

Xbox最新透明度报告揭示AI应用于提升玩家安全的见解

Most people like

Monic.ai

37.7K

使用GPT-4生成学习内容和评估工具，为教育提供创新解决方案。通过结合人工智能的强大能力，教师和学生能够获得个性化的学习体验，从而提高学习效果。本文将探讨如何有效地利用GPT-4来创建高质量的学习材料及评估方法，助力教育的数字化转型与个性化学习的实现。

GPT-4 AI开发工具

Pixfun

顶级 AI 视频动画生成工具，助力 TikTok 和 Facebook 内容创作探索先进的 AI 视频动画生成工具，专为 TikTok 和 Facebook 平台设计，帮助创作者轻松生成引人注目的动画视频。无论是短视频营销、品牌宣传，还是社交媒体互动，这些工具都能显著提升您的内容创造力和观众参与度。

AI 动画 AI 动漫和卡通生成器

Tally

高效的AI工具，用于分析文档和视频。提升您的工作效率，轻松提取关键信息，优化内容管理。

AI分析写作助手

Lamucal

101.2K

探索AI音乐工具，它们可以帮助您轻松创建乐谱、和弦和声乐翻唱。借助先进的人工智能技术，音乐创作变得更加简单、高效，令每一位音乐爱好者都能发挥创意。

AI音乐工具 AI 歌词生成器

Find AI tools in YBX