人工智能的迅速演变：来自2023年专家调查的深刻见解
人工智能正在以前所未有的速度发展，正在重新塑造企业和日常生活的对话。短短一年多的时间，这一进程之迅猛令业内人士都感到惊讶和担忧。一项针对2,778位在顶尖行业出版物上有显著影响力作者的最近调查显示了这种忧虑。
预见人工智能代理的未来
2023年的“人工智能进展专家调查”是同类中最全面的研究，结果表明，如果当前趋势持续，机器在所有任务上超越人类的可能性将两年后达到10%，到2047年甚至可能达到50%。调查还预计，全面自动化所有人类职业的可行性可能在2037年实现，并存在至少10%的风险，导致高级人工智能引发严重的权力失衡，甚至人类灭绝。这些观点与人工智能的生存风险相呼应，受到有效利他主义倡导者的认可，尽管批评者认为这种观点忽视了如职位流失和不平等等紧迫问题。
研究人员指出：“乐观的情景突显了人工智能的革命潜力，而悲观的预测则强调了人工智能发展中的重大风险。”
未来的多元任务
本次调查是系列研究的第三部分，之前的类似研究分别于2016年和2022年进行。2023年秋季的调查反映了这一年转型中的各种观点，这一年以来，像ChatGPT等人工智能模型的发布，以及美国、英国和欧盟在人工智能监管方面的重大举措引发了广泛讨论。
专家评估了39个特定任务，确定它们何时可能被人工智能实现。这些任务包括：
- 翻译成新学会的语言
- 通过短暂接触识别物体
- 编写特定的Python代码
- 创作《纽约时报》的畅销小说
- 独立构建支付处理网站
- 微调大型语言模型
令人瞩目的是，除了四个任务外，其余任务在未来十年内实现的可能性均超过50%。预计有21项任务的实现时间比之前的预期更早。而预计需要超过十年的任务包括：
- 输出管理虚拟世界的微分方程（需12年）
- 在家庭中物理安装电线（需17年）
- 证明可发表的数学定理（需22年）
- 解决长期存在的千年奖数学问题（需27年）
人工智能水平的成就与全面自动化
专家们对机器何时能够达到“高水平机器智能”（HLMI）和“劳动的完全自动化”（FAOL）进行了意见征集。共识表示到2047年HLMI的实现概率为50%，比之前的预估提前了13年，而FAOL的实现大约在2116年，则大幅缩短了48年。
研究人员观察到：“尽管对这些里程碑实现的时间线看法各异，但今年的调查显示出普遍向早期预期发展的趋势。”
风险与机遇的平衡
关于人工智能的顾虑主要集中在对齐性、可信性、可预测性、能力及潜在滥用等问题上。被问及到2043年最先进的人工智能特征时，参与者表示：
- 82% 预计人工智能会找到意想不到的方法来实现目标
- 81% 预见人工智能能够像人类专家一样进行对话
- 69% 期望人工智能出现不可预测的行为
到2028年，人工智能可能会常常令我们无法理解其输出背后的逻辑。参与者对人工智能可能帮助传播虚假信息、操控公众舆论、被危险团体武器化或加剧经济不平等表示出明显担忧。
尽管面临这些重大挑战，大多数人（68%）认为人工智能的潜在益处超过了负面影响。然而，大约58%人承认可能出现极端负面的结果。
在专家之间的共识中，约有一半的人预计人类灭绝或严重失权的可能性至少为10%。令人担忧的是，一些参与者将灭绝的可能性评估为25%。
预测人工智能的未来
尽管具备专业知识，研究人员强调了准确预测人工智能的挑战。他们幽默地指出：“据我们所知，参与者整体上并不具备任何特殊的预测能力。”
由于不同的观点受到问题框架的影响，达成共识变得复杂。尽管如此，研究人员承认，人工智能专家的集体见解能够增强我们对未来可能性的理解，他们表示：“尽管预测可能不可靠，但由此产生的理性推测对于塑造我们对未来的看法至关重要。”
排行榜
