在瑞士达沃斯的世界经济论坛上,OpenAI非营利委员会首席执行官山姆·奥特曼在短暂被解雇后重返职位两个月,展现出对人工通用智能(AGI)更加谨慎的看法。在与微软首席执行官萨提亚·纳德拉和《经济学人》总编辑赞尼·敏顿·贝多斯的对话中,奥特曼表示:“我认为,没有人再同意AGI的含义。”他进一步阐述,尽管实现AGI初期可能会引发恐慌,但最终“人类会回到做人的事情上来。”他形容AGI为“一种出乎意料的连续性”,意指其进步是持续的,而非突如其来的突破,并指出“每年我们推出的新模型都比去年好得多。”
在一场彭博社组织的讨论中,奥特曼曾提到,虽然AGI可能在“相对较近的未来”出现,但其对世界的影响“将远低于我们的预期,对工作的影响也将小得多。”在2023年2月的博客文章《AGI及其未来计划》中,他强调了AGI潜在的危险,警告称“一个失衡的超级智能AGI可能造成严重危害。”他还提醒,拥有超级智能的专制政权可能带来类似的威胁。然而,他也描绘了一个希望的前景,认为AGI有可能通过提升经济富裕度和加速科学发现,显著推动人类进步。
奥特曼对AGI的看法有所演变,他最近的评论表明他的立场相比之前更加温和。他早前曾暗示AI的广泛能力,认为其可能很快在说服力方面超越人类,带来意想不到的情景。
奥特曼的最新言论与新重组的OpenAI董事会一致。在他当时短暂被解职后,董事会发生了重大变动,失去了关注AGI风险的成员。新董事会吸纳了前财政部长拉里·萨默斯和前Salesforce联合首席执行官布雷特·泰勒等知名人士,而微软现在则占据一个无投票权的董事会席位。
在达沃斯的讨论中,赞尼·敏顿·贝多斯质疑奥特曼关于OpenAI章程的说法,该章程指出董事会将决定何时实现AGI,并且AGI后的商业化将不再遵循现有协议。奥特曼对此轻松回应,暗示董事会的角色是根据情况变化重新考虑他们决定的影响。
纳德拉强调,需要共同努力,以确保未来AGI的发展能够产生积极的成果,同时减少意外后果。他指出,全球对AGI治理的兴趣正在上升,表明各方利益相关者,包括政府和民间社会,将在塑造AGI未来中发挥关键作用。
敏顿·贝多斯重申了对OpenAI董事会可能带来的潜在意外的担忧,对于这一点,奥特曼以轻松的幽默回应,谈及在风险较低时从过去的经验中汲取教训。
这些发展表明,AGI的讨论正在演变,像奥特曼和纳德拉这样的关键人物正在应对其对社会和经济的未来影响的复杂性。