美国国务院最近发布了一份重要报告,警告称人工智能(AI)快速发展可能带来“灭绝级威胁”。该报告名为《加强先进AI安全措施的行动计划》,重点强调了AI对国家安全造成的潜在风险。
这份报告由OpenAI、Meta、谷歌和DeepMind等知名AI公司的高管与政府官员共同撰写,参与者超过200名专家。报告敦促美国政府采取迅速行动,实施必要的限制和监管措施。主要建议包括将某些开源AI模型定为非法,因为它们被视为全球安全的潜在威胁。此外,报告还建议AI公司在训练新模型之前需获得批准,以确保其安全性和可控性。
该报告引发了广泛关注和讨论,可能会影响未来AI的发展与应用。随着AI技术极速演进,社会必须认真考虑如何有效管理与监管,以确保其能够造福人类并提升安全性。