据彭博社28日报道，Anthropic、OpenAI、Meta和微软的高层管理人员共同呼吁政策制定者密切关注人工智能系统自我进化的程度，并采取必要措施保障AI技术的安全性。
20多位AI领域的领军人物和研究人员在一份新发表的论文中提出警告，利用AI来加速下一代模型研发的趋势正在增长，这可能导致AI技术发展出现突然的加速。
论文作者将这种现象命名为“智能爆炸”。若这种情况发生，AI能力的提升速度或将超越社会引导和适应AI技术的能力。参与论文撰写的包括Anthropic联合创始人杰克·克拉克、OpenAI首席科学家雅库布·帕乔茨基，以及AI先驱杰弗里·辛顿、约书亚·本吉奥等人。
研究人员同时警告，AI研发的自动化可能会削弱人类的监督作用。
据悉，论文呼吁政策制定者深入了解顶级AI实验室在多大程度上利用AI实现研究自动化，并建立能够“引导和约束智能爆炸”的机制，例如提高安全标准，以及加强对负责自动化AI研发任务的数据中心的监管。
研究人员还提议，针对不同的AI快速演进情景提前制定应急计划。“初步证据显示，软件驱动的智能爆炸是可能发生的。如果它真的出现，可能成为历史上最具深远影响的技术发展…… 与潜在后果相比，我们的准备还不够充分。”
论文列出了政策制定者应考虑采取的行动。“一旦智能爆炸启动，采取行动的窗口期可能就会关闭。”
2026年8月12日
|
19:30
2026年8月10日
17:00
2026年8月18日
21:00
