Anthropic首席执行官Dario Amodei周六在一篇博客文章中表示，AI开发速度过快，如果不加以遏制，可能会“超出我们理解和控制这些系统的能力”。
他 指出 ，当前AI的惊人发展速度正由其自身日益增强的能力所推动，即构建下一代AI，或实现递归式自我改进。
Amodei还提到了7月OpenAI与Hugging Face发生的事件，当时一群智能体 表现得 像一个“狂热忠诚的集体”，突破了测试环境，并试图入侵一个评估其表现的评分器。
他说，他担心在6到12个月内，这样的智能体群可能有能力接管整个互联网。Amodei并非唯一对此感到焦虑的人。
SpaceXAI负责人Elon Musk在X上 发帖 称：“Dario是对的。”
Altman今年不会进行IPO，专注于安全问题
OpenAI首席执行官Sam Altman在《财富》周六刊登的一次采访中表示，他的公司今年不会寻求IPO，因为公司将专注于安全问题，以及“行业和政府如何共同努力”。
Altman随后在X上 发帖 表示，他同意放缓AI开发速度，并让独立评估人员获得类似员工的访问权限，这是Amodei在博客中提出的三项建议之一。
Amodei写道，Anthropic已经单方面承诺采取这一措施。
其次，他提议“民主国家的前沿AI公司协调起来，制定共同的安全标准，以及对不受约束的AI发展速度设定限制。”
第三，他表示，美国及其他民主政府应“尝试与威权政府进行协调，在可能的范围内这样做，同时认真对待核实其遵守情况所面临的挑战”。
Amodei随后深入探讨了这三项提议，尤其是第三项，即有关中国以及阻止中国获得先进芯片的问题。
他总结说，他所规划的道路并不容易，但AI公司“有责任为人类去尝试”。