全球最强大的人工智能公司的负责人本周将在苏格兰齐聚一堂，参加由英国查尔斯三世国王主持的峰会，讨论负责任的人工智能发展。与此同时，业界担心这项技术可能超越人类的控制。
据《星期日泰晤士报》报道，该活动将于本周在邓弗里斯庄园举行，由迪奇利基金会负责监督， 据 《星期日泰晤士报》报道。包括英伟达、OpenAI、Anthropic、IonQ和Google DeepMind在内的公司负责人受邀讨论如何发展人工智能，使其“造福人类”。
此次峰会将在Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥特曼和SpaceXAI首席执行官埃隆·马斯克呼吁在前沿人工智能开发中采取更大克制一周后举行。
阿莫代伊在周五的一封公开信中 警告 称，自今年夏季以来，这项技术在人工智能自我改进能力的推动下，一直在“以快得多的速度取得巨大进展”，这一过程被称为递归式自我改进。
他说，像那些在7月攻击Hugging Face的人工智能代理组成的“蜂群”，可能在未来6到12个月内具备“接管整个互联网”的能力。奥特曼 同意 这些公司“需要放慢前沿发展的步伐”。
《星期日泰晤士报》报道称，接近查尔斯的人士表示，他对人工智能的发展及其潜在风险产生了兴趣。