全球最強大的人工智慧公司的負責人本週將在蘇格蘭齊聚一堂，參加由英國查爾斯三世國王主持的峰會，討論負責任的人工智慧發展。與此同時，業界擔心這項技術可能超越人類的控制。
據《星期日泰晤士報》報導，該活動將於本週在邸奇利莊園舉行，由邸奇利基金會負責監督。包括英偉達、OpenAI、Anthropic、IonQ 和 Google DeepMind 在內的公司負責人受邀討論如何發展人工智慧，使其「造福人類」。
此次峰會將在 Anthropic 執行長達里奧·阿莫代伊、OpenAI 執行長薩姆·奧特曼和 SpaceX AI 執行長伊隆·馬斯克呼籲在前沿人工智慧開發中採取更大克制一週後舉行。
阿莫代伊在週五的一封公開信中警告稱，自今年夏季以來，這項技術在人工智慧自我改進能力的推動下，一直在「以快得多的速度取得巨大進展」，這一過程被稱為遞迴式自我改進。
他說，像那些在 7 月攻擊 Hugging Face 的人工智慧代理組成的「蜂群」，可能在未來 6 到 12 個月內具備「接管整個網際網路」的能力。奧特曼同意這些公司「需要放慢前沿發展的步伐」。
《星期日泰晤士報》報導稱，接近查爾斯的人士表示，他對人工智慧的發展及其潛在風險產生了興趣。