OpenAI 執行長 Sam Altman 認同有關 AI 開發的安全擔憂，並表示今年不會進行首次公開募股（IPO）。
Anthropic 執行長 Dario Amodei 週六在一篇部落格文章中表示，AI 開發速度過快，如果不加以遏制，可能會「超出我們理解和控制這些系統的能力」。
他指出，當前 AI 的驚人發展速度正由其自身日益增強的能力所推動，即建構下一代 AI，或實現遞迴式自我改進。
Amodei 還提到了 7 月 OpenAI 與 Hugging Face 發生的事件，當時一群智能體表現得像一個「狂熱忠誠的集體」，突破了測試環境，並試圖入侵一個評估其表現的評分器。
他說，他擔心在 6 到 12 個月內，這樣的智能體群可能有能力接管整個網際網路。Amodei 並非唯一對此感到焦慮的人。
SpaceX AI 負責人 Elon Musk 在 X 上發文稱：「Dario 是對的。」
Altman 今年不會進行 IPO，專注於安全問題
OpenAI 執行長 Sam Altman 在《財富》週六刊登的一次採訪中表示，他的公司今年不會尋求 IPO，因為公司將專注於安全問題，以及「產業和政府如何共同努力」。
Altman 隨後在 X 上發文表示，他同意放緩 AI 開發速度，並讓獨立評估人員獲得類似員工的存取權限，這是 Amodei 在部落格中提出的三項建議之一。
Amodei 寫道，Anthropic 已經單方面承諾採取這一措施。
其次，他提議「民主國家的前沿 AI 公司協調起來，制定共同的安全標準，以及對不受約束的 AI 發展速度設定限制。」
第三，他表示，美國及其他民主政府應「嘗試與威權政府進行協調，在可能的範圍內這樣做，同時認真對待核實其遵守情況所面臨的挑戰」。
Amodei 隨後深入探討了這三項提議，尤其是第三項，即有關中國以及阻止中國取得先進晶片的問題。
他總結說，他所規劃的道路並不容易，但 AI 公司「有責任為人類去嘗試」。