Die Führungskräfte der mächtigsten KI-Unternehmen der Welt sollen diese Woche in Schottland zu einem von König Charles III. von Großbritannien veranstalteten Gipfel zusammenkommen, um über eine verantwortungsvolle Entwicklung von KI zu sprechen – vor dem Hintergrund von Branchenängsten, dass die Technologie die menschliche Kontrolle überholen könnte.
Die Veranstaltung findet diese Woche im Dumfries House statt und wird von der Ditchley Foundation beaufsichtigt, laut The Sunday Times. Führungskräfte von Unternehmen wie Nvidia, OpenAI, Anthropic, IonQ und Google DeepMind wurden eingeladen, darüber zu diskutieren, wie KI „zum Wohle der Menschheit entwickelt werden könnte.
Der Gipfel würde eine Woche nach dem Aufruf von Anthropic-CEO Dario Amodei, OpenAI-CEO Sam Altman und SpaceXAI-CEO Elon Musk zu größerer Zurückhaltung bei der Entwicklung von KI an der technologischen Grenze stattfinden.
In einem am Freitag veröffentlichten offenen Brief warnte Amodei, dass die Technologie sich seit dem Sommer „drastisch schneller weiterentwickelt habe, angetrieben durch die Fähigkeit der KI, sich selbst zu verbessern – ein als rekursive Selbstverbesserung bekannter Prozess.
Er sagte, ein „Schwarm“ von KI-Agenten, wie jene, die Hugging Face im Juli angegriffen hatten, könnte in den nächsten sechs bis zwölf Monaten in der Lage sein, „das gesamte Internet zu übernehmen”. Altman stimmte zu, dass die Unternehmen „das Tempo an der technologischen Grenze anpassen müssen.
Quellen aus dem Umfeld von Charles hätten Interesse an der KI-Entwicklung und ihren potenziellen Risiken festgestellt, berichtete The Sunday Times.