US-Präsident Donald Trump, der Sprecher des Repräsentantenhauses, Mike Johnson, und mehrere CEOs aus der Technologiebranche werden sich Berichten zufolge am 29. September zu einem Treffen über künstliche Intelligenz (KI) versammeln.
Das Treffen erfolgt zu einer Zeit, in der die Diskussion zur Sicherheit von KI immer mehr Aufmerksamkeit bekommt. Führende KI-Unternehmen warnen inzwischen vor Risiken der Technologie, doch andere Branchenvertreter zeigen sich kritisch gegenüber Forderungen nach einer Verlangsamung der Entwicklungen.
Gesponsert
Gesponsert
Anthropics Appell trifft auf Cybersicherheits-Skepsis
Anfang des Monats hat der Anthropic-Forscher Jacob Coxon seinen Rücktritt erklärt und dabei behauptet, Anthropic und OpenAI würden nicht verantwortungsvoll handeln. Sein Kollege Evan Hubinger schätzt das Risiko, dass KI innerhalb der nächsten zehn Jahre alle Menschen auslöscht, auf über 10 %.
Wenige Tage später veröffentlichte Anthropic-CEO Dario Amodei einen Aufsatz, in dem er zu einer Verlangsamung der Weiterentwicklung von KI aufruft. Sam Altman von OpenAI und Elon Musk von SpaceX unterstützen diesen Appell.
Nikesh Arora, CEO von Palo Alto Networks, hinterfragt allerdings die Absicht hinter diesem Aufruf. Auf X bezeichnete er das Eintreten für eine Verlangsamung als verdeckte geschäftliche Strategie. Gegenüber CNBC erklärte er anschließend, die Forschungslabore wollten wohl Verständnis bei Regulierungsbehörden erreichen und gleichzeitig eine Möglichkeit suchen, Haftung zu vermeiden.
Arora hält eine Verlangsamung beim Tempo der KI-Entwicklung für unrealistisch, da einige Entwickler an der Spitze der Entwicklung weiterarbeiten werden.
„Ich denke, es ist wahrscheinlich, dass einige Leute übereilt handeln werden, und es wird weiterhin Entwickler an der Spitze geben. Das heißt, wir sollten nicht versuchen, diese zu stoppen, denn sie sind die verantwortungsvollsten Personen, sagte Arora.
Arora hält die geschätzte Wahrscheinlichkeit von 10 % für das Aussterben der Menschheit durch KI für sehr unwahrscheinlich.
Folgen Sie uns auf X, um aktuelle Nachrichten direkt zu erhalten
Gesponsert
Gesponsert
Bremsen KI-Labore die Entwicklung wirklich？
Laut Amodeis Aufsatz bedeutet ein langsameres Tempo nicht, das Training grundsätzlich zu stoppen, und die Unternehmen, die den Appell unterstützen, haben weiterhin neue Modelle veröffentlicht.
Anthropic selbst hat am 22. September Claude Opus 5.5 vorgestellt und erklärt, dies sei das erste Modell nach dem Aufruf zur Verlangsamung. Das Unternehmen erklärte, dass externe Prüfer, darunter METR, das Modell vor der Veröffentlichung getestet haben.
OpenAI hat GPT-6 Sol und Luna am gleichen Tag veröffentlicht. Diese folgten auf das Flaggschiff GPT-6 Astra, das am 4. September vorgestellt wurde.
Auch Google hat weiterhin neue Modelle veröffentlicht. Am 15. September kamen Gemini 3.8 Live und Gemini 3.8 Live Extended Thinking auf den Markt. Außerdem teilte Koray Kavukcuoglu von DeepMind mit, dass Gemini 4 sich in der Phase nach dem Training befindet.
Während diese Modelle Nutzer erreichen, hat die Trump-Regierung Stellung dazu genommen, wer für deren Sicherheit Verantwortung tragen soll. Am Montag erklärte Finanzminister Scott Bessent, dass die KI-Entwickler selbst Verantwortung übernehmen sollten und nicht auf einen bundesstaatlichen Haftungsschutz hoffen dürfen.
Diese Haltung lässt wenig Raum für den Haftungsschutz, den Arora bei den Laboren vermutet hat. Eine vollständige Teilnehmerliste oder ein detaillierter Ablauf für das Treffen am 29. September gibt es bisher nicht. Daher bleibt offen, ob bei den Gesprächen Themen wie Regulierung, Schutzmaßnahmen für die Branche, die Wettbewerbsfähigkeit der USA oder eine Kombination daraus im Mittelpunkt stehen werden.