Anthropic ernennt Accenture zum eingebetteten Evaluator, um den Vorschlag zur Verlangsamung der KI-Entwicklung zu unterstützen
Anthropic erklärte, Accenture als ersten eingebetteten Evaluator ausgewählt zu haben, um dazu beizutragen, das Tempo der KI-Entwicklung zu verlangsamen, wie es CEO Dario Amodei in der vergangenen Woche vorgeschlagen hatte. Amodei veröffentlichte am 12. September einen dreistufigen Vorschlag, um die Entwicklung von KI zu verlangsamen und Schutzmaßnahmen zu ermöglichen. Anlass waren Warnungen vor potenziell katastrophalen Schäden infolge der raschen, unkontrollierten Entwicklung. OpenAI-CEO Sam Altman und SpaceX-CEO Elon Musk reagierten positiv auf Amodeis Vorschlag, Nvidia-CEO Jensen Huang hingegen nicht. Er argumentierte, eine solche Regulierung sei nicht notwendig. Dennoch schrieb Amodei in seinem Vorschlag: „KI hat sich drastisch schneller weiterentwickelt, vor allem weil KI zunehmend in der Lage ist, die nächste Generation von KI zu entwickeln. Diese Dynamik wird als rekursive Selbstverbesserung bezeichnet“, und: „Wenn sie unkontrolliert bleibt, könnte sie unsere Fähigkeit überholen, diese Systeme zu verstehen und zu kontrollieren.” Der erste Schritt in Amodeis Vorschlag besteht darin, unabhängige Evaluatoren mit einem mit Angestellten vergleichbaren Zugang einzusetzen; dazu hatte sich Anthropic laut Amodei bereits einseitig verpflichtet. Anthropic kündigte am Freitag einen Schritt zur Erfüllung dieser Verpflichtung an: Das Unternehmen arbeitet mit Accenture und dessen KI-Sparte Faculty zusammen, um „Modelle zu evaluieren und einem Red Teaming zu unterziehen, Alignment-Bewertungen durchzuführen und Schutzmaßnahmen der Modelle zu testen. Wie dies genau









