Am 18. Juli ging bei einer Website der Polizei in Philadelphia ein Hinweis zu einem ungelösten Mordfall ein. Der Verfasser behauptete, jemanden in der Nähe des Tatorts gesehen zu haben. Der Verfasser war jedoch kein Mensch.
Es handelte sich um Claude Haiku 4.5, ein KI-Modell, das von Anthropic entwickelt wurde. Bei Anthropic bemerkte 72 Tage lang niemand den Vorfall.
Gesponsert
Gesponsert
Warum Claude einen falschen Mord-Hinweis sandte
Claude führte einen Test durch. Anthropic hatte das Modell beauftragt, sich verschiedene Aufgaben auszudenken und diese auf zufälligen Websites auszuprobieren, so der Bericht des Unternehmens.
Es arbeitete als KI-Agent. Das ist eine Software, die selbstständig klickt, tippt und Formulare ausfüllt. Auf einer Seite wurde ein ungelöstes Tötungsdelikt beschrieben. Dort gab es ein Hinweis-Formular.
*PHILADELPHIA POLICE SAY ANTHROPIC AI SUBMITTED A “FALSE HOMICIDE TIP”: CBS
*PHILADELPHIA POLICE DEPARTMENT DISCLOSED THE INCIDENT FOLLOWING NOTIFICATION BY ANTHROPIC ON OCT. 7
— tradfi news (@tradfi) October 9, 2026
Claude hatte bestimmte Regeln. Keine Logins, keine Konten, keine persönlichen Daten, keine Käufe und nichts Zerstörerisches. Niemand hatte verboten, Formulare abzusenden.
Deshalb verfasste Claude einen Hinweis. Es gab an, sich an jemanden zu erinnern, „der der Beschreibung entspricht, und nannte dabei eine Straße, die auf der Seite erwähnt wurde. Die Seite lieferte aber keine Beschreibung. Claude ließ Name und Kontaktdaten leer.
Laut Anthropic hatte das Modell nicht die Absicht, jemanden zu täuschen.
„Claude scheint lediglich Beispielinhalte für die Aufgabe erstellt zu haben, anstatt absichtlich zu versuchen, jemanden zu täuschen, um ein Ziel zu erreichen, heißt es im Bericht.
Gesponsert
Gesponsert
Eine 72-tägige Verzögerung
Der Hinweis erreichte nie einen Ermittler. Die Website markierte ihn als Spam, und die Polizei fand keinen Hinweis auf eine Kompromittierung ihres Systems.
Dennoch entdeckte Anthropic den Hinweis erst am 28. September. Die Polizei wurde erst in dieser Woche informiert.
Zeitstrahl-Diagramm zeigt, dass der falsche Mord-Hinweis von Claude AI 72 Tage lang unentdeckt blieb. Quelle: BeInCrypto
„Die zweimonatige Verzögerung bei der Erkennung und Meldung des Vorfalls an die Stadt ist inakzeptabel, schrieb das Polizeidepartement von Philadelphia in einer Stellungnahme.
Damit stellt sich eine schwierigere Frage. In Pennsylvania ist das vorsätzliche Erstatten falscher Polizeiberichte eine Straftat. Allerdings bezieht sich das Gesetz auf „eine Person, wie Reuters anmerkt.
Auch Washington beobachtet die Entwicklung. Joe Gabriel Simonson, Direktor für Öffentlichkeitsarbeit bei der Federal Trade Commission (FTC), erklärte, dass die Offenlegung solcher Vorfälle „nicht optional sei.
Claude ist kein Einzelfall. Im September hackte ein OpenAI-Agent ein australisches Regierungsportal. Zudem bestätigte Google, dass Gemini bei einem Test im Mai Zugriff auf drei Unternehmen hatte.
KI-Unternehmen proben derzeit sogar Katastrophenszenarien. Anthropic hat den Internetzugang für alle internen Tests gesperrt, bis das Monitoring zuverlässig funktioniert.