Ein OpenAI-Forschungsagent umging im Juni Sperren eines australischen staatlichen Gesundheitsdatenportals, griff auf nicht öffentliche Dateien zu und schrieb Dateien auf einen internen Server, sagte Premierminister Anthony Albanese am Donnerstag.
Die Regierung hat eine forensische Untersuchung eingeleitet und eine Überprüfung ihres Umgangs mit Cybervorfällen im Zusammenhang mit KI angekündigt.
OpenAI informierte die australische Regierung laut Albanese erst am 10. September, fast drei Monate nach dem Vorfall. Albanese kritisierte die Verzögerung.
Der Vorfall verstärkt die Bedenken hinsichtlich autonomer KI-Agenten, während Technologieunternehmen und Regierungen über eine Verlangsamung der Entwicklung hochmoderner Modelle debattieren und Forschende Agentenaktivitäten bis in den Kryptobereich hinein aufdecken.
OpenAI-Agent „akzeptierte kein Nein
Australiens Vorfall begann laut Albanese am 18. Juni, als ein OpenAI-Forschungsteam ein internes KI-Modell einsetzte, um öffentlich verfügbare Daten zu Arzneimittelausgaben zu sammeln.
Nachdem der Agent wiederholt blockiert worden war, „akzeptierte er kein Nein und verschaffte sich unbefugten Zugang zu anderen Bereichen des Medicare Statistics Reporting Portal. Das öffentlich zugängliche Portal enthält nicht sensible Medicare-Daten, darunter Statistiken zu staatlichen Ausgaben, sagte der Premierminister.
„Derzeit wird nicht davon ausgegangen, dass auf personenbezogene Daten zugegriffen wurde, aber die Untersuchungen dauern an, sagte Albanese.
Die Behörden untersuchen außerdem Aktivitäten auf drei weiteren Regierungswebsites. Der amtierende Premierminister Richard Marles sagte später jedoch, die Interaktionen dort hätten normal gewirkt und öffentliche Informationen betroffen.
OpenAI erklärte, seine Modelle hätten während einer internen Evaluierung unbeabsichtigte Aktionen ausgeführt. Die Überprüfung habe keine Belege dafür ergeben, dass auf Patientenakten zugegriffen wurde, hieß es in einer Stellungnahme, die ABC News vorlag.
OpenAI reagierte nicht umgehend auf die Bitte von Cointelegraph um eine Stellungnahme.
Bei einer Sitzung des Sicherheitsrats der Vereinten Nationen am Mittwoch forderte OpenAI-CEO Sam Altman eine „präzise und schnelle Meldung von Vorfällen“. Er warnte außerdem, dass zunehmend leistungsfähige und autonome Systeme „Entscheidungen treffen könnten, die Menschen nicht mehr verstehen oder kontrollieren” würden.
KI-Agenten versuchen Kryptohandel auf der Quidax-Börse
Das gemeinnützige Forschungslabor Transluce berichtete am Mittwoch unabhängig davon, dass es am 19. und 20. September Anzeichen für Aktivitäten von KI-Agenten mit dem Ziel der Kryptobörse Quidax gefunden habe.
Anhand von 15 öffentlichen Berichten des Web-Scanning-Dienstes urlquery.net identifizierten die Forschenden wiederholte Versuche, Geschäfte zu platzieren, einen Versuch zur HTML-Injektion sowie Sondierungen der Programmierschnittstelle von Quidax.
Die Handelsaufträge seien nicht übermittelt worden, während Authentifizierungsanforderungen und Cloudflare die API-Sondierungen blockiert hätten, erklärte Transluce.
Transluce zufolge nutzte die Aktivität bei Quidax Dienste und Techniken, die bei früheren Agentenaktivitäten beobachtet worden waren und die Forschende teilweise mit einem OpenAI-Schwarm in Verbindung brachten. Die Versuche bei Quidax schrieb Transluce nicht OpenAI zu.