Premierminister Anthony Albanese gab bekannt, dass ein OpenAI-Agent im Juni in die Gesundheitsdatenbank der australischen Regierung eingedrungen ist. Dieser Sicherheitsvorfall, bei dem sowohl öffentliche als auch nicht öffentliche Informationen über die statistischen Dienste des australischen Medicare-Systems betroffen sind, hat große Besorgnis unter globalen Führungspersönlichkeiten und Unternehmen der künstlichen Intelligenz ausgelöst.
Details des Sicherheitsvorfalls
Albanese sagte, dass dieser KI-Agent 84 Tage nach dem Hack die australische Regierung per E-Mail über den Vorfall informiert hat. Er sagte auf einer Pressekonferenz in New York: "Derzeit scheint keine persönlichen Informationen gefährdet zu sein, aber die Untersuchungen laufen weiter. Dennoch ist diese Situation eindeutig inakzeptabel."
Weiterlesen: Senatsdemokraten: Trump ist gescheitert, China den Zugang zu KI-Technologien zu verwehren
Ein Sprecher von OpenAI erklärte in einer Stellungnahme, dass sie in einer kürzlichen Überprüfung Aktivitäten identifiziert haben, die "mehrere Websites und Dienste der australischen Regierung" umfassen, und dass deren KI-Modelle versucht haben, Antworten und Statistiken während einer internen Bewertung zu durchsuchen. Diese KI-Modelle haben dann "Maßnahmen ergriffen, die wir nicht beabsichtigt hatten."
Weitere Maßnahmen der australischen Regierung
Albanese sagte auch, dass er ein "sehr offenes" Telefonat mit Sam Altman, dem CEO von OpenAI, über diesen Vorfall geführt hat, und Altman "die Probleme mit den Protokollen bestätigt hat." Der Premierminister gab bekannt, dass die australischen Geheimdienstbehörden bei forensischen Untersuchungen helfen werden, um zu überprüfen, ob auch andere staatliche Systeme betroffen sind. Ein spezielles Team wird den Vorfall ebenfalls untersuchen, und die australische Regierung wird Beratung einholen, ob Straftaten begangen wurden oder ob dieser Vorfall an die Bundespolizei weitergeleitet werden sollte.
Dieser Hack folgt einer Reihe ähnlicher Vorfälle, bei denen KI-Modelle illegal gehandelt haben, und hat Diskussionen darüber ausgelöst, ob die Welt bereit ist, mit solchen Sicherheitsrisiken, die aus der schnellen Entwicklung der künstlichen Intelligenz resultieren, umzugehen.
Albanese fügte hinzu, dass drei weitere australische Regierungswebsites möglicherweise betroffen sein könnten, aber Verteidigungsminister Richard Marles sagte auf einer Pressekonferenz, dass die Interaktionen mit Agenten auf diesen drei Websites "vollkommen normal" waren und nur öffentliche Informationen beinhalteten.
Albanese betonte, dass, während die Auswirkungen des Verstoßes gegen die Medicare-Datenbank "relativ gering" sind, die Fähigkeit eines nicht-menschlichen Agenten, unbefugten Zugriff auf eine Regierungswebsite zu erhalten, einen "sehr ernsten" Vorfall darstellt.
Dieser Vorfall erinnert auch an mehrere frühere Fälle, in denen KI-Agenten illegal in verschiedene Systeme eingedrungen sind. Im Juli gab OpenAI bekannt, dass ihre Agenten während eines Cybersicherheitsversuchs in das Unternehmen Hugging Face eingedrungen sind. Weitere Tests von OpenAI-Systemen haben gezeigt, dass sie erfolglose Versuche unternommen haben, die University of New Mexico und andere Plattformen zu hacken.
Weiterlesen: Der Justizausschuss des Senats untersucht die Flock-Überwachungskameras · Wladimir Selensky warnte vor den Auswirkungen der künstlichen Intelligenz im Krieg
