Die Nutzung von Künstlicher Intelligenz in militärischen Bewertungen und nationaler Sicherheit kann ernsthafte Folgen haben. Im September wurde ein Bericht veröffentlicht, der zeigt, dass die Vereinigten Staaten aufgrund einer falschen Einschätzung eines chinesischen Schiffs kurz vor einem militärischen Konflikt mit China standen. Eine Analyse, die mit Hilfe eines KI-Chatbots durchgeführt wurde, hatte fälschlicherweise zu dem Schluss gekommen, dass dieses Schiff nukleare Materialien transportiert. Dieser Fehler war so gravierend, dass amerikanische Flugzeuge bis zur Identifizierung des Problems in Alarmbereitschaft waren.
Ernsthafte Gefahren von KI-Bewertungen
Es gab umfassende Diskussionen darüber, wie dieser gefährliche Fehler zustande kam. Was jedoch besorgniserregend ist, ist die Geschwindigkeit, mit der KI-basierte Bewertungen in der Befehlskette voranschreiten und zu validierten Informationen werden könnten. Während wir über die Auswirkungen einer überintelligenten Künstlichen Intelligenz auf die Menschheit diskutieren, ist es offensichtlich, dass diese Technologie bald in den Krisenraum der nationalen Sicherheit eintreten wird.
Künstliche Intelligenz kann große Mengen an Sicherheitsinformationen schneller verarbeiten als jedes menschliche Team und Muster sowie Anomalien in den Daten identifizieren. Doch es stellt sich die Frage, welche Auswirkungen dies auf das Urteil des Präsidenten haben wird. Basierend auf meinen Erfahrungen in der Untersuchung von Entscheidungsfindung in Krisensituationen und der Bewertung von Informationen besteht das echte Risiko darin, dass Künstliche Intelligenz die Vorurteile der Führungskräfte verstärken und ihre Analysen in Form von Vorannahmen zurückgeben kann.
Indirekte Analysen und die Gefahr des künstlichen Konsenses
Wir sprechen normalerweise über Künstliche Intelligenz, als ob diese Systeme völlig unabhängig sind und als logische intelligente Systeme agieren können. Die Realität ist jedoch, dass Menschen diese Modelle erstellt und sie basierend auf den von ihnen generierten Daten trainiert haben. Das Ergebnis ist, dass die Ausgaben der Künstlichen Intelligenz weit entfernt von Neutralität sind.
Die Mängel der menschlichen Entscheidungsfindung sind gut bekannt. Der Präsident und seine Berater müssen sich ständig vor dem Bestätigungsfehler hüten, also der Tendenz, Beweise basierend auf früheren Überzeugungen zu interpretieren. In diesem Zusammenhang besteht ein noch größeres Risiko in der Nutzung von Künstlicher Intelligenz. Präsidiale Entscheidungen beinhalten zahlreiche Urteile, über die vernünftige Menschen unterschiedliche Meinungen haben können. Die Vereinfachung dieser Urteile zu einer Wahrscheinlichkeitsbewertung schafft mehr Unklarheit, als sie klärt.
Zum Beispiel, in der Nacht des 1. Mai 2011 kam der damalige Präsident der Vereinigten Staaten, Barack Obama, mit seinen Beratern zusammen, um Informationen zu bewerten, die zeigten, dass Osama bin Laden an einem Ort in Abbottabad, Pakistan, versteckt war. Wenn diese Informationen korrekt waren, würde er amerikanische Truppen dorthin schicken. Doch seine Berater, die alle auf ähnliche Daten schauten, gaben individuelle Schätzungen der Wahrscheinlichkeit von bin Ladens Anwesenheit an diesem Ort zwischen 30 und 95 Prozent ab.
Stellen Sie sich nun vor, dass ein leistungsfähiges Künstliche Intelligenz-System in diesem Raum vorhanden war und diese Bewertungen zu einer Wahrscheinlichkeit von 63,7 Prozent für bin Ladens Anwesenheit kombinierte. Wir könnten eine genauere Einschätzung erhalten, aber was ginge verloren? Diese Zahl kann dem Präsidenten nicht sagen, warum es diese erheblichen Unterschiede in den Bewertungen gibt und welche Annahmen auf deren Grundlage gebildet wurden.
Wenn die Probleme, die aus menschlicher Entscheidungsfindung resultieren, gut bekannt sind, gibt es auch Strategien, um ihnen zu begegnen. Wir können unsere Systeme so gestalten, dass sie als wohlwollende Wettbewerber agieren, und unsere Entscheidungsträger schulen, um sie als solche Wettbewerber zu behandeln. Darüber hinaus sollten wir bessere Fragen stellen und unsere Beweise und Annahmen sorgfältig betrachten. Dies wird dazu führen, dass bessere Entscheidungen getroffen werden und die Risiken menschlicher Vorurteile verringert werden.
