Der Generaldirektor von MI5, Ken McCallum, hat erklärt, dass die Organisation eine führende Rolle bei der Vorbereitung Großbritanniens auf Bedrohungen durch künstliche Intelligenz übernehmen wird. Diese Äußerung erfolgte nach seiner Warnung, dass die Technologie der künstlichen Intelligenz Terroristen helfen könnte, Zugang zu biologischen Waffen zu erhalten.
Gründung des Zentrums zur Bewertung von Bedrohungen durch künstliche Intelligenz
McCallum hat kürzlich das Zentrum zur Bewertung von Bedrohungen durch künstliche Intelligenz (AITAC) gegründet, um der Regierung bei der Identifizierung und Bewertung potenzieller Bedrohungen zu helfen. In seinem Jahresbericht aus dem Büro von MI5 in London sagte er: "Die Menschheitsgeschichte hat keine Erfahrung mit einem Akteur, der intelligenter ist als wir."
Weiterlesen: Greg Stanton kritisierte Microsoft wegen ausländischer Arbeiter
Er betonte die realen Gefahren der künstlichen Intelligenz und sagte, dass MI5 Terroristen identifiziert hat, die versuchen, künstliche Intelligenz zur Verbesserung ihrer Erkennungs- und Angriffsstrategien zu nutzen. Er wies auch auf die Gefahren im Zusammenhang mit KI-Drohnen hin.
Gefahren biologischer Waffen und künstlicher Intelligenz
McCallum sagte auch, dass, wenn die Sicherheit von KI-Modellen nicht ordnungsgemäß funktioniert, Terroristen mit geringeren Fähigkeiten möglicherweise Zugang zu neuen Fähigkeiten erhalten könnten. Er wies darauf hin, dass viele Terroristen historisch gesehen versucht haben, chemische, biologische oder radiologische Waffen zu erlangen, es jedoch für sie schwierig war, Zugang zu diesen Waffen zu bekommen.
Er stellte klar: "Eine der Gefahren besteht darin, dass künstliche Intelligenz gefährliches Wissen an Personen weitergeben kann, die [...] dieses Wissen nicht hatten." McCallum fügte hinzu, dass es notwendig ist, genau auf die Gefahren zu achten, die künstliche Intelligenz bei der Erzeugung neuer Pathogene darstellen kann. Er wies auch darauf hin, dass die Regierung zusätzliche Maßnahmen im Bereich biologischer Waffen ergreift.
Änderungen in der Strategie von MI5
McCallum bemerkte, dass ihn die Geschwindigkeit der Veränderungen in der Welt besorgt. Er wies darauf hin, dass die Abteilungen von MI5, die das Verhalten der britischen Feinde in den nächsten fünf Jahren untersuchen, mit verkürzten Zeitrahmen in Bezug auf Bedrohungen durch künstliche Intelligenz konfrontiert sind.
Der Direktor betonte auch, dass es jetzt seine Verantwortung ist, seine Organisation schneller voranzubringen, als es Menschen normalerweise wünschen. Das neue Zentrum zur Bewertung von Bedrohungen, AITAC, wird Fachkenntnisse von Organisationen wie dem britischen Institut für Sicherheit der künstlichen Intelligenz, der National Crime Agency und dem National Cyber Security Centre bündeln, um "das Mikrofon von den Realitäten der Bedrohung durch künstliche Intelligenz zu trennen."
McCallum sagte auch, dass MI5 jetzt die nationale Resilienz stärken muss, einschließlich des Schutzes kritischer Infrastrukturen, der Bekämpfung kognitiver Kriegsführung und der Auseinandersetzung mit Bedrohungen durch Technologie, um "den Status der Hauptmission" zu gewährleisten. Er wies darauf hin, dass MI5 jetzt mehr Ressourcen zur Bekämpfung staatlicher Bedrohungen bereitstellt, während die Zahl der Fälle von Anti-Migration in Richtung terroristischer Ziele zunimmt.
Weiterlesen: OpenAI wies die Entlassung von Forschern aufgrund von Sicherheitsbedenken zurück · MI5 warnte Universitäten, von chinesischer Finanzierung abzusehen
