Das Weiße Haus hat die Unternehmen OpenAI und Anthropic gebeten, ihre neuen KI-Modelle nicht der Testagentur der britischen Regierung vorzulegen, bis diese Modelle von der US-Regierung überprüft und getestet wurden. Diese Anfrage wurde vom Büro des National Cyber Director geäußert und bringt die Unternehmen in eine schwierige Lage.
Herausforderungen für die Unternehmen
Diese Anfrage setzt die Unternehmen unter Druck, zwischen der Nichtvorlage ihrer Modelle an die britische KI-Sicherheitsagentur, die eine der besten staatlichen Testagenturen der Welt ist, und der Schaffung von Unzufriedenheit in der Trump-Regierung zu wählen. Ein hochrangiger US-Beamter sagte, dass das Weiße Haus möchte, dass die Modelle zuerst von den USA überprüft werden, um sicherzustellen, dass die amerikanischen Systeme sicher sind.
Weiterlesen: Die Konflikte zwischen den USA und China über die Regulierung von KI in den Vereinten Nationen
Anthropic scheint dieser Anfrage zugestimmt zu haben und hat derzeit sein Modell Claude Mythos 5.1 nicht der britischen KI-Sicherheitsagentur vorgelegt. Das Unternehmen gab bekannt, dass dieses Modell nur für eine Reihe von amerikanischen Organisationen verfügbar ist.
Sicherheitsbedenken und internationale Zusammenarbeit
In einem Schreiben an das britische Parlament erwähnte Henry de Zoute, der Direktor der KI-Sicherheitsagentur, den fehlenden Zugang zu dem Modell von Anthropic und sagte: "Wir haben starke Beziehungen zu allen KI-Entwicklern und haben weiterhin Zugang zu einigen Modellen mit globaler Reichweite vor der Veröffentlichung." Er verwies auch auf die Testung des GPT-6 Astra-Modells von OpenAI vor der Veröffentlichung.
In der Zwischenzeit haben hochrangige Beamte und ehemalige Ingenieure großer KI-Unternehmen gewarnt, dass, wenn KI-Modelle sich selbst überlassen werden, dies katastrophale Folgen haben könnte. Die britische Regierung bemüht sich ebenfalls um eine enge Zusammenarbeit mit den führenden KI-Labors der Welt und um Unterstützung bei der Testung neuer Modelle.
Der britische Außenminister Edward Miliband wies in der UN-Sicherheitsratssitzung ebenfalls auf dieses Thema hin und sagte, dass die Regierungen sicherstellen sollten, dass die neuen Modelle gründlich getestet werden und ausreichend Einblick in die Aktivitäten der Unternehmen haben.
Weiterlesen: Die zunehmende Nutzung von KI durch Wähler für Wahlinformationen · Xi Jinping betonte die Verantwortung Chinas und der USA für die Kontrolle von KI
