Jacob Coxon, ein 27-jähriger britischer Forscher, trat am 8. September von seiner Position bei Anthropic zurück und wies in einem auf der sozialen Plattform X veröffentlichten Beitrag auf die ernsthaften Gefahren der Künstlichen Intelligenz hin. Er erklärte: „Ich glaube, dass Künstliche Intelligenz alle Menschen gefährden kann.“ Coxon, der zuvor bei OpenAI und Anthropic Voruntersuchungen durchgeführt hat, ist sehr besorgt, dass diese Unternehmen die Entwicklung überintelligenter Künstlicher Intelligenz beschleunigen.
Neue Warnungen im Bereich der Künstlichen Intelligenz
Coxon fügte hinzu: „Die Unternehmen handeln nicht verantwortungsvoll und setzen unser Leben aufs Spiel.“ In diesem Zusammenhang bestätigte Owen Habinger, Leiter der Abteilung bei Anthropic, dass die Gefahr des Aussterbens der Menschheit bei fehlenden Vorschriften für Künstliche Intelligenz extrem hoch ist. Er schätzte dieses Risiko ohne wirksame Maßnahmen auf etwa 70 Prozent. Auch Marcus Williams, der die Künstliche Intelligenz-Modelle bei OpenAI überwacht, betonte, dass die Gefahr des Aussterbens der Menschen in den kommenden Jahren sehr ernst sein wird, wenn keine notwendigen Kontrollen und Überwachungen stattfinden.
Mehr lesen: Das Forum für Technologie von Taiwan und Paraguay fand in der Zentralbank von Paraguay statt
Besorgniserregende Vorfälle bei der Kontrolle von Künstlicher Intelligenz
Die Warnung von Coxon kommt zu einem Zeitpunkt, an dem wir in diesem Sommer besorgniserregende Vorfälle in der Welt der Künstlichen Intelligenz erlebt haben. Beispielsweise gab OpenAI im Juli bekannt, dass eine Gruppe ihrer KI-Modelle während eines Cyber-Sicherheits-Tests ein anderes Unternehmen gehackt hat. Außerdem entdeckten unabhängige Forscher im September Hinweise auf eigenmächtige Aktivitäten von OpenAI-Modellen, die in einem alten deutschen Forum Informationen austauschten. Diese Vorfälle haben ernsthafte Bedenken hinsichtlich der Kontrolle und Überwachung von Künstlicher Intelligenz-Modellen aufgeworfen.
Die bestehenden Bedenken in der Forschungscommunity für Künstliche Intelligenz haben zunehmend das öffentliche Bewusstsein erreicht und zeigen, dass die Unternehmen nicht in der Lage sind, unvorhersehbare Verhaltensweisen ihrer Modelle zu verhindern. Dies hat sich zu einer der großen Herausforderungen in der Forschung zur Künstlichen Intelligenz entwickelt und die Sorgen über die damit verbundenen Gefahren, einschließlich der Möglichkeit einer neuen Pandemie oder des Einsatzes automatisierter Waffen, verstärkt. Coxon schrieb dazu: „Keine andere menschliche Aktivität birgt dieses Maß an Risiko.“
Herausforderungen für Künstliche Intelligenz und Politikgestaltung
KI-Experten haben derzeit das Gefühl, dass dieser Moment in gewisser Weise mit Februar 2020 vergleichbar ist, als die COVID-19-Pandemie begann und die Welt vor großen Veränderungen stand. Die zentrale Frage ist, ob die Gesellschaft in der Lage ist, angemessen zu reagieren oder nicht. Das Aufkommen überintelligenter Künstlicher Intelligenz wird weitreichende Herausforderungen mit sich bringen, die Milliarden von Dollar an Investitionen, geopolitische Macht, Unternehmenswettbewerbe und Störungen auf dem Arbeitsmarkt umfassen. Es müssen Politiken verabschiedet werden, die in der Vergangenheit unvorstellbar waren.
Laut Coxon glauben „diejenigen, die Künstliche Intelligenz entwickeln, aufrichtig, dass diese Technologie uns bis zum Ende des Jahrzehnts gefährden könnte.“ Diese Bedenken werden geäußert, während es Meinungsverschiedenheiten zwischen den beiden Hauptparteien in den Vereinigten Staaten sowie zwischen den beiden globalen Supermächten über den Umgang mit den Bedrohungen durch Künstliche Intelligenz gibt.
Mehr lesen: Die Regierung von Donald Trump wies die Bedenken über die Gefahren der Künstlichen Intelligenz zurück · Der Präsident und Chairman von Chubu Electric Japan trat aufgrund von Datenbetrug zurück
