David Robinson, ehemaliger Sicherheitsingenieur bei OpenAI, warnte am Samstag, dass KI-Unternehmen nicht genug Genauigkeit zeigen. Diese Äußerungen wurden im Zuge zunehmender Bedenken geäußert, dass Künstliche Intelligenz so mächtig werden könnte, dass sie eine Bedrohung für die Menschheit darstellt.
Notwendigkeit von Sicherheitsmaßnahmen ähnlich wie bei der Kernenergie
Robinson erklärte in einem Artikel für das Magazin The Atlantic, dass Künstliche Intelligenz Sicherheitsmaßnahmen benötigt, ähnlich denen, die für Kernenergie und Luftfahrt bestehen. Er fügte hinzu: "Die Zeit für Versuch und Irrtum ist vorbei." Er betonte die Notwendigkeit, die Sicherheit und Forschung vor der Entwicklung fortschrittlicherer KI-Modelle durch große Technologieunternehmen zu priorisieren, um menschliche Fehler zu vermeiden, die zu Katastrophen führen könnten.
Mehr lesen: Greg Stanton sieht die Verwendung von Flock-Kameras nicht als Werkzeug für totalitäre Kontrolle
Kritik an der Vorgehensweise von OpenAI
Robinson, der die Sicherheitsberichte für 12 KI-Modell-Startups überwachte, räumte ein, dass die jüngsten Fehler gewöhnlich sind, da Technologiegiganten "Geschwindigkeit und Flexibilität" priorisieren. Er sagte: "Die Umgebung, in der diese Dinge geschehen können, ist kein geeigneter Ort, um künstliche Intelligenzen zu entwickeln, die möglicherweise intelligenter sind als wir und möglicherweise nicht so handeln, wie wir es wollen."
Robinson stellte fest, dass OpenAI auf "stufenweise Einführung" setzt und neue KI-Modelle zuerst veröffentlicht, und erst nach Auftreten von Problemen die Sicherheitsmaßnahmen verschärft. Er fügte hinzu: "Das Unternehmen scheitert daran, das erforderliche Maß an Genauigkeit zu erreichen, während es von einem Start zum nächsten springt."
OpenAI erklärte als Reaktion auf die jüngsten Kritiken, dass es sicherstellt, dass seine Modelle nicht über ein Maß hinaus fortschreiten, das sicher verwaltet und bereitgestellt werden kann, und dass es gegebenenfalls Maßnahmen ergreift, um den Ausbildungsprozess zu verlangsamen oder die Modelle zurückzuhalten.
In den letzten Monaten gab es wiederholt Warnungen von Technologieexperten und Politikern über die schnelle Entwicklung von KI-Modellen, die möglicherweise die Kontrolle übernehmen und die Menschheit potenziell auslöschen könnten. Dennoch ist der Präsident der Vereinigten Staaten, Donald Trump, entschieden gegen strenge Vorschriften und glaubt, dass solche Maßnahmen die Innovation verlangsamen würden.
Mehr lesen: Hakeem Jeffries kritisierte Trumps Ablehnung von KI-Beschränkungen · Der Lebensunterhaltspreis wurde an Frauenrechtsaktivisten und KI-Forscher verliehen
