Jacob Coxon, ehemaliger KI-Forscher, der kürzlich von Anthropic zurückgetreten ist, wies in einem umstrittenen Interview auf ernsthafte Bedenken hinsichtlich der Sicherheit von KI-Technologien hin. In diesem Gespräch bedauerte er, dass es "nicht genug Zeit" für die Mitarbeiter gibt, um über die Risiken der Modelle nachzudenken, die sie entwickeln.
Vernachlässigung der Sicherheit
Coxon betonte in der Sendung "This Week" des ABC-Netzwerks, dass Sicherheitsrisiken "definitiv nicht in der Priorität der Gedanken" der Mitarbeiter von KI-Unternehmen stehen. Seine Aussagen werfen ernsthaftere Fragen zu den ethischen und sicherheitstechnischen Verantwortlichkeiten in der KI-Branche auf.
Er fügte hinzu: "Wenn Sie an einem Projekt arbeiten, das ernsthafte Auswirkungen auf das Leben von Menschen haben könnte, ist es nur natürlich, dass Sie über die Sicherheit nachdenken sollten. Aber die Realität ist, dass die Zeit in dieser Branche extrem begrenzt ist und es großen Druck gibt, der die Menschen dazu bringt, Produkte schneller zu produzieren."
Industrieller Druck und seine Folgen
Coxon wies auf die Arbeitskultur in KI-Unternehmen hin und erklärte, dass der Druck, wettbewerbsfähig zu sein und schnell Fortschritte zu machen, dazu führen könnte, dass potenzielle Risiken ignoriert werden. Er betonte, dass "wir uns der Realität stellen müssen, dass unsere Technologien unvorhersehbare Konsequenzen haben können und dies mehr Sorgfalt und Aufmerksamkeit erfordert."
Diese Aussagen von Coxon kommen zu einem Zeitpunkt, an dem viele andere Experten und Forscher ebenfalls vor den negativen und unbeabsichtigten Folgen von KI-Technologien warnen. Die Branche steht derzeit vor einem großen Wandel, und die Bedenken hinsichtlich Sicherheit und Ethik im Umgang mit diesen Technologien nehmen von Tag zu Tag zu.
