Greg Stanton und andere Forscher der künstlichen Intelligenz warnten vor den ernsthaften Gefahren, die von dieser Technologie ausgehen, insbesondere vor der Gefahr des Aussterbens der Menschheit. Diese Warnungen haben kürzlich an Intensität zugenommen, und Forscher wie Jacob Coxon von der Firma Anthropic haben auf die zunehmenden Gefahren hingewiesen, die künstliche Intelligenz für die Menschheit darstellen kann.
Warnungen und Rücktritte
Jacob Coxon erklärte in einem Beitrag im sozialen Netzwerk X, dass die Gefahren, die von der künstlichen Intelligenz ausgehen, bis zum Ende dieses Jahrzehnts Realität werden könnten. Er wies darauf hin, dass Unternehmen im Wettbewerb stehen, um selbstverbessernde künstliche Intelligenz zu entwickeln, was die Entwicklungszyklen schnell verkürzen und sie unkontrollierbar machen könnte. Aus diesem Grund trat er von seiner Stelle bei Anthropic zurück.
Bedenken anderer Forscher und globale Maßnahmen
Geoffrey Hinton, Nobelpreisträger und einer der Pioniere der künstlichen Intelligenz, hat ebenfalls vor den ernsthaften Folgen der überlegenen künstlichen Intelligenz gewarnt. Er verließ 2023 Google, um auf die Gefahren dieser Technologie hinzuweisen, an deren Entwicklung er selbst beteiligt war. Yoshua Bengio, ein weiterer Pionier der künstlichen Intelligenz, hat ebenfalls staatliche Regelungen gefordert, um die Gefahren dieser Technologie zu verhindern.
Im Juli 2026 warnten über 1.000 Mitarbeiter führender Unternehmen der künstlichen Intelligenz in einem offenen Brief, dass, wenn der Wettbewerb um "überlegene Intelligenz" nicht unter strengeren Vorschriften gestellt wird, die Kontrolle über diese Technologie verloren gehen könnte. Trotz dieser Warnungen hat die Regierung der Vereinigten Staaten unter Donald Trump den Kurs eingeschlagen, rechtliche Hürden abzubauen und die Entwicklung der künstlichen Intelligenz zu beschleunigen.
Coxon kritisierte unangemessene Prozesse bei der Entwicklung von künstlicher Intelligenz und wies darauf hin, dass in vielen Unternehmen die bestehenden Risiken nicht gut verstanden werden. Er verwies auch auf die Gefahren, die künstliche Intelligenz für die Internetinfrastruktur darstellen könnte, und sagte, dass künstliche Intelligenz innerhalb von 6 bis 12 Monaten in der Lage sein könnte, das Internet zu dominieren.
In der Zwischenzeit forderte Dario Amodei, CEO von Anthropic, eine koordinierte Reduzierung der Entwicklung in der Branche, um mehr Zeit für die Auseinandersetzung mit den Risiken und zur Verhinderung von Missbrauch der künstlichen Intelligenz zu schaffen. In dieser Hinsicht sind auch Elon Musk und Sam Altman seiner Meinung.
Mehr lesen: Greg Stanton sieht die Rolle der Ingenieure als entscheidend für den Energieübergang · Die Trump-Regierung unterschätzt die Gefahren der künstlichen Intelligenz nicht
