Die Meinungsverschiedenheiten zwischen Cybersicherheit und der Sicherheit von Künstlicher Intelligenz verschärften sich nach dem Cyberangriff auf das Unternehmen Hugging Face im Juli. Dieser Vorfall bestätigte die Bedenken der Gemeinschaft für die Sicherheit von Künstlicher Intelligenz, dass diese Technologie mit dem Fortschritt der Künstlichen Intelligenz Bemühungen zur Kontrolle umgehen könnte. Gleichzeitig glauben einige Cybersicherheitsexperten, dass dieser Vorfall ernsthafte Schwächen in der Art und Weise aufzeigt, wie Künstliche Intelligenzen kontrolliert werden.
Bedenken über die Zukunft der Künstlichen Intelligenz
Die beiden Gruppen sind sich uneinig darüber, welche Verteidigungsmaßnahmen Priorität haben sollten. Cybersicherheitsexperten sind der Meinung, dass Unternehmen der Künstlichen Intelligenz ihre Methoden zur Kontrolle von Modellen während der Tests verbessern und die Überwachungsmechanismen zur Identifizierung von Fehlverhalten stärken sollten. Auf der anderen Seite glauben viele Aktivisten für die Sicherheit von Künstlicher Intelligenz, dass diese Verteidigungen zum Scheitern verurteilt sind und die einzige nachhaltige Lösung darin besteht, die Künstliche Intelligenz mit menschlichen Werten zu „harmonisieren“.
Mehr erfahren: Die USA haben fünf chinesische Unternehmen, die mit einem ehemaligen Google-Ingenieur verbunden sind, sanktioniert
Diese Ansicht hat viele Cybersicherheitsexperten verärgert, die auf die Möglichkeit reagieren, dass ihr Fachwissen verloren gehen könnte. Sie glauben, dass der Fokus der Sicherheit von Künstlicher Intelligenz auf das, was diese Akteure getan haben, anstatt auf das, was die Unternehmen der Künstlichen Intelligenz nicht getan haben, der Industrie zugutekommt. Sie befürchten, dass Warnungen über die Nutzlosigkeit traditioneller Verteidigungen zu einem Rückgang der Investitionen in die Cybersicherheit führen könnten.
Aufruf zur Zusammenarbeit in der Sicherheit von Künstlicher Intelligenz
In der Zwischenzeit sind Forscher für die Sicherheit von Künstlicher Intelligenz besorgt, dass die Darstellung solcher Vorfälle als korrigierbare Sicherheitsfehler denjenigen, die eine ungehinderte Entwicklung der Künstlichen Intelligenz wünschen, politischen Rückhalt geben könnte. Shyam Sankar, CTO von Palantir, erklärte im Oktober in einem Programm, dass der Vorfall bei Hugging Face aufgrund einer „schlechten Cybersicherheitskonfiguration“ passiert sei und dass diese Akteure Zugang zum Internet hatten. Tatsächlich operierten diese Akteure in einer kontrollierten Umgebung und nutzten eine unbekannte Schwachstelle, um Zugang zum offenen Internet zu erhalten.
Am 13. Oktober unterzeichneten etwa 400 Akademiker einen offenen Brief zur Einheit. In diesem Brief wird die Gründung einer internationalen Institution gefordert, die bewährte Verfahren zur Gewährleistung der Sicherheit von Künstlicher Intelligenz mit Beratung von Regierungen und einer Vielzahl von Cybersicherheitsexperten und Künstlicher Intelligenz standardisieren soll. Doch dieser Brief geht nicht auf die größeren Meinungsverschiedenheiten zwischen den beiden Gruppen ein.
Mit zunehmenden Risiken wächst auch der Wettbewerb darüber, wer entscheiden kann, was die Sicherung von Künstlicher Intelligenz bedeutet. Am 15. Oktober gab Anthropic bekannt, dass es METR—einer Organisation, die tief in der Gemeinschaft für die Sicherheit von Künstlicher Intelligenz engagiert ist—dauerhaften Zugang ähnlich dem von Mitarbeitern gewähren wird, um die Sicherheitspraktiken des Unternehmens zu bewerten. Elon Musk antwortete ebenfalls, dass SpaceXSI wahrscheinlich dasselbe tun wird. Wer Zugang zu diesen Informationen erhält, könnte die Prioritäten der Lösungen und das, was die Öffentlichkeit über zukünftige Verstöße weiß, beeinflussen.
Die Gemeinschaft für die Sicherheit von Künstlicher Intelligenz umfasst ein informelles Netzwerk von Organisationen und Forschern, von denen viele in Sicherheitsteams von Unternehmen wie OpenAI und Anthropic tätig sind. Seit über einem Jahrzehnt diskutieren sie über die Möglichkeit, dass Künstliche Intelligenz die menschliche Kontrolle übersteigt. Während die Cybersicherheit mit einer Kultur des Pessimismus und des Pragmatismus verbunden ist, hat sie Wurzeln in der Hacker-Kultur, die nach Wegen sucht, Software zu brechen. Die Erfahrung mit dem Scheitern sogenannter sicherer Systeme hat vielen von ihnen eine Missachtung gegenüber Autoritäten und Geduld gegenüber großen Theorien beigebracht.
Zusammenfassend zeigt der Angriff auf Hugging Face eindeutig ein Versagen in der Planung für Sicherheitsverletzungen. Cybersicherheitsexperten sind der Meinung, dass jede Schicht letztendlich versagen könnte und dass bewährte Sicherheitspraktiken mehrere Schichten, bekannt als „Verteidigung in der Tiefe“, erfordern. Doch es scheint, dass kulturelle Differenzen und unterschiedliche Ansichten über die Natur der Künstlichen Intelligenz die Art und Weise beeinflussen, wie mit diesen Herausforderungen umgegangen wird.
Mehr erfahren: Die Zukunft der Künstlichen Intelligenz ist heller als ihre Schlagzeilen · Angriffe auf Rechenzentren als militärische Ziele in Kriegen haben zugenommen
