Ein neuer Bericht, der kürzlich veröffentlicht wurde, untersucht den Wettbewerb zwischen großen KI-Unternehmen zur Entwicklung von selbstverbessernder Künstlicher Intelligenz. Dieser Bericht, der von Gladstone AI erstellt wurde, analysiert die Risiken und Herausforderungen dieser Technologie in naher Zukunft. In den letzten Monaten haben die Unternehmen Anthropic und OpenAI gewarnt, dass Künstliche Intelligenz bald in der Lage sein könnte, sich selbst zu verbessern.
Risiken und Herausforderungen der selbstverbessernden Künstlichen Intelligenz
Dieser Wendepunkt, der als 'selbstverstärkende Verbesserung' oder RSI bekannt ist, könnte das Auftreten neuer KI-Fähigkeiten in einem beispiellosen Tempo bedeuten. Allerdings könnte das Auftreten von RSI für die Menschheit sehr gefährlich sein und könnte ein Zeichen für eine Phase sein, in der Entwickler die Kontrolle über KI-Systeme vollständig verlieren.
Mehr lesen: Europäische Datenschutzbehörden haben neue Gesetze für intelligente Brillen eingeführt
Der Bericht von Gladstone betont, dass KI-Unternehmen aktiv daran arbeiten, alle Phasen der KI-Entwicklung zu automatisieren. Dazu gehört die Generierung neuer Ideen, das Durchführen von Tests zur Bewertung dieser Ideen und die Interpretation der Ergebnisse. Die meisten Forscher, mit denen Gladstone gesprochen hat, glauben, dass RSI in naher Zukunft, in 3 bis 12 Monaten, beginnen könnte.
Bedeutung der Regulierung in der Entwicklung von Künstlicher Intelligenz
Die Manager von Gladstone haben das Ziel dieses Berichts als Förderung des Verständnisses der Gesetzgeber über die Funktionsweise von RSI und damit deren Fähigkeit zur Regulierung dieser Technologie bezeichnet. Jeremy Harris, CEO von Gladstone, hat erklärt, dass ihr Ziel darin besteht, das Konzept der selbstverstärkenden Verbesserung so zu definieren, dass die Menschen vernünftig darüber sprechen können, insbesondere in Washington. Er verwies auf gesetzgeberische Bemühungen, überlegene Künstliche Intelligenz zu verbieten, und forderte einen Fokus auf Prozesse, die regulierungsbedürftig sind.
Der Bericht bietet auch eine einfache Darstellung, wie der Forschungsprozess der Künstlichen Intelligenz innerhalb von Unternehmen funktioniert, und erklärt, wie diese Unternehmen schrittweise diesen Prozess automatisieren. In der ersten Phase des Trainings von KI-Modellen, die als Vortraining bekannt ist, liegt der Fokus darauf, Wege zu finden, die Intelligenz des Modells mit weniger Rechenleistung zu steigern.
Künstliche Intelligenz-Unternehmen verwenden einen Portfolioansatz, um diese Ideen zu testen. Forscher weisen jeder Idee eine kleine Menge Rechenleistung zu und nutzen diese, um eine Reihe von Modellen zu trainieren. Modelle, die zuverlässig besser abschneiden, werden für eine weitere Trainingsrunde ausgewählt, in der mehr Rechenleistung verwendet wird.
Aufgrund von Rechenleistungsbeschränkungen können Unternehmen nicht alle vielversprechenden Ideen in größerem Maßstab testen. Das bedeutet, dass selbst wenn KI-Unternehmen ein Modell trainieren können, das in der Lage ist, vielversprechende Ideen zu generieren, es wichtig ist, dass mehrere schlechte Ideen gleichzeitig produziert werden. Wenn Unternehmen viel Zeit und Rechenleistung darauf verwenden müssen, gute von schlechten Ideen zu filtern, wäre es sinnvoll, weiterhin auf menschliche Forscher mit gutem Instinkt angewiesen zu sein.
Im Gegensatz dazu können KI-Unternehmen mit Zugang zu mehr Rechenleistung mehr Ideen testen, was ihnen helfen könnte, schneller zu RSI zu gelangen. Mit mehr Rechenleistung für Tests haben Unternehmen eine höhere Wahrscheinlichkeit, Ideen zu finden, die laut dem Bericht von Gladstone die seltensten und begehrtesten Ideen sind: Ideen, die mit zunehmender Rechenleistung besser abschneiden, auch wenn sie in kleineren Maßstäben erfolglos erscheinen.
In der Lage zu sein, zu erkennen, wann diese Ideen gefunden werden, und insbesondere, ob Künstliche Intelligenz dabei hilft oder nicht, ist "ein wesentlicher Teil dieses Prozesses, über den die Gesetzgeber derzeit praktisch keine Einsicht haben", sagt Jeremy Harris. Eine der Eigenschaften, die die Regulierung von RSI schwierig macht, ist die schrittweise Natur dieses Prozesses. Edward Harris sagt: "Das ist einer der Gründe, warum wir es so genau beschrieben haben, um die Möglichkeit zu schaffen, auf einen Teil dieses Prozesses zu verweisen und zu sagen, dass ein Mensch dort sein sollte."
Mehr lesen: Europa zieht sich aus dem Wettbewerb um fortschrittliche Künstliche Intelligenz zurück · Kroger entlässt dreitausend Verwaltungsmitarbeiter aufgrund des Anstiegs der Nutzung von Künstlicher Intelligenz
