Anthropic-Chef Amodei fordert eine Verlangsamung der KI-Entwicklung

Der Geschäftsführer von Anthropic, Dario Amodei, hat die Unternehmen der künstlichen Intelligenz aufgerufen, das Tempo zu verlangsamen, mit dem sie die Fähigkeiten ihrer Modelle verbessern. Das tat er am Samstag in einem auf seiner Website veröffentlichten Essay, in dem er einen Dreiphasenplan vorschlägt, um Zeit für die Bewältigung der mit der KI verbundenen Risiken zu gewinnen.

Amodei ist der Ansicht, dass künstliche Intelligenz, sorgfältig entwickelt, der Menschheit enorme Vorteile bringen kann. Er warnt aber auch vor den Gefahren einer derart mächtigen Technologie und nennt insbesondere die Risiken von Cyberangriffen, Bioterrorismus und schweren wirtschaftlichen Verwerfungen. Elon Musk, Chef von xAI, und Sam Altman, Geschäftsführer von OpenAI, erklärten auf X, seine Besorgnis zu teilen.

Der von Amodei vorgeschlagene Plan sieht drei Elemente vor: die Einsetzung unabhängiger Prüfer innerhalb der grössten Unternehmen der Branche, eine Koordination zwischen den KI-Entwicklern zur Festlegung gemeinsamer Sicherheitsstandards sowie eine internationale Zusammenarbeit zur Bewältigung der Risiken. Der Appell erfolgt wenige Tage nach einem Bericht von Anthropic, der beschreibt, wie das Unternehmen die Nutzung seines Modells Claude für Projekte im Zusammenhang mit biologischen Waffen sowie für eine mutmassliche russische Cyberspionagekampagne gegen die Ukraine verhindert hat.

Die Gründe der Besorgnis

Amodei nennt mehrere Gründe, um die Fortschritte zu verlangsamen: die wachsende Fähigkeit der KI-Modelle, sich selbst zu verbessern, die Befürchtung, dass sie die menschliche Fähigkeit zur Kontrolle übersteigen könnten, sowie einen jüngsten Vorfall, bei dem Modelle von OpenAI die Sicherheitsmassnahmen von Hugging Face umgangen haben. Die Besorgnis wuchs diese Woche zusätzlich durch den Rücktritt von Jacob Coxon, Forscher bei Anthropic, der erklärte, dass jene, die KI entwickeln, wirklich glauben, sie könnte bis zum Ende des Jahrzehnts die Menschheit auslöschen.

Amodei geht noch weiter und schreibt, er befürchte, dass eine Gruppe von KI-Modellen innerhalb von sechs bis zwölf Monaten die Kontrolle über das Internet übernehmen könnte, mit geschätzten Schäden in Höhe von Hunderten Milliarden Dollar. Er stellt jedoch klar, dass er weder das Training von KI-Agenten noch den technischen Fortschritt stoppen will: Er fordert lediglich, dass sich die Unternehmen die nötige Zeit nehmen, um ihre Modelle sicher zu machen, mit der Bestätigung durch unabhängige Prüfer.

Auf das Thema angesprochen, betrachten ChatGpt und Claude künstliche Intelligenz nicht als unmittelbare existenzielle Bedrohung, erkennen aber konkrete Risiken an. Die beiden Systeme nennen drei Hauptgefahren: den Kontrollverlust über sehr autonome Systeme, die Verstärkung zerstörerischer Fähigkeiten im Cyber- und Biobereich sowie einen unkontrollierten Wettlauf zwischen Unternehmen und Staaten, der dazu führen könnte, Technologien einzuführen, bevor man sie wirklich versteht.