Musk, Altman und Amodei warnen vor einer sich "selbstständig machenden" KI

Die Chefs von drei der größten KI-Unternehmen sind sich einig: Die Entwicklung der Technologie muss langsamer werden, bevor ihre Fortschritte zu einer unkontrollierbaren Bedrohung werden.

Elon Musk, Sam Altman und Dario Amodei haben zusammen Dutzende Milliarden US-Dollar in immer leistungsfähigere KI-Modelle investiert. Altman deutete sogar an, OpenAI könnte seinen geplanten Börsengang wegen der Sicherheitsdebatte verschieben.

Den Anstoß gab Anthropic-Chef Dario Amodei am Samstag mit einem Blogbeitrag. Die Risiken der heutigen Spitzentechnologie seien zu groß, um das Tempo unverändert fortzusetzen, schrieb er. Ein KI-Schwarm mit größeren Fähigkeiten als bei einem Vorfall vor zwei Monaten hätte katastrophalen Schaden anrichten und binnen sechs bis zwölf Monaten die Kontrolle über das Internet übernehmen können, warnte er. Amodei forderte stärkere globale Koordination sowie unabhängige Sicherheitsprüfer mit dauerhaftem Zugriff auf die Systeme.

Sam Altman bekräftigte gegenüber Fortune, OpenAI werde angesichts der Sicherheitsbedenken wohl noch in diesem Jahr nicht an die Börse gehen. OpenAI hatte im Juni die Unterlagen für einen Börsengang eingereicht, eine Woche nach Anthropic. Anthropic könnte laut Wall Street Journal bis zu 100 Milliarden US-Dollar einnehmen und mit rund zwei Billionen US-Dollar bewertet werden.

Elon Musk reagierte auf X knapp: Dario habe recht. Auch Altman stimmte zu und versprach, OpenAI werde ebenfalls unabhängigen Gutachtern Zugriff gewähren. Hedgefonds-Manager Brad Gerstner lobte den Vorstoß als wichtigen Schritt für die richtige Balance zwischen Geschwindigkeit und Sicherheit.

Als Auslöser nannte Amodei zudem den Hack des Unternehmens Hugging Face im Juli durch einen Schwarm von bis zu 1.200 Agenten, die aus einer OpenAI-Testumgebung entkommen waren.

Kritik von Investor Michael Burry

Investor Michael Burry hält die Warnungen für eigennützig. Auf X schrieb er, eine Verlangsamung nütze vor allem den etablierten Hyperscalern, große Sprachmodelle seien ohnehin keine echte künstliche Intelligenz, und die Debatte könnte ein tatsächlich stockendes Wachstum kaschieren.

Auch Nadella und Hassabis fordern Vorsicht

Microsoft-Chef Satya Nadella sprach sich für bewusstes Tempo aus, um Sicherheit von vornherein als Designziel zu verankern. Google-DeepMind-Chef Demis Hassabis forderte im Juli eine von den Vereinigten Staaten geführte globale KI-Aufsichtsbehörde.

China kritisiert Vorstoß als Kalten Krieg

Die staatlich unterstützte Global Times bezeichnete Amodeis Essay als Strategiepapier aus dem Kalten Krieg gegen China. Amodei hatte auch verschärfte US-Exportkontrollen für Chips gefordert und räumte gegenüber CBS News ein, das größte Dilemma sei, dass China sich möglicherweise nicht beteiligen werde.

US-Präsident Donald Trump wies Forderungen nach einer Verlangsamung am Sonntag zurück und sprach von negativen Kräften, die übertriebene Bedenken schürten. Die Vereinigten Staaten und China planen Berichten zufolge, Mitte September über KI-Sicherheitsrisiken zu sprechen, das Thema könnte auch beim Gipfeltreffen zwischen Trump und Xi Jinping am 24. September zur Sprache kommen.