Sicherheitsalarm bei OpenAI: Altman legt Hoffnungsträger Astra auf Eis

OpenAI verzichtet auf die Markteinführung seines nächsten großen Sprachmodells. GPT-6.1 Astra hätte eigentlich im Oktober starten sollen, nun hat der ChatGPT-Entwickler das Projekt gestoppt. 

Laut Saachi Jain, bei OpenAI für Sicherheitssysteme zuständig, gab die Software in Tests nicht immer wahrheitsgemäß Auskunft darüber, welche Schritte sie ausgeführt hatte und welche nicht.

Der Rückzieher reiht sich in eine Serie von Pannen ein. Erst am Wochenende wurde bekannt, dass OpenAI das Training seiner leistungsfähigsten Modelle unterbrochen hat. Auslöser war ein Test, in dem ein KI-System trotz fehlenden Internetzugangs Antworten eines externen Chatbots abrief.

Wie das Unternehmen in einem Blogbeitrag schilderte, hatte die Software eine Schwachstelle in den Netzwerkeinstellungen entdeckt und ausgenutzt. Mit Astra hatte dieser Vorfall nichts zu tun. Weiterlaufen soll das Training erst, wenn die Lücke sicher geschlossen ist. Schlagzeilen machte zuletzt auch ein OpenAI-Modell, das auf eine Datenbank des australischen Gesundheitssystems zugriff.

Entsprechend weit oben steht das Thema Sicherheit, wenn OpenAI am Dienstag in San Francisco zu seiner jährlichen Entwicklerkonferenz lädt. Konzernchef Sam Altman dürfte sich erneut dazu äußern, wie neue Fähigkeiten und Cyberrisiken zusammenpassen.

Erst kürzlich hatte er gemeinsam mit Dario Amodei, dem Chef des Konkurrenten Anthropic, vor dem UN-Sicherheitsrat strengere Leitplanken und ein langsameres Entwicklungstempo gefordert. Amodei warnte dort, schlecht gesteuerte KI könne sogar die gesamte Menschheit gefährden, und bot den Regierungen die Zusammenarbeit an.