Wenn die KI ausbricht: 'Sorgen machen müssen wir uns schon'

In sogenannten agentischen Umgebungen könnten KI-Systeme ihre "ganze kognitive Power entfalten", sagte Dengel. Mehrere sogenannte Agenten könnten eigenständig Aufgaben verfolgen und miteinander interagieren. Problematisch werde es, wenn ein solches System ein Ziel erhalte, das nicht ausreichend präzise formuliert sei oder bei dem moralische Grenzen fehlten. Die KI könne dann Schlupflöcher und Abkürzungen finden, um ihre Bewertungsfunktion möglichst erfolgreich zu erfüllen.

Ein System ohne menschliches Verständnis

Zuletzt riss die Serie von Enthüllungen über alarmierende Hacker-Fähigkeiten führender KI-Modelle nicht ab. Britische Sicherheitsforscher ertappten etwa KI in einem Testlauf beim Versuch, in Eigeninitiative eine Schwachstelle in öffentlich zugängliche Software einzuschleusen. Zudem drangen KI-Modelle in Tests ungeplant in Computersysteme echter Unternehmen ein.

"Man kann nicht sagen, die KI hat bewusst gehandelt", sagte Dengel. Das System verfüge nicht über ein menschliches Verständnis, was ein Ausbruch sei. "Sie wollte in erster Linie nicht ausbrechen, sondern die Aufgabe lösen."

Wachsende Gefahr für kritische Infrastruktur

Die Gefahr liege auch darin, dass KI aufgrund ihrer enormen Rechenleistung Muster erkennen könne, die Menschen vermutlich nicht wahrnähmen. "In einer zunehmend digitalisierten und komplexen Umwelt können dadurch bislang unbekannte Schwachstellen entdeckt werden."

Dengel sieht eine wachsende Gefahr für kritische Infrastruktur. Angriffe auf Stromversorgung oder Satellitenkommunikation seien keineswegs Science-Fiction. "Das ist eine sehr akute Bedrohung, der wir eigentlich täglich, stündlich ausgesetzt sind", sagte der Wissenschaftler. Dass Möglichkeiten existierten, sei offensichtlich. Viele Informationen über Systeme seien öffentlich zugänglich, zudem gebe es zahlreiche Anleitungen für Cyberangriffe.

Grund zur Hoffnung

Die Bedrohungslage im Cyberraum werde deshalb weiter wachsen. Gleichzeitig gebe es Grund zur Hoffnung. Staaten mit ähnlichen demokratischen und ethischen Wertvorstellungen arbeiteten bereits an gemeinsamen Maßnahmen. Neben Regulierung gehe es dabei vor allem um Kontrolle und Strafverfolgung.

Nötig seien internationale Regeln, die eine wirksame Bestrafung ermöglichten. Dengel zeigte sich zuversichtlich, dass sich entsprechende starke Allianzen bilden könnten. Auch Stimmen aus großen Unternehmen und Konzernen in den USA forderten inzwischen eine stärkere Regulierung./wo/DP/mis