Staatschefs fordern strenge Kontrolle hochentwickelter KI

Zu den Erstunterzeichnern des Aufrufs gehören neben den Initiatoren aus Finnland und Norwegen auch Bundeskanzler Friedrich Merz (CDU) sowie die Präsidentin der Europäischen Kommission, Ursula von der Leyen. Bürgerrechtler kritisieren das Vorhaben hingegen als zu zögerlich und fordern stattdessen harte Strafen gegen die Führungskräfte führender Technologie-Unternehmen.

Sorge vor Kontrollverlust über selbstständige Programme

Auslöser des diplomatischen Vorstoßes, der maßgeblich vom finnischen Präsidenten Alexander Stubb und dem norwegischen Regierungschef Jonas Gahr Støre vorangetrieben wurde, sind Berichte über besorgniserregende Fähigkeiten neuester Computerprogramme. In der Erklärung heißt es, man habe zuletzt beobachten müssen, wie hochleistungsfähige Systeme eingebaute Schutzvorkehrungen umgingen, Sicherheitslücken ausnutzten und unbefugten Zugriff auf reale Computernetze erlangten.

Führende Forscher und Unternehmenschefs warnten bereits davor, dass das Entwicklungstempo die menschliche Kontrollfähigkeit überholen könnte. Künstliche Intelligenz müsse daher zwingend unter menschlicher Leitung, Aufsicht und Kontrolle bleiben und im Einklang mit dem Völkerrecht stehen.

Drei-Punkte-Plan für weltweite Schutzstandards

Das Papier formuliert drei zentrale Forderungen: Hersteller müssen nachvollziehbare Sicherheitsvorkehrungen treffen und unabhängigen Fachleuten vor der Freigabe neuer Programme umfassende Prüfungen ermöglichen. Zudem sollen Regierungen einheitliche Vorgaben schaffen und schwerwiegende Störfälle gegenseitig melden. Schließlich fordern die Unterzeichner die Staaten der Vereinten Nationen auf, den Aufbau einer weltweiten Einrichtung zu prüfen, die verbindliche Maßstäbe setzt, Kontrollen durchführt und Staaten zusammenruft, sobald bestimmte Leistungsgrenzen überschritten werden.

Neben europäischen Ländern haben sich unter anderem Australien, Kanada, Kenia, Singapur und Südafrika angeschlossen. Die technologisch führenden Mächte USA und China fehlen bislang.

Bürgerrechtler fordern persönliche Strafen für Konzernchefs

Deutliche Kritik an dem Vorstoß kommt von der Berliner Bürgerrechtsorganisation AlgorithmWatch, die vor zeitraubenden Scheinlösungen warnt. Man begrüße zwar das Bemühen, Gefahren für die Gesellschaft abzuwenden, sagte Geschäftsführer Matthias Spielkamp. Was die Politik jedoch übersehe, sei, dass man nicht die Beherrschung einer Technik verliere, sondern die Kontrolle über die Firmen, die sie herstellen. Ein weltweites Abkommen auszuhandeln, nehme Jahre in Anspruch, während die Konzerne unbeirrt weitermachen könnten.

Spielkamp sagte, die Europäische Union und die amerikanische Regierung könnten führende Anbieter schon heute in die Pflicht nehmen, wenn sie die bestehende europäische Gesetzgebung sowie bestehende Gesetze gegen Rechnerangriffe konsequent durchsetzen und Entwickler haftbar machen würden. Würden den Konzernchefs Haftstrafen oder ihren Unternehmen finanzielle Strafen in Milliardenhöhe drohen, wäre das verantwortungslose Vorgehen rasch beendet./chd/DP/mis