IT-Experte: Wir kommen dem KI-GAU näher

Derzeit wird viel über die Sicherheit von KI-Systemen diskutiert. Er sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar (Dollarkurs) Schaden zu verursachen, schrieb etwa Dario Amodei, Chef des KI-Unternehmens Anthropic Amodei am Wochenende. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk.

Die Entwicklung vergleicht Kipker mit einem Kartenhaus: "Wir bauen immer höher, immer schneller das KI-Kartenhaus." Je mehr KI-Bestandteile in Systeme eingebaut würden, desto größer werde das Risiko - etwa in der Energieversorgung, in Logistik und Lieferketten, bei Finanzmarktinfrastrukturen und militärischen Waffensystemen.

Fielen KI-gesteuerte Systeme in kritischen Infrastrukturen aus, könne das "sofort Kaskadeneffekte für die Versorgungssicherheit der Bevölkerung nach sich ziehen". Zudem nutzten Cyberkriminelle die Fähigkeiten künstlicher Intelligenz zunehmend für Angriffe auf Staat und Verwaltung.

Kipker sagte auch, die EU sei lange für ihr KI-Gesetz belächelt worden, inzwischen könne sie in diesem Bereich "sogar Vorreiter geworden" sein. Als größter Binnenmarkt und großer Kunde von KI-Systemen könne die EU künftige Sicherheitsstandards prägen./mjm/DP/men