ERFURT (dpa-AFX) - Thüringens Verfassungsschutzpräsident Stephan Kramer hat vor erheblichen Gefahren durch das KI-Modell "Mythos" der US-Firma Anthropic gewarnt."Mythos senkt die Hürde für offensive Cyberoperationen, weil es Schwachstellen schnell finden und teils ausnutzen kann", sagte Kramer dem "Handelsblatt". Das sei gefährlich, wenn Kriminelle oder staatliche Akteure Zugriff erhielten. Als besonders kritisch bezeichnete Kramer demnach Berichte, wonach "Mythos" in Tests "eine komplexe 32-Schritt-Cyberangriffssimulation teilweise autonom" bewältigt habe.
Für Europa müssten Finanzaufsicht, Cyberabwehr, Nachrichtendienste und Betreiber kritischer Infrastrukturen solche Modelle als "strategische Risikotechnologie" behandeln, mahnte Kramer. Riskante KI-Modelle sollten erst nach umfassenden Sicherheitsprüfungen, Lizenzverfahren und sogenannten Red-Teaming-Tests freigegeben werden. Auch forderte Kramer klare Haftungsregeln für Anbieter sowie eine engere Zusammenarbeit europäischer Aufsichtsbehörden.
Im April hatte bereits Bundesbank-Präsident Joachim Nagel vor Risiken durch "Mythos" gewarnt. "Mythos ist ein KI-Modell, das offenbar in der Lage ist, Sicherheitslücken in der Software von Finanzinstituten schnell zu identifizieren und auszunutzen", so Nagel. Das scheine ein zweischneidiges Schwert zu sein, da es nicht nur zur Verbesserung digitaler Sicherheitssysteme, sondern auch zur Ausnutzung ihrer Schwachstellen für böswillige Zwecke genutzt werden könne. "Wir müssen den Missbrauch dieser Technologie verhindern." Zugleich müssten alle relevanten Institutionen Zugang zu der Technologie haben, um Wettbewerbsverzerrungen zu vermeiden./hum/DP/mis
Hinweis:
ARIVA.DE veröffentlicht in dieser Rubrik Analysen, Kolumnen und Nachrichten aus verschiedenen Quellen.
Die ARIVA.DE AG ist nicht verantwortlich für Inhalte, die erkennbar von Dritten in den „News“-Bereich
dieser Webseite eingestellt worden sind, und macht sich diese nicht zu Eigen. Diese Inhalte sind insbesondere durch
eine entsprechende „von“-Kennzeichnung unterhalb der Artikelüberschrift und/oder durch den Link
„Um den vollständigen Artikel zu lesen, klicken Sie bitte hier.“ erkennbar; verantwortlich für
diese Inhalte ist allein der genannte Dritte.