Aufrufe: 176
Audio
Teilen
Zuvor hatte die EU-Kommission zwar bestätigt, Auskunftsersuchen an mehr als 30 KI-Firmen gesendet zu haben, aber keine konkreten Unternehmen genannt. Neben Bedenken wegen möglicher Urheberrechtsverletzungen geht es dabei auch um Sicherheitsrisiken. Eigenständige Hacking-Attacken durch KI-Modelle hatten die Sorgen um Gefahren Künstlicher Intelligenz zuletzt hochkochen lassen.
EU-Digitalchefin warnt vor Terroristen mit KI-Modellen
Sowohl OpenAI als auch Anthropic hatten einräumen müssen, dass ihre Software in Testläufen ungeplant andere Unternehmen angegriffen hatte. Einige Branchenvertreter selbst warnten, man könne nicht ganz ausschließen, dass KI in der Zukunft die Menschheit auslösche.
EU-Digitalchefin Virkkunen sagte nun, solche Aussagen könnten Teil des Marketings sein. "Aber wenn ein Unternehmen sagt, dass sein System sehr gefährlich ist, sollte es dieses meiner Meinung nach natürlich nicht auf den Markt bringen."
Der weltweite Wettbewerb sei hart, und einige Unternehmen stünden unter Druck. Es bestehe eindeutig die Gefahr, dass diese Unternehmen Produkte auf den Markt brächten, die sie nicht ausreichend getestet hätten, sagte die finnische Politikerin. "Derzeit konzentrieren sich die Risiken hauptsächlich auf den Bereich der Cybersicherheit", sagte Virkkunen.
Sie warnte jedoch vor schwerwiegenderen Risiken in der Zukunft, etwa die Möglichkeit, dass hochleistungsfähige KI-Modelle zur Entwicklung biologischer Waffen eingesetzt werden oder in die Hände von Terroristen gelangen könnten.
Brüsseler Behörde kontrolliert große Modelle
Das KI-Amt der EU-Kommission in Brüssel prüft seit August, ob große Modelle ausreichend kontrolliert werden und keine Cyberangriffe auf eigene Faust ausführen. Die Tech-Konzerne müssen entsprechende Sicherheitsvorkehrungen treffen und etwaige Zwischenfälle sofort der EU melden.
Bei Verstößen gegen das KI-Gesetz drohen empfindliche Strafen. Wenn etwa Sicherheitsvorkehrungen mangelhaft sind, können bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes fällig werden - abhängig davon, welcher Betrag höher ist./tre/DP/he
Hinweis: ARIVA.DE veröffentlicht in dieser Rubrik Analysen, Kolumnen und Nachrichten aus verschiedenen Quellen. Die ARIVA.DE AG ist nicht verantwortlich für Inhalte, die erkennbar von Dritten in den „News“-Bereich dieser Webseite eingestellt worden sind, und macht sich diese nicht zu Eigen. Diese Inhalte sind insbesondere durch eine entsprechende „von“-Kennzeichnung unterhalb der Artikelüberschrift und/oder durch den Link „Um den vollständigen Artikel zu lesen, klicken Sie bitte hier.“ erkennbar; verantwortlich für diese Inhalte ist allein der genannte Dritte.
