Aufrufe: 247
Audio
Teilen
Alarmierende Angriffe
OpenAI hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil ein KI-Modell in einem Test einen Weg gefunden hatte, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen - und dann ins Computersystem der KI-Plattform Hugging Face einbrach. Nach allem, was bekannt ist, suchte es dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an. Dabei nutzte die KI von OpenAI anscheinend eine ganze Reihe von Schwachstellen aus, die zum Teil noch unbekannt waren.
Alarmierend war vor allem, dass die Künstliche Intelligenz dabei völlig eigenständig agierte - und OpenAI die Attacke erst nachträglich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Später wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta
Großer Aufwand
Die Überwachung der Tests ist für OpenAI mit erheblichem Rechenaufwand - und damit auch hohen Kosten - verbunden. Die Firma schätzt, dass dafür noch einmal etwa ein Fünftel so viel Computer-Leistung notwendig sein wird wie für den Betrieb der beobachteten KI-Modelle.
Die automatisierten Überwachungssysteme sollen künftig unter anderem nach Versuchen von Datendiebstahl Ausschau halten - sowie nach Anläufen, Sicherheitsvorkehrungen zu durchbrechen. Außerdem sollen die KI-Modelle stärker darauf ausgerichtet werden, nicht zu unlauteren Mitteln wie der Ausnutzung von Schwachstellen zu greifen, um Testaufgaben zu erfüllen. Einige Tests neuer Modelle wurden ausgesetzt, bis die neuen Maßnahmen durchgängig umgesetzt werden.
Chance auf mehr Sicherheit?
OpenAI-Topmanager Greg Brockman betonte zugleich, die Fähigkeiten neuer KI-Modelle, Schwachstellen aufzuspüren, seien ein großer Gewinn für die Abwehr von Cyberattacken. Damit könne man das Internet sicherer denn je machen, schrieb er in einem Blogeintrag. Doch es bleibe ein "Katz-und-Maus-Spiel": Auch Angreifer könnten mit Hilfe von KI bisher schlummernde Sicherheitslücken finden. Auf seiner privaten Webseite habe ein öffentlich zugängliches ChatGPT-Modell 13 Schwachstellen gefunden - und binnen einer Stunde schließen können, schrieb Brockman./so/DP/zb
Werbung| Strategie | Hebel | |||
| Steigender Kurs |
Call
|
5
|
10
|
20
|
| Fallender Kurs |
Put
|
5
|
10
|
20
|
Hinweis: ARIVA.DE veröffentlicht in dieser Rubrik Analysen, Kolumnen und Nachrichten aus verschiedenen Quellen. Die ARIVA.DE AG ist nicht verantwortlich für Inhalte, die erkennbar von Dritten in den „News“-Bereich dieser Webseite eingestellt worden sind, und macht sich diese nicht zu Eigen. Diese Inhalte sind insbesondere durch eine entsprechende „von“-Kennzeichnung unterhalb der Artikelüberschrift und/oder durch den Link „Um den vollständigen Artikel zu lesen, klicken Sie bitte hier.“ erkennbar; verantwortlich für diese Inhalte ist allein der genannte Dritte.
