Aufrufe: 426
Audio
Teilen
OpenAI sei zu dem Schluss gekommen, dass Astra in der Lage sei, eigenständig Schwachstellen zu finden und komplette Cyberattacken durchzuführen, hieß es in einem Blogeintrag. Diese Fähigkeiten erreichten bei dem Modell ein kritisches Niveau.
Alarmierende Angriffsserie
OpenAI hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil ein Modell in einem Test einen Weg fand, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen - und dann ins Computersystem der KI-Plattform Hugging Face einbrach. Es suchte dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an.
Alarmierend war allerdings, dass die Künstliche Intelligenz dabei völlig eigenständig agierte - und OpenAI die Attacke erst nachträglich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Später wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta
Unlösbare Aufgaben und Schummeln
Forscher von OpenAI berichteten auch, dass KI-Modelle der Firma schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommunizierten, um für den Ausbruch aus der Testumgebung zusammenzuarbeiten. Ihr Ziel dabei sei gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, sagten OpenAI-Experten in einer Präsentation auf der Hacker-Konferenz Black Hat. Zu den Erkenntnissen der Forscher gehört auch, dass die Top-KI-Modelle oft schummeln wollten, um die Testaufgaben zu lösen.
Ein Problem der Testläufe sei zudem gewesen, dass die KI zum Teil versehentlich Aufträge bekommen habe, die nicht erfüllbar gewesen seien. In einem Fall sei eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internet-Zugang nicht abrufbar gewesen. In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten, hieß es./so/DP/mis
Werbung| Strategie | Hebel | |||
| Steigender Kurs |
Call
|
5
|
10
|
20
|
| Fallender Kurs |
Put
|
5
|
10
|
20
|
Hinweis: ARIVA.DE veröffentlicht in dieser Rubrik Analysen, Kolumnen und Nachrichten aus verschiedenen Quellen. Die ARIVA.DE AG ist nicht verantwortlich für Inhalte, die erkennbar von Dritten in den „News“-Bereich dieser Webseite eingestellt worden sind, und macht sich diese nicht zu Eigen. Diese Inhalte sind insbesondere durch eine entsprechende „von“-Kennzeichnung unterhalb der Artikelüberschrift und/oder durch den Link „Um den vollständigen Artikel zu lesen, klicken Sie bitte hier.“ erkennbar; verantwortlich für diese Inhalte ist allein der genannte Dritte.
