Aufrufe: 99
Audio
Teilen
Demnach entwickeln sich die technischen Voraussetzungen für sogenannte Unstoppable Autonomous Agents (UAAs) “rasant”. Die Agenten könnten eigenständig Kryptowährungen verwalten, Social-Media-Konten steuern, Programmierschnittstellen nutzen und Transaktionen ausführen. Die dafür notwendigen Fähigkeiten würden “sich schnell verbessern”.
Die Studie warnt vor diesem Hintergrund vor der Fähigkeit von KI-Modellen, sich selbst zu vervielfältigen. In Testumgebungen hätten Systeme bereits eigenständig Kopien von sich selbst erstellt, wodurch sie “einer Abschaltung entgehen und sich weiter verbreiten” können. Bislang sei eine solche Selbstreplikation außerhalb kontrollierter Umgebungen jedoch nicht nachgewiesen worden.
Insbesondere die Verbindung von Künstlicher Intelligenz und Kryptowährungen sehen die Forscher als potenziellen Risikofaktor. Zwar könnten Krypto-Anwendungen laut der Studie die Grundlage für “sichere, zuverlässige und hochautonome Systeme” schaffen. Jedoch könne diese Entwicklung “weitreichende Folgen für Nutzer und das Finanzsystem” haben.
KI-gestützte Handelssysteme könnten demnach “Absprachen zwischen autonomen Agenten ermöglichen und durch undurchsichtige Strategien unfaire Informationsvorteile schaffen”, heißt es. “Die Schäden, die von vollständig autonomen Agenten dieser Art ausgehen könnten, sind erheblich”. Die Wissenschaftler fordern daher bessere Schutzvorkehrungen.
Hinweis: ARIVA.DE veröffentlicht in dieser Rubrik Analysen, Kolumnen und Nachrichten aus verschiedenen Quellen. Die ARIVA.DE AG ist nicht verantwortlich für Inhalte, die erkennbar von Dritten in den „News“-Bereich dieser Webseite eingestellt worden sind, und macht sich diese nicht zu Eigen. Diese Inhalte sind insbesondere durch eine entsprechende „von“-Kennzeichnung unterhalb der Artikelüberschrift und/oder durch den Link „Um den vollständigen Artikel zu lesen, klicken Sie bitte hier.“ erkennbar; verantwortlich für diese Inhalte ist allein der genannte Dritte.
