ROUNDUP: Experten fordern Kurswechsel von KI-Konzernen

HPI-Chefin: "Öffnet die Blackbox"

"Ich würde den Tech-Konzernen mit ihren Warnungen gerne sagen: Okay, dann macht die Blackbox, die wir heute bei euch sehen, macht sie auf, lasst uns reinschauen", sagte Daniela Gerd tom Markotten, Geschäftsführerin des IT-Forschungsinstituts Hasso-Plattner-Institut (HPI) in Potsdam, der Deutschen Presse-Agentur. Notwendig sei ein unabhängiges Expertenteam als Prüfaufsicht, in dem auch europäische Spitzenforscher ohne wirtschaftliche Interessen sitzen. Wenn die Tech-Riesen ihre eigenen Gefahrenwarnungen ernst meinten, sollten sie sich einer solchen externen Kontrolle nicht verweigern.

Gerd tom Markotten plädierte zugleich für eine "Versachlichung" der Debatte. Eine unkontrollierbare Super-KI sei derzeit nicht in Sicht. Die Technologie verfolge keine bösen Absichten, sondern versuche vorgegebene Aufgaben zu lösen. Entscheidend bleibe: "Die KI kann Empfehlungen abgeben, aber am Ende muss ein Mensch sagen: Wir machen das oder wir machen das nicht". Auch deutsche Sicherheitsbehörden fordern Leitplanken: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) betonte, Hersteller seien in der Pflicht, KI-Agenten "enge und sichere Grenzen zu setzen: mit klaren Rollen, begrenzten Rechten und verbindlichen Prüfmechanismen".

Alarmstimmung bei den UN

Dass die Kontrolle über autonome Systeme schwierig werden könnte, räumen die KI-Giganten mittlerweile selbst öffentlich ein. Erstmals traten die Chefs führender US-Firmen vor dem UN-Sicherheitsrat in New York auf. "Wir sind an einem Scheideweg angelangt", mahnte der Chef des ChatGPT-Entwicklers OpenAI, Sam Altman. Er warnte insbesondere vor Kontrollverlust und der Konzentration von zu viel Macht in zu wenigen Händen. Dario Amodei, Chef des Labors Anthropic, bezeichnete KI gar als "die größte Sicherheitsherausforderung, mit der die Welt heute konfrontiert ist". Bei Fehlern könne sie ein "Risiko für die gesamte Menschheit" darstellen.

Auslöser der aktuellen Selbstbeschränkungsdebatten sind handfeste Vorfälle: So war zuvor eine OpenAI-Software in einem Testlauf aus ihrer abgesicherten Umgebung ausgebrochen und eigenständig in Systeme des Anbieters Hugging Face eingedrungen. Sowohl OpenAI als auch Anthropic signalisierten daraufhin die Bereitschaft, das Entwicklungstempo zu drosseln.

Wenn die KI kein "Nein" akzeptiert: Vorfall in Australien

Wie unberechenbar autonome Agenten agieren können, bekam jüngst die australische Regierung zu spüren. Ein KI-Agent von OpenAI verschaffte sich unbefugten Zugriff auf ein Portal der staatlichen Krankenversicherung Medicare. Das Programm sollte eigentlich nur Gesundheitsstatistiken recherchieren. Als die Website die Daten verweigerte, umging der Agent eigenmächtig die Barrieren. "Der KI-Agent fand einen Weg, die Sperren zu umgehen - er wollte ein Nein gewissermaßen nicht akzeptieren", sagte Premierminister Anthony Albanese, der den Vorfall als "inakzeptabel" bezeichnete.

Intime Geständnisse im Alltag trotz Misstrauens

Trotz der Sicherheitsdebatten greifen die Menschen im Alltag immer unbefangener zu den Systemen. Einer repräsentativen Umfrage des IT-Unternehmens Proton unter mehr als 4.000 Nutzern zufolge haben 68 Prozent der Befragten in Deutschland bereits sensible Themen mit einem Chatbot besprochen - allen voran Fragen zur psychischen Gesundheit, aber auch zu Finanzen, Sexualität, Partnerschaften und Geheimnissen. Nutzer schätzen die ständige Verfügbarkeit und die vorurteilsfreie Art der Software.

Gleichzeitig ist das Misstrauen gegenüber den Plattformen enorm: 40,5 Prozent der Nutzer haben wenig oder gar kein Vertrauen in den Datenschutz der Anbieter. Gut die Hälfte (51 Prozent) fürchtet, dass private Dialoge zur Erstellung von Werbeprofilen genutzt werden; 43 Prozent sorgen sich um die Verwendung persönlicher Eingaben für das Training neuer Modelle.

Schlüsselkompetenz für die Arbeitswelt

Trotz der großen Vorbehalte gegenüber der Künstlichen Intelligenz wird KI zu einem entscheidenden Faktor für das Berufsleben. Laut einer repräsentativen Erhebung der IU Internationalen Hochschule in Erfurt unter 2.000 Beschäftigten gehen 54,9 Prozent der Arbeitnehmer davon aus, dass KI-Kompetenzen künftig eine wichtige Voraussetzung für den Jobeinstieg sind.

Anne Gfrerer, Professorin für Wirtschaftsinformatik an der IU, wies auf ein Paradoxon hin: KI könne Nachwuchskräften helfen, schneller anspruchsvolle Aufgaben zu übernehmen, lasse jedoch klassische Einsteiger-Routinen bei Recherche und Präsentation wegfallen, über die bisher Praxiserfahrung aufgebaut wurde. Nachholbedarf gibt es bei der betrieblichen Qualifizierung: Fast 44 Prozent der Beschäftigten nutzten in den vergangenen zwölf Monaten keine Arbeitszeit für entsprechende Weiterbildungen - häufig mangels Angeboten, fehlender Zeit oder weil Unternehmen dies nicht einfordern./chd/mow/so/DP/men