Aufrufe: 467
Audio
Teilen
"Dazu sollte ein unabhängiges Expertenteam als Prüfaufsicht eingerichtet werden und Europas Spitzenforscher mit am Tisch sitzen." Wenn die Tech-Konzerne ihre Warnungen ernst meinten, sollten sie auch nichts dagegen haben, solche Experten dazuzuholen, so Gerd tom Markotten.
HPI-Managerin: Zugang zu Modellen bekommen
Die Gutachter - Wissenschaftler ohne wirtschaftliches Interesse - sollten Zugang zu allen Daten und Modellen haben. "Das wäre ein Lösungsvorschlag." Wenn die Tech-Konzerne selbst dafür Unternehmen beauftragten, "können wir nicht sicher sein, dass die relevanten Informationen zu uns durchdringen", meint Gerd tom Markotten.
Die 51-Jährige war Vorständin bei der Deutschen Bahn für Digitalisierung und Technik und Daimler-Managerin. Seit August ist die promovierte Wirtschaftsingenieurin Geschäftsführerin am Hasso-Plattner-Institut, das seine KI-Forschung weiter ausbauen will.
Untergangsszenarien lösen Verunsicherung aus
Zuletzt hatten nach eigenständigen Hacking-Attacken durch KI-Software führende Labore in den USA wie Anthropic und der ChatGPT-Entwickler OpenAI sich dafür ausgesprochen, die Entwicklung Künstlicher Intelligenz zu bremsen. Sie sehen das Risiko, dass die Technologie der Kontrolle durch Menschen entgleiten könnte.
"Die Verunsicherung, insbesondere in der Bevölkerung, muss man aus unserer Sicht ernst nehmen", sagt Gerd tom Markotten. Es sei deshalb der sinnvollste Weg, dafür zu sorgen, diese Technologie zu erklären und sie transparent zu machen. "Einbremsen lässt sich die Technologie nur schwer, aber begleiten."
Das Bundesdigitalministerium verwies angesichts von Bedrohungsszenarien auf das neu gegründete nationale KI-Sicherheitsinstitut, das sicherheitsrelevante Risiken mit Blick auf KI frühzeitig identifizieren soll. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) teilte mit: "Hersteller von KI-Modellen sind aus Sicht des BSI in der Pflicht, KI-Agenten enge und sichere Grenzen zu setzen: mit klaren Rollen, begrenzten Rechten und verbindlichen Prüfmechanismen."
Managerin: Unkontrollierbare Super-KI nicht in Sicht
Die Managerin warnt vor Alarmismus und plädiert für eine "Versachlichung" der Debatte. "Eine Super-KI, die unkontrollierbar ist, ist im Moment nicht in Sicht." Die Technologie an sich sei erst einmal neutral und verfolge selbst keine bösen Absichten. "Sie versucht ein Problem zu lösen, eine Aufgabe, die ihr übertragen wurde."
Entscheidend sei, dass der Mensch in kritischen Situationen die letztendliche Entscheidung treffe. "Die KI kann Empfehlungen abgeben, aber am Ende muss ein Mensch sagen: wir machen das oder wir machen das nicht." Die KI müsse ein Werkzeug bleiben, das den Menschen diene./mow/DP/zb
Werbung| Strategie | Hebel | |||
| Steigender Kurs |
Call
|
5
|
10
|
20
|
| Fallender Kurs |
Put
|
5
|
10
|
20
|
Hinweis: ARIVA.DE veröffentlicht in dieser Rubrik Analysen, Kolumnen und Nachrichten aus verschiedenen Quellen. Die ARIVA.DE AG ist nicht verantwortlich für Inhalte, die erkennbar von Dritten in den „News“-Bereich dieser Webseite eingestellt worden sind, und macht sich diese nicht zu Eigen. Diese Inhalte sind insbesondere durch eine entsprechende „von“-Kennzeichnung unterhalb der Artikelüberschrift und/oder durch den Link „Um den vollständigen Artikel zu lesen, klicken Sie bitte hier.“ erkennbar; verantwortlich für diese Inhalte ist allein der genannte Dritte.
