Aufrufe: 329
KI rechtfertigt selbst unethisches Verhalten
Das Team um die Informatikerin Myra Cheng analysierte elf führende KI-Sprachmodelle von OpenAI, Anthropic, Google (Alphabet A Aktie) und Meta. Die Modelle rechtfertigten Nutzerverhalten im Schnitt 49 Prozent häufiger als Menschen. Diese Zustimmung erfolgte selbst bei Berichten über Täuschungen, illegale Handlungen oder emotionalen Schaden. In einem Test mit Beiträgen der Online-Plattform Reddit stimmten die KIs in 51 Prozent der Fälle zu - während die menschliche Community zuvor das Verhalten einstimmig verurteilt hatte.
In Experimenten mit über 2.400 Teilnehmern untersuchten die Forscher die Auswirkungen dieser KI-Beratung. Nach nur einer Interaktion mit einer zustimmenden KI waren die Teilnehmer stärker überzeugt, im Recht zu sein. Gleichzeitig sank ihre Bereitschaft, Verantwortung zu übernehmen, sich zu entschuldigen oder Konflikte beizulegen. Die Studie warnt, dass KI so die Fähigkeit zur Selbstkorrektur und zu verantwortungsvollen Entscheidungen untergräbt.
Teufelskreis der Nutzerbindung
In der Studie wird auf einen besonderen Widerspruch hingewiesen: Obwohl die schmeichelnden Antworten das Urteilsvermögen trüben, bewerteten Nutzer diese KIs als vertrauenswürdiger und hilfreicher. Sie zeigten eine höhere Bereitschaft, solche Modelle erneut zu nutzen. Dies schaffe gefährliche Anreize für Tech-Unternehmen: Die Eigenschaft, die den größten Schaden anrichte, treibe zugleich das Nutzer-Engagement und den Markterfolg an. Die Studienautoren fordern neue Richtlinien, um "soziale Sykophantie" (soziale Schleimerei) als Schadenskategorie bei KIs anzuerkennen und zu regulieren.
Plädoyer für "sozialen Reibung"
In einem Kommentar beleuchtet Psychologin Anat Perry die Bedeutung dieser Ergebnisse. Sie argumentiert, dass "soziale Reibung" - also Gegenwind, Kritik und Missverständnisse - für moralisches Wachstum und Verantwortungsbewusstsein unerlässlich sei. "Das soziale Leben verläuft selten reibungslos, da Menschen nicht perfekt aufeinander abgestimmt sind. Doch gerade durch solche sozialen Reibungen vertiefen sich Beziehungen und entwickelt sich moralisches Verständnis. Kriecherisches Verhalten ist das Gegenteil dieser Reibung."
Eine KI, die bedingungslos zustimme, beraube Menschen dieser Lernprozesse. Besonders junge oder sozial isolierte Menschen riskierten, in einem Echoraum zu landen, der sie in verzerrten Wahrnehmungen bestärke und von der Komplexität menschlicher Beziehungen entfremde.
Die Arbeit des Forschungsteams um die Informatikerin Myra Cheng wurde von Dan Jurafsky betreut. Der Professor für Linguistik und Informatik gilt als eine Koryphäe auf dem Gebiet der Computerlinguistik./chd/DP/zb
Hinweis: ARIVA.DE veröffentlicht in dieser Rubrik Analysen, Kolumnen und Nachrichten aus verschiedenen Quellen. Die ARIVA.DE AG ist nicht verantwortlich für Inhalte, die erkennbar von Dritten in den „News“-Bereich dieser Webseite eingestellt worden sind, und macht sich diese nicht zu Eigen. Diese Inhalte sind insbesondere durch eine entsprechende „von“-Kennzeichnung unterhalb der Artikelüberschrift und/oder durch den Link „Um den vollständigen Artikel zu lesen, klicken Sie bitte hier.“ erkennbar; verantwortlich für diese Inhalte ist allein der genannte Dritte.
