Neue Regeln sollen Musks KI-Chatbot bremsen

Elon Musks KI-Chatbot Grok, der in letzter Zeit für Aufsehen sorgte, steht nun unter strenger Beobachtung. Der Chatbot, der in der Lage ist, Bilder von Personen zu erzeugen, hat kürzlich für Empörung gesorgt, als schockierende und gewaltverherrlichende Darstellungen von Politikern und Prominenten im Netz kursierten. Diese Bilder, die unter anderem Personen beim Drogenkonsum oder im Umgang mit Waffen zeigten, führten zu massiver Kritik und riefen Forderungen nach strengeren Regulierungen hervor.

Der Ursprung der Technologie, die von Grok zur Bilderzeugung verwendet wird, liegt bei dem deutschen Startup Black Forrest Labs. Musks Firma xAI, die den Chatbot betreibt, nutzt dabei das KI-Modell FLUX.1, das von Black Forrest Labs entwickelt wurde. Während Musks Team an einer eigenen Bilderzeugungssoftware arbeitet, die noch mehrere Monate bis zur Fertigstellung benötigen soll, bleibt FLUX.1 das Herzstück der derzeitigen Funktionalitäten von Grok.

Bislang schien es kaum Einschränkungen in der Bilderzeugung durch Grok zu geben. Dies steht im Gegensatz zu anderen bekannten KI-Systemen wie OpenAIs DALL-E oder Googles Imagen, die strenge Leitplanken haben, um die Erzeugung problematischer Inhalte zu verhindern. Doch nun wurden Maßnahmen ergriffen, um Grok in seine Schranken zu weisen. Es ist ab sofort nicht mehr möglich, Bilder von Personen in gewaltverherrlichenden oder illegalen Kontexten zu erzeugen.

Elon Musk selbst äußerte sich über die Einschränkungen zurückhaltend und bezeichnete sie als unnötige Zensur. Auf X, der Social-Media-Plattform, die früher unter dem Namen Twitter bekannt war, schrieb er am Donnerstag, dass die Leute mit der Software "ein bisschen Spaß" haben sollten. Weitere Stellungnahmen von xAI blieben jedoch aus.

Besonders in den USA, wo die Präsidentenwahl im November bevorsteht, wächst die Sorge vor KI-generierten Fälschungen, die die öffentliche Meinung manipulieren könnten. Diese Bedenken sind nicht unbegründet, da die von Grok erzeugten Bilder oft fotorealistische Qualität aufweisen, aber ebenso übertriebene karikaturhafte Züge annehmen können.

Zusätzlich zu den politischen und ethischen Problemen, die durch die Bilderzeugung entstehen, drohen auch rechtliche Auseinandersetzungen. Insbesondere urheberrechtlich geschützte Figuren, wie Disneys Micky Maus, die in solchen Bildern auftauchen könnten, rufen Anwälte auf den Plan. Dies verstärkt die Skepsis großer Werbekunden gegenüber der Plattform X, die ohnehin besorgt um den Ruf ihrer Marken sind. Infolgedessen haben bereits viele Unternehmen ihre Werbeanzeigen von X abgezogen.

Als Reaktion auf diese Entwicklungen hat Musk kürzlich mehrere Unternehmen und eine Organisation aus der Werbebranche verklagt. Er wirft ihnen vor, eine koordinierte Kampagne gegen seine Plattform zu führen, um Anzeigendollars von X fernzuhalten.

                                                                                                                                            n-tv.de