So wollen KI-Firmen mit dem Thema Sex Geld machen

Eine neue Variante des Menschenhandels tut sich nun mit Hilfe von künstlicher Intelligenz (KI) auf. Anfang Jänner postete eine Frau auf der Plattform „X“ ein Bikini-Foto von sich – allerdings kein echtes, sondern ein mithilfe Künstlicher Intelligenz auf Elon Musks Plattform X erzeugtes Bild. Verantwortlich machte sie Musks KI-Engine Grok. „Ich zögere, dies zu teilen, aber es reicht jetzt, und ich weiß, dass ich nicht die einzige Frau hier bin, die so etwas erlebt“, schrieb sie. „Es gibt mittlerweile zahlreiche Konten, die mithilfe von Grok sexuell explizite Inhalte von mir erstellen (das unten stehende Beispiel ist eine sehr harmlose Version). Wie kann so etwas erlaubt sein?“

GROK, die KI von Elon Musk, erzeugte in elf Tagen drei Millionen sexualisierte Bilder und davon 23.000 von Minderjährigen!

Millionen solcher Bilder wurden Analysen zufolge in den ersten Jännertagen auf X erstellt – die große Mehrheit offenbar ohne Einverständnis der Frauen, deren Gesichter sie zeigen. KI-generierte Pornografie ist ein rasant wachsender Markt mit erheblichen Risiken.

Nutzer erhalten mehr Macht als je zuvor und werden vom Konsumenten zum Produzenten – die Persönlichkeitsrechte nicht nur von Prominenten sind in Gefahr. Trotzdem wollen zahlreiche US-Techriesen mit Sex Geld verdienen. OpenAI etwa will demnächst eine ChatGPT-Variante für Erwachsene vorstellen.

Auch wenn es vielen noch schwer fällt, aber der Gebrauch der sog. „Sozialen Medien“ sollte dringendst überdacht und auf sicherere Medien umgestiegen werden. Schlussendlich macht man sich als Nutzer dieser Einrichtungen an deren Vorgehen mitschuldig.

Mehr dazu im Standard Artikel vom 23.01.2026