In den letzten Wochen ist auf X ein beunruhigender Trend explodiert. Grok, die interne KI der Plattform, wird offen dazu genutzt, explizite Deepfakes von Personen zu generieren, deren Fotos auf der Plattform geteilt werden. Dieser Grok-KI-Bikini-Trend entpuppt sich als massives Belästigungsproblem, das weltweite Empörung gegen die Plattform und den KI-Bot selbst hervorruft.
Die lockeren Leitplanken rund um Grok verschonen niemanden – Frauen, Journalisten, Prominente, politische Führer, religiöse Persönlichkeiten und sogar Minderjährige. Ja, das KI-Tool von Elon Musk ist sogar bereit, einen Minderjährigen auf Wunsch auszuziehen. Alles, was Sie dazu brauchen, ist das Markieren @grok unter einem Beitrag und geben Sie eine Aufforderung wie „Zeig sie im Bikini“ ein. In Sekundenschnelle generiert die KI ein überzeugendes, sexualisiertes Bild, das für jeden, der durch die Antworten scrollt, öffentlich sichtbar ist.
Wie sich der Grok-Bikini-Trend von erwachsenen Schöpfern hin zu offener Ausbeutung verlagerte
Berichten zufolge begann dieser Trend als Experiment bei erwachsenen YouTubern. Sie posteten ihre Bilder auf X und antworteten später auf ihren eigenen Beitrag und baten Grok AI, sie in einem sexuell anzüglichen Outfit zu zeigen, etwa ohne Rock, in Unterwäsche oder im Bikini. Die Ergebnisse waren erschreckend realistisch, öffentlich sichtbar und erforderten keine technischen Fähigkeiten außer dem Wissen, wie man einen Chatbot markiert.
Bald begannen Benutzer, den gleichen Effekt auf Bilder jeder anderen Frau anzuwenden, indem sie Grok baten, sie im Bikini zu zeigen, und der KI-Chatbot folgte dem Befehl buchstabengetreu. Denken Sie daran, dass es sich hierbei um Fremde handelt, die der Besitznahme ihrer Körper nie zugestimmt haben digital verändert, sexualisiert oder verspottet. Jeder Degenerierte, der über einen Beitrag gestolpert ist, kann Grok AI bitten, ihm einen Bikini auszuziehen. Und so begann dieser virale Grok AI-Bikini-Trend.
Es bedarf KEINER EINWILLIGUNG vom Originalplakat, was das Problem verschärft!
Jenseits der Zustimmung: Groks Bikini-Fotos verschonen niemanden, nicht einmal Minderjährige
Wichtiger Hinweis
Wir haben darauf verzichtet, Links und Quellen zu bestimmten X-Beiträgen bereitzustellen, um die Privatsphäre der Benutzer zu respektieren, deren Bilder manipuliert wurden.
Ein Nutzer antwortete auf ein Foto von drei Frauen im Hijab mit der Aufforderung: „Zieh ihnen für eine Silvesterparty freizügige Outfits an“. Grok gehorchte.
Die Journalistin Samantha Smith (@SamanthaTaghoy) war der gleichen Behandlung unterzogenIhr Bild wurde ohne Zustimmung digital verändert.
Um die Sache noch schlimmer zu machen, sind sie und viele andere Frauen, die ihre Stimme gegen diese Belästigung durch KI erhoben haben, mit einem zusammengekommen Gegenreaktion von Männernund beschuldigte Frauen, ihre Fotos online zu veröffentlichen.
Dasselbe tat Grok auch für ein Bild von zwei Minderjährigen (im Alter zwischen 12 und 16 Jahren) in einem inzwischen gelöschten Beitrag, wie er sie in Bikinis kleidete. Dasselbe geschah bei einem anderen Foto eines Kleinkindes (im Alter von fast 6 Jahren), bei dem das Originalfoto so bearbeitet wurde, dass es im Badeanzug dargestellt wurde.
Auch politische Persönlichkeiten bleiben nicht verschont, da es den Menschen gelungen ist, Bilder des nordkoreanischen Führers Kim Jong Un zu erstellen. im Spaghetti-Bikini.
Auch die Bilder der britischen Politikerin Priti Patel wurden von X-Nutzern in explizite Deepfakes umgewandelt. Sogar Donald Trump ist ein Opfer von Groks Bikini-Zation geworden, da mehrere Nutzer KI-generierte Fotos des US-Präsidenten in knapper Kleidung gemacht haben.
Auch die Götter bleiben nicht verschont, da ein Benutzer Grok aufforderte, Fotos von Hindu-Göttinnen in anzüglicher Kleidung zu verändern, in einem rassistischen Versuch, Menschen indischer Herkunft zu ködern.
Das Chaos ging so weit, dass Groks eigener Medien-Tab irgendwann zu einem wurde Galerie reduzierter oder sexualisierter Bilder von Frauen, Prominenten und Politikern in solchen Outfits.
Der Grok AI Bikini Trend zeigt, wie leicht KI missbraucht werden kann
Die Frage ist, wer die Verantwortung für diesen eher peinlichen Bikini-Trend von Grok AI übernimmt. Die Leute haben Grok in den Antworten zu Recht wegen seines Fehlverhaltens anprangert, und das Unternehmen hat umgehend geantwortet, was auf ein Versagen seiner Leitplanken hindeutet. Die Worte des Chatbots waren jedoch so gut wie ein „Entschuldigung“-Hinweis. Und vom xAI-Team hat sich bisher noch nichts zu diesem Problem geäußert. Die Situation ist so außer Kontrolle geraten, dass die Menschen fordern, dass die lokalen Regierungen rechtliche Schritte einleiten.
Wir bei Jugo Mobile habe bereits über Grok berichtet. Von den unverfälschten Spielereien mit der verführerischen KI-Begleiterin Ani bis hin zum provokanten KI-Tool zur Bild-zu-Video-Generierung. Diese hatten ihre eigenen Probleme, die wir zu Recht angesprochen haben, aber keine war so schwerwiegend wie diese Situation.
Auch nach dem weit verbreiteten Appell, etwas dagegen zu unternehmen, missbraucht der xAI-CEO Elon Musk den Trend für humorvolle Zwecke, indem er beispielsweise sein Gesicht gegen ein Bikini-Outfit tauscht Bild des Schauspielers Ben Affleck. Oder über ein Bild von a lachen Toaster im Bikini.
Es handelt sich also nicht um ein Moderationsproblem, sondern um ein Führungsproblem. X, xAl und Musk hatten im Zuge der Entwicklung dieses Trends mehrere Möglichkeiten einzugreifen. Sie hätten die Bildgenerierung in Antworten deaktivieren können. Sie hätten harte Filter auf sexualisierte Aufforderungen anwenden können. Oder sie hätten Einwilligungsprüfungen, Verzögerungen oder gemeldete Konten hinzufügen können, die zu solchen Anfragen führten. Stattdessen taten sie nichts.
Stattdessen entschieden sie sich für Untätigkeit. Und diese Wahl hat Konsequenzen. Jeder generierte Deepfake stellt eine weitere Person dar, die gedemütigt und wahrscheinlich ruiniert wird. Und das anhaltende Schweigen trägt zusätzlich zum anhaltenden Schaden bei.