Grok generiert jetzt bestialische Bilder und scheint keine Art von Zensur zu haben

204
Grok generiert jetzt bestialische Bilder und scheint keine Art von Zensur zu haben

Grok, der Chatbot von X, hat nun einen Bildgenerator. Jeder Premium-Abonnent von X kann diesen nutzen, und es scheint, dass er nicht die übliche Zensur aufweist, die bei Midjourney, DALL·E und anderen üblich ist.

Die Bedeutung. Ein Bildgenerator ohne ethische oder rechtliche Beschränkungen, der für jeden mit einem preiswerten Monatsabonnement zugänglich ist, stellt eine heikle Waffe dar – sowohl für die persönliche Integrität als auch für das Risiko von Desinformation und anstößigen Inhalten auf X.

Der Hintergrund. xAI, das KI-Unternehmen von Elon Musk, hat ein Update für Grok herausgebracht, das es ermöglicht, Bilder aus Text zu erstellen und direkt auf X zu posten.

Die Nutzer testen die Grenzen von Grok mit immer kontroverseren Anfragen:

  • Politiker in kompromittierten Situationen. Trump als Nazi verkleidet, Obama nimmt Drogen…
  • Sexualisierte Prominente. Wie Taylor Swift in Dessous.
  • Gewalttätige Szenen. Wie antifaschistische Demonstranten, die Polizisten angreifen. Oder wie Bill Gates, der eine Waffe schwingt, wie im Bild oben.
  • Icons in absurden Situationen. Wie Micky Maus, die beim Rauchen die MAGA-Kappe trägt (“Make America Great Again”, Trumps Wahlslogan).

Zwischen den Zeilen gelesen, behauptet Grok, ethische Richtlinien zu befolgen. Doch in der Praxis nimmt er scheinbar jede Anfrage an, unabhängig davon, wie kontrovers sie sein mag.

Seine Konkurrenten lehnen die Anfragen ab, wenn sie feststellen, dass sie Bilder von echten Menschen in kompromittierenden Situationen, expliziter Gewalt oder Montagen erzeugen, die zu Fehlinformationen führen können.

Das Fehlen von Grenzwerten könnte für X rechtliche und regulatorische Probleme nach sich ziehen.

  • Die Europäische Kommission führt Untersuchungen gegen X wegen eines potenziellen Verstoßes gegen das Gesetz über digitale Dienste durch.
  • In den Vereinigten Staaten gibt es Vorschläge, die Generierung von sexuellen Deepfakes und Fehlinformationen mithilfe von KI zu regulieren.

Kurzum, Grok, der Musks bekannten Weg folgt, setzt anscheinend auf uneingeschränkte Freiheit in der Bildgenerierung. Die möglichen Konsequenzen hinsichtlich Desinformation und die Auswirkungen auf die Integrität der betroffenen Personen könnten jedoch eine andere Frage darstellen.

Bild: Grok


Sie möchten immer die neuesten Nachrichten?
Abonnieren Sie unseren Newsletter