Plattform X behauptet, Grok AI daran zu hindern, Bilder echter Menschen zu entkleiden

(Patria) – Die Plattform X des US-Milliardärs Elon Musk hat mitgeteilt, dass das KI-Modell Grok künftig keine Fotos echter Menschen mehr so bearbeiten kann, dass sie in spärlicher Kleidung oder ohne Kleidung dargestellt werden.

„Wir haben technische Maßnahmen ergriffen, um zu verhindern, dass der Grok-Account die Bearbeitung von Bildern echter Menschen in spärlicher Kleidung zulässt“, heißt es in einer Mitteilung auf der Plattform X, die heute von der BBC zitiert wird.

Die Änderung wurde wenige Stunden bekannt gegeben, nachdem der Generalstaatsanwalt von Kalifornien erklärt hatte, dass dieser US-Bundesstaat die Verbreitung sexualisierter KI-Deepfakes untersucht, darunter auch solche von Kindern, die vom KI-Modell generiert wurden.

„Wir blockieren nun geografisch die Möglichkeit aller Nutzer, Bilder echter Menschen in Bikinis, Unterwäsche und ähnlicher Kleidung über den Grok-Account und in Grok in X in denjenigen Rechtsräumen zu generieren, in denen dies illegal ist“, heißt es in der Mitteilung der Plattform X. Dies bezieht sich auf die Einschränkung des Zugriffs auf Internetseiten, Inhalte oder Dienste auf der Grundlage des geografischen Standorts des Nutzers, der in der Regel anhand seiner IP-Adresse identifiziert wird, die für jeden Computer einzigartig ist.

In der Mitteilung wird hinzugefügt, dass nur zahlende Nutzer Bilder mit Grok auf ihrer Plattform bearbeiten können.

Dies werde eine zusätzliche Schutzschicht hinzufügen, indem es dazu beitrage, sicherzustellen, dass diejenigen, die versuchen, Grok zu missbrauchen, um gegen das Gesetz oder die Richtlinien des Unternehmens X zu verstoßen, zur Rechenschaft gezogen werden.

Mit aktivierten NSFW-Einstellungen (Nicht sicher für die Arbeit) sollte Grok „Nacktheit des Oberkörpers imaginärer Erwachsener (nicht echter)“ erlauben, in Übereinstimmung mit dem, was in Filmen mit der Kennzeichnung „R“ zu sehen ist, schrieb Musk gestern auf der Plattform X.

„Das ist de facto der Standard in Amerika. Dies wird in anderen Regionen je nach den Gesetzen von Land zu Land variieren“, sagte Musk.

Am Wochenende waren Malaysia und Indonesien die ersten Länder, die das KI-Tool Grok verboten haben, nachdem Nutzer berichtet hatten, dass Fotos ohne ihre Zustimmung verändert worden seien, um explizite Bilder zu erstellen.