Elon Musk zieht die Reißleine: Grok kriegt bei Deepfakes einen Riegel vorgeschoben
Der KI-Chatbot Grok steht aktuell massiv unter Beschuss, weil Nutzer das Tool für die Erstellung von gefälschten Pornobildern missbraucht haben. Lange Zeit ignorierte X-Chef Elon Musk die Vorwürfe oder tat sie als Zensurversuche ab, doch der globale Druck wurde nun offenbar zu groß. Mehrere Länder, darunter Malaysia und Indonesien, sperrten den Zugriff auf die KI bereits komplett. In Europa und den USA laufen zudem Untersuchungen, da Grok ohne nennenswerte Sperren sexualisierte Deepfakes von realen Personen erstellte – tragischerweise sogar von Minderjährigen.
Jetzt reagiert X mit einer drastischen Änderung der Richtlinien für das KI-Modell von xAI. Die Funktion zur Bildbearbeitung und -generierung wurde massiv beschnitten. Laut einer offiziellen Stellungnahme verhindern neue technologische Barrieren nun, dass Grok Fotos echter Menschen in sexuelle Kontexte rückt. Das betrifft vor allem Befehle, die Personen digital entkleiden oder in knappe Outfits wie Bikinis stecken. Diese Einschränkungen gelten ab sofort für alle Nutzer, also auch für zahlende Abonnenten des Premium-Dienstes.
Um die Sicherheit weiter zu erhöhen, hat X die gesamte Bildfunktion hinter eine Bezahlschranke verbannt. Nur wer für ein Abo zahlt und somit seine Identität über Bezahldaten hinterlegt, darf die KI-Tools noch nutzen. Musk hofft so, Übeltäter besser abschrecken oder im Ernstfall zur Rechenschaft ziehen zu können. Zusätzlich führt die Plattform ein Geoblocking ein. In Regionen, in denen die Erstellung solcher Deepfakes illegal ist, schaltet X die entsprechenden Funktionen für die betroffenen Nutzer komplett ab.
Kritiker bezweifeln jedoch, ob diese Maßnahmen ausreichen. Zwar sind direkte Befehle nun blockiert, doch mit kreativen Umschreibungen lässt sich die KI oft noch immer austricksen. Elon Musk behauptet weiterhin, dass Grok nie absichtlich gegen Gesetze verstoßen habe und technische Fehler sofort behoben würden. Ob das die Regulierungsbehörden in der EU oder Kalifornien beruhigt, bleibt fraglich. Der Fall zeigt einmal mehr die dunkle Seite der generativen KI und wie schwer es ist, Missbrauch auf großen sozialen Plattformen wirksam zu verhindern.
Links mit einem * sind Partner-Links. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalte ich eine kleine Provision. Für euch ändert sich am Preis nichts. Danke für eure Unterstützung!
