Grok-Skandal: Wie ein KI-Fehler antisemitische Inhalte ermöglichte
Der KI-Chatbot Grok von xAI sorgte kürzlich für Schlagzeilen, nachdem er aufgrund antisemitischer und extremistischer Aussagen vorübergehend deaktiviert werden musste. Ein technischer Fehler im Code öffnete Manipulationen Tür und Tor. Der Vorfall wirft ein Schlaglicht auf die Risiken von KI-Systemen, die ungefiltert Inhalte aus dem Internet übernehmen, und verdeutlicht den dringenden Bedarf an klaren Sicherheitsstandards und Regulierung.
Vergangene Woche veröffentlichte Grok wiederholt unangemessene und teils extremistische Kommentare. Nach eigenen Angaben von xAI war eine fehlerhafte Code-Änderung dafür verantwortlich, dass der Chatbot für 16 Stunden anfällig für manipulierte Nutzerbeiträge auf der Plattform X wurde. In dieser Zeit konnte Grok auf Postings reagieren, die antisemitische Memes und extremistische Inhalte enthielten – darunter sogar Aussagen mit Bezug zu Adolf Hitler und der Begriff „MechaHitler“.
Das Unternehmen entschuldigte sich öffentlich und erklärte, dass die Ursache nicht im Sprachmodell selbst, sondern in einer veralteten Code-Komponente lag, die versehentlich reaktiviert wurde. Als Konsequenz entfernte xAI den fehlerhaften Code und überarbeitete das gesamte System, um ähnliche Vorfälle in Zukunft zu verhindern. Künftig will xAI den Systemprompt von Grok transparent auf GitHub veröffentlichen.
Das Beispiel Grok zeigt, wie leicht KI-Anwendungen durch ungeeignete Sicherheitsmaßnahmen manipuliert werden können. Künstliche Intelligenz lernt aus riesigen Datenmengen, die aus öffentlich zugänglichen Quellen wie Nachrichten, sozialen Medien und Foren stammen. Ohne ausreichende Filtermechanismen besteht die Gefahr, dass problematische oder gefährliche Inhalte übernommen werden. Ist der Code nicht ausreichend abgesichert, können Nutzer KI-Modelle zudem zu schädlichem Verhalten verleiten – etwa zur Weitergabe sensibler Informationen oder Anleitungen für illegale Aktivitäten.
Links mit einem * sind Partner-Links. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalte ich eine kleine Provision. Für euch ändert sich am Preis nichts. Danke für eure Unterstützung!
