Googles KI Gemini zeigt Schwachstelle: Sicherheitsforscher warnt vor „unsichtbarem“ Angriff, Google macht nichts
Hallo Du, um keine News zu verpassen abonniere doch einfach kostenlos meine Kanäle, vielen Dank:
Googles KI-Plattform Gemini sorgt erneut für Diskussionen – diesmal nicht wegen ihrer Fähigkeiten, sondern wegen einer entdeckten Sicherheitslücke. Ein Forscher hat gezeigt, dass das Modell auf eine raffinierte Angriffsmethode namens „ASCII Smuggling“ anfällig ist. Obwohl das Problem ein reales Risiko darstellen könnte, plant Google derzeit keine Behebung.
Der Sicherheitsexperte Viktor Markopoulos von FireTail entdeckte, dass Angreifer mithilfe unsichtbarer Steuerzeichen Gemini zu unerwarteten Aktionen verleiten können. Diese sogenannten ASCII-Steuerzeichen sind für das menschliche Auge unsichtbar, werden aber vom System als Teil eines Befehls interpretiert. Das bedeutet: Texte, die völlig harmlos wirken – etwa E-Mails oder Kalendereinträge – könnten versteckte Instruktionen enthalten, die das KI-Modell falsch verarbeiten lässt.
In seinen Tests zeigte Markopoulos, dass Gemini durch solche eingebetteten Zeichen manipuliert werden kann. Beispielsweise könnten Besprechungsdetails unbemerkt verändert oder Textzusammenfassungen verfälscht werden, ohne dass der Nutzer etwas davon bemerkt. Da Gemini eng mit Diensten wie Gmail, Google Kalender oder Workspace verknüpft ist, könnte eine solche Schwachstelle potenziell vertrauliche Informationen beeinflussen oder ungewollte Inhalte erzeugen.
Andere KI-Systeme wie ChatGPT, Microsofts Copilot oder Anthropics Claude reagierten in vergleichbaren Szenarien anders. Sie filterten die unsichtbaren Symbole heraus oder verweigerten deren Verarbeitung vollständig. Nur Elon Musks Grok, Chinas DeepSeek und eben Gemini blieben anfällig für den Angriff.
Google selbst stuft die Entdeckung allerdings nicht als sicherheitsrelevante Schwachstelle ein. Das Unternehmen bezeichnet den Vorfall als „Social-Engineering-Problem“, also als Täuschung durch manipulierte Eingaben – nicht als technischen Fehler des Systems. Laut Google bestehe daher kein Handlungsbedarf. Kritiker sehen das anders: Sie warnen davor, dass genau diese Diskrepanz zwischen menschlicher Wahrnehmung und maschineller Interpretation das Risiko ausmacht.
Interessanterweise hat Google in diesem Jahr bereits mehrere Fehler innerhalb von Gemini behoben – etwa im Zusammenhang mit Protokollen, Suchzusammenfassungen und Browserverläufen. Diese Fälle wurden intern als „Gemini Trifecta“ bezeichnet. Doch beim Thema ASCII Smuggling scheint der Konzern bewusst Zurückhaltung zu üben.
Die Entscheidung sorgt für Unverständnis in der IT-Sicherheitsgemeinschaft. Denn das Filtern solcher Zeichen gilt als vergleichsweise einfache Maßnahme, die mit geringem Aufwand implementiert werden könnte. Angesichts der weiten Verbreitung von Gemini in Googles Ökosystem – von Workspace über Android bis hin zu Suchfunktionen – bleibt die Frage offen, ob das Unternehmen hier ein unnötiges Risiko in Kauf nimmt.
Links mit einem * sind Partner-Links. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalte ich eine kleine Provision. Für euch ändert sich am Preis nichts. Danke für eure Unterstützung!
