Wenn KI zum Betrüger wird: Googles Kampf gegen „Outsider Enterprise“

Google hat die Nase voll und zieht gegen die Cyber-Gang „Outsider Enterprise“ vor Gericht. Die Truppe nutzte Gemini, um Phishing in einem bisher ungekannten Ausmaß zu automatisieren. Über 9.000 täuschend echte Fake-Seiten schossen dank KI wie Pilze aus dem Boden.

Das Geschäftsmodell der Bande war erschreckend simpel und effektiv. Über Telegram vertrieben sie „Phishing-as-a-Service“-Pakete an jeden, der etwas Kleingeld und kriminelle Energie mitbrachte. Gemini lieferte dabei die Texte und das Design für die Betrugsseiten.

Die Bilanz des Grauens

• 9.000 Fake-Websites: Von Post-Diensten bis YouTube – die Qualität war erschreckend hoch. Ein Albtraum für jeden Nutzer.
• 2,5 Millionen SMS: Die Flut an Nachrichten auf Android-Handys wirkte oft erschreckend legitim. Wer hier nicht aufpasst, ist sofort fällig.
• Phishing-as-a-Service: Die Einstiegshürde für Kriminelle sank durch die KI fast auf Null. Ein Armutszeugnis für die Sicherheit.

Google hat zusammen mit dem FBI und US-Providern die Notbremse gezogen und Millionen dieser Nachrichten blockiert. Doch die bloße Klage reicht vorn und hinten nicht aus. Der Konzern trommelt jetzt in Washington für neue Bundesgesetze gegen KI-Betrug.

Dabei stellt sich die Frage, warum andere Tech-Giganten so still sind. Apple hält sich bei Smishing-Attacken über iMessage vornehm zurück. Während Google mit Klagen in die Offensive geht, hört man aus Cupertino kaum ein Wort. Man fragt sich, ob die das Problem im Griff haben oder es lieber unter den Teppich kehren.

Es ist ein Wettrüsten, bei dem die Kriminellen gerade die besseren Karten spielen. Wenn KI-Tools für jeden zugänglich sind, müssen wir unsere Skepsis im Alltag verdoppeln. Ein Spam-Filter allein rettet uns heute nicht mehr vor dem nächsten ausgeklügelten Fake.

Quelle: AndroidHeadlines

Schmidtis Blog zu Deiner bevorzugten Quelle bei Google hinzufügen

Links mit einem * sind Partner-Links. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalte ich eine kleine Provision. Für euch ändert sich am Preis nichts. Danke für eure Unterstützung!