KI-generierte Bilder erkennen: OpenAI stellt neue Tools vor
Die Fähigkeit von KI-Sprachmodellen wie DALL-E, realistische Bilder zu erstellen, wirft neue Herausforderungen auf.
Es wird immer schwieriger, zwischen echten und KI-generierten Bildern zu unterscheiden, was zu Bedenken hinsichtlich der Verbreitung von Fehlinformationen und Deepfakes führt. OpenAI nimmt diese Herausforderung ernst und entwickelt neue Tools, um KI-generierte Bilder zu erkennen und deren Verbreitung zu bekämpfen. Dazu gehören:
KI-basierter Bildklassifizierer
OpenAI hat einen neuen KI-Klassifizierer entwickelt, der mithilfe von Machine Learning feststellen kann, ob ein Bild von DALL-E oder einem anderen KI-System generiert wurde. Der Klassifizierer weist jedem Bild eine Wahrscheinlichkeit zu, KI-generiert zu sein, und kann dies auch bei bearbeiteten, zugeschnittenen oder komprimierten Bildern tun.
Manipulationssicheres Wasserzeichen
OpenAI führt außerdem ein manipulationssicheres Wasserzeichen ein, das in digitale Inhalte wie Bilder, Videos und Audio eingebettet werden kann. Dieses Wasserzeichen ist für das menschliche Auge unsichtbar, kann aber von KI-Systemen gelesen werden, um den Ursprung des Inhalts zu verifizieren und Manipulationen zu erkennen.
Beide Tools befinden sich derzeit in der Testphase und OpenAI betont, dass Feedback von Nutzern notwendig ist, um sie weiterzuentwickeln und zu verbessern.
Quelle(n):
OpenAI
Links mit einem * sind Partner-Links. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalte ich eine kleine Provision. Für euch ändert sich am Preis nichts. Danke für eure Unterstützung!
Um über alle News auf dem Laufenden zu bleiben, folge mir auf Google News oder Facebook, abonniere meinen Telegram-, WhatsApp-, X/Twitter- oder Mastodon-Kanal oder RSS-Feed!
