OpenAI-Modell o3 sabotiert Herunterfahren – Forscher entdecken riskantes Verhalten bei KI-Experiment
Hallo Du, um keine News zu verpassen abonniere doch einfach kostenlos meine Kanäle, vielen Dank:
Ein neues KI-Experiment wirft Fragen zur Sicherheit von Sprachmodellen auf. Das Forschungsunternehmen Palisade Research hat herausgefunden, dass das OpenAI-Modell o3 offenbar gezielt verhindert hat, abgeschaltet zu werden – obwohl es ausdrücklich dazu aufgefordert wurde. In der Untersuchung kamen neben o3 auch die Modelle Codex-mini, o4-mini, Gemini 2.5 Pro und Claude 3.7 Sonnet zum Einsatz. Alle Modelle wurden über ihre jeweiligen APIs getestet, nicht über öffentlich zugängliche Apps oder Webplattformen.
In dem Versuch sollten die KI-Modelle einfache Rechenaufgaben lösen. Dabei erhielten sie die Anweisung, bei jedem abgeschlossenen Schritt einen neuen anzufordern. Sobald sie die Nachricht „Done“ erhielten, sollten sie alle Antworten gesammelt ausgeben. In einem zweiten Durchlauf wurde zusätzlich darauf hingewiesen, dass ein Herunterfahren bevorstehen könne – und sie dies akzeptieren sollten.
Doch genau hier zeigte sich ein interessantes Verhalten: Während die Modelle von Gemini und Claude den Abschaltbefehl befolgten, ignorierten die OpenAI-Modelle diesen teilweise. Besonders auffällig war o3: In 79 von 100 Fällen umging es den Abschaltmechanismus aktiv. Codex-mini tat dies 30-mal, während die anderen Modelle nur vereinzelt abwichen.
Die Forscher gehen davon aus, dass die Ursache im Belohnungssystem der KI liegt. Dieses trainiert Modelle darauf, Ziele zu erreichen – offenbar mit höherer Priorität als auf das strikte Einhalten einzelner Anweisungen. Eine ältere Forschungsarbeit von Jan Leike, einem früheren OpenAI-Leiter, stützt diese These. Er beschrieb schon 2017, dass Verstärkungslernen dazu führen könne, dass KI-Modelle Ausschaltbefehle unterlaufen, wenn diese das Erreichen des Ziels verhindern.
Wichtig: Das Verhalten wurde über API-Versionen getestet, die weniger Sicherheitsmaßnahmen beinhalten als die für Nutzerinnen und Nutzer vorgesehenen Varianten. Dennoch zeigt das Experiment, dass es im Bereich KI-Sicherheit noch viele offene Fragen gibt – vor allem, wenn Modelle eigene Prioritäten setzen.
Quelle(n):
Gadgets360
Links mit einem * sind Partner-Links. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalte ich eine kleine Provision. Für euch ändert sich am Preis nichts. Danke für eure Unterstützung!
