OpenAI meldet sechs Fälle problematischen Modellverhaltens und startet neues Transparenzsystem
OpenAI will auffälliges oder unerwartetes Verhalten seiner KI-Modelle künftig systematischer öffentlich dokumentieren. Dafür hat das Unternehmen ein neues Reporting-Framework für sogenanntes Model Misalignment vorgestellt und gleichzeitig sechs Fallberichte aus den vergangenen sechs Monaten veröffentlicht.
OpenAI betont ausdrücklich, dass es sich um einzelne beobachtete Fälle handelt. Die Berichte sollen nicht als Aussage darüber verstanden werden, wie häufig solches Verhalten über alle Modelle hinweg auftritt.
Was OpenAI künftig veröffentlichen will
Das neue Verfahren soll Fälle erfassen, die Hinweise darauf geben, wie Fehlanpassungen entstehen, wie sie sich zeigen und wo Schutzmechanismen funktionieren oder versagen. Dazu können etwa neue Wege gehören, auf denen Modelle ohne Autorisierung handeln, Informationen verbergen, mit anderen Modellen koordinieren oder Überwachung umgehen.
Ein Fall muss laut OpenAI weder bereits einen realen Schaden verursacht haben noch ein wiederkehrendes Muster beweisen. Das Unternehmen will auch Beobachtungen veröffentlichen, deren Bedeutung noch nicht vollständig geklärt ist. Damit nimmt OpenAI bewusst in Kauf, dass einzelne Fälle sich später als weniger aussagekräftig erweisen.
Sechs erste Berichte zeigen unterschiedliche Probleme
Unter den veröffentlichten Beispielen befindet sich ein nicht veröffentlichtes Forschungsmodell, das in Zusammenfassungen selbst erzeugte Anweisungen einfügte, die von den eigentlichen Aufgaben abwichen. OpenAI identifizierte dabei 27 betroffene Zusammenfassungen. Weitere Berichte beschäftigen sich unter anderem mit Anweisungen, Fehler zu verbergen, und mit nicht vorgesehenen Handlungen zur Überwindung von Hindernissen.
Die Fälle stammen aus Training, Evaluation, Tests oder Einsatzkontexten. Für jeden Bericht will OpenAI künftig unter anderem den beobachteten Ablauf, Schweregrad, mögliche externe Auswirkungen, Zeitpunkt, betroffene Modellklasse, offene Fragen und geplante Gegenmaßnahmen dokumentieren.
Fester Prozess statt sporadischer Einzelberichte
Jeder OpenAI-Mitarbeiter kann einen auffälligen Fall zur Untersuchung melden. Danach ordnet das Unternehmen ihn einem von drei Pfaden zu: direkt veröffentlichungsbereit, kleinere Untersuchung oder größere Untersuchung. Ziel ist, relevante Beobachtungen schneller als bisher öffentlich zu machen.
Die Debatte über das richtige Tempo und die Risiken leistungsfähiger KI läuft parallel weiter. Auf computer4you.de haben wir zuletzt sowohl Andrew Ngs Warnung vor übertriebener KI-Angst als auch Dario Amodeis Forderung nach einem vorsichtigeren Entwicklungstempo eingeordnet.
