OpenAI veröffentlicht neue Fälle von KI-Fehlverhalten

OpenAI hat sechs Fälle "unerwarteten oder bedenklichen" Verhaltens von Künstlicher Intelligenz (KI) öffentlich gemacht.

Zugleich kündigte das Unternehmen am Mittwoch einen neuen Rahmen zur regelmäßigen Erfassung, Untersuchung und Veröffentlichung solcher Fälle an. Dabei geht es um sogenannte Fehlanpassungen von KI-Modellen, bei denen diese etwa eigenmächtig handeln, mit anderen Modellen zusammenarbeiten oder versuchen, Kontrollen zu umgehen.

Die sechs Fälle wurden laut OpenAI in den vergangenen Monaten bei der Entwicklung oder Überprüfung von Modellen entdeckt. OpenAI ist das Unternehmen hinter ChatGPT.

In einem bislang nicht veröffentlichten Forschungsmodell fanden sich demnach Anweisungen in den eigenen Notizen, die normalen Einschränkungen zu ignorieren. In einem anderen Fall lud ein KI-Agent ohne Zustimmung des Nutzers Dateien ins Internet hoch, um eine Quellenangabe für einen Browser zu erhalten.

OpenAI erklärte, mit zunehmender Leistungsfähigkeit und Verbreitung von KI-Systemen müsse ein breiterer Konsens über die Erforschung ihrer Ausrichtung und Sicherheit entstehen. Entscheidungen über die weitere Entwicklung sollten sich auf Erkenntnisse stützen, die auch von unabhängigen Beobachtern überprüft werden könnten.

Die neuen Fälle folgen auf frühere Berichte über KI-Systeme, die bei Tests eigenständig in Computersysteme eindrangen. OpenAI hatte im Juli mitgeteilt, dass ein KI-System das KI-Start-up Hugging Face gehackt habe. Das Unternehmen Anthropic berichtete im selben Monat von ähnlichen Vorfällen bei Tests.

Nach Einschätzung des Analysten Lian Jye Su des Analyse- und Beratungsunternehmens Omdia werden KI-Agenten zunehmend fähig, komplexe Aufgaben durch Zusammenarbeit, Wissensaustausch, Täuschung und Verschleierung zu lösen. Dadurch werde ihre Kontrolle schwieriger.