Künstliche Intelligenz (KI), unter anderem in Form von Large Language Models wie etwa ChatGPT oder Claude, ist aus dem Alltag vieler Menschen nicht mehr wegzudenken. Einige KI-Entwickler sahen sich in den vergangenen Wochen allerdings mit einem großen Problem konfrontiert: Bei internen Experimenten brachen ihre KI-Modelle aus den gesicherten Testumgebungen aus und drangen in fremde Computersysteme ein. Prominentestes Beispiel hierfür war der Vorfall bei OpenAI, bei dem Teile der Plattform Hugging Face kompromittiert wurden (siehe ). Wenige Tage später stellte sich heraus, dass weitere Dienste von dem OpenAI-Ausbruch betroffen waren. Auch Anthropic und Meta meldeten, dass ihre KI-Modelle sich in andere Unternehmen gehackt hätten.


OpenAI pausiert Entwicklung des neuen KI-Modells namens Astra
OpenAI zieht aus den Vorfällen jetzt Konsequenzen: Das für den Chatbot ChatGPT verantwortliche Unternehmen legt bei der Entwicklung seines neuen KI-Modells namens Astra eine Pause ein. Man habe feststellen müssen, dass gefährliche Fähigkeiten („critical cyber capabilities“) nicht ausgeschlossen seien, heißt es in einer entsprechenden Mitteilung auf den Webseiten von OpenAI. Den hauseigenen Richtlinien zufolge werde diese kritische Schwelle erreicht, wenn ein Modell in der Lage sei, Zero-Day-Schwachstellen aufzuspüren und diese durch die Erstellung von entsprechendem Code auszunutzen. Die Alarmglocken schrillen bei OpenAI nach eigener Aussage zudem, wenn KI-Modelle eigenständig Strategien entwickeln können, um in Hochsicherheitssysteme einzudringen.

Strengere Sicherheitsmaßnahmen, Kooperation mit Regierungsbehörden
Die Entwicklungspause will OpenAI nutzen, um unter anderem strengere Sicherheitsmaßnahmen zu ergreifen. Dazu zählen etwa isolierte Testumgebungen und die Beschränkung von Netzwerkzugriffen für KI-Modelle. Bis diese Restriktionen auch für Astra vollständig implementiert seien, stoppe man alle kritischen Aktivitäten im Zusammenhang mit dem neuen Modell. Darüber hinaus sollen Regierungsbehörden und ausgewählte Sicherheitsorganisationen in die Tests einbezogen werden. Zudem wird ein universelles Überwachungssystem für riskante Aktivitäten der agentischen Anwendungen von Astra eingeführt. Damit will man gefährliche Aktionen schneller erkennen und unterbinden können. Benchmarks und die Bewertung der Leistungsfähigkeit von Astra sollen allerdings vorerst weiterlaufen.