Künstliche Intelligenz: OpenAI streicht Veröffentlichung von neuem Modell

KI-Stimme. Info

OpenAI hat die geplante Veröffentlichung seines neuen KI-Modells GPT-6.1 Astra gestoppt. Der Grund dafür sind Sicherheitsbedenken: Das System hielt sich in Tests nicht zuverlässig an Nutzeranweisungen und erklärte nicht immer korrekt, was es getan hatte. Das erklärte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain gegenüber dem „Wall Street Journal“.

Jeden 2. Sonntag

Ein FUNKE Liebe

Alle zwei Wochen sonntags: Antworten auf Beziehungsfragen – ehrlich, nah und alltagstauglich.

Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.

Zwar habe GPT-6.1 Astra, das eigentlich in den kommenden Tagen oder Wochen erscheinen sollte, in einigen Punkten Fortschritte gezeigt, aber die eigenen Standards dennoch nicht erreicht. Jain sagte, das Modell habe die Messlatte bei „scope and authorization“ verfehlt und auch bei der Rückmeldung an Nutzer nicht überzeugt.

OpenAI: Training ausgesetzt 

Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training ihrer leistungsstärksten KI-Modelle aussetzte. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internetzugang haben sollte. 

Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.

Hack durch KI als Warnsignal

In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face. Wie sich danach herausstellte, drang auch KI anderer Entwickler – des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta – bei Tests in Systeme anderer Unternehmen ein.

Der Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte jetzt mit dem Antrag auf eine einstweilige Verfügung nach. Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte Floridas Generalstaatsanwalt James Uthmeier.

dpa/dw