OpenAI: Atug fordert Haftung nach KI-Hack

AUDIO: KI von OpenAI verübt Hackerangriff (6 Min)

Nach KI-Cyberangriff

AG-Kritis nennt OpenAI "verantwortungslos"

Stand: 22.07.2026 20:43 Uhr

Nach einem eigenständigen Cyberangriff eines OpenAI-Modells wirft IT-Sicherheitsberater Manuel Atug dem Unternehmen Verantwortungslosigkeit vor. Er fordert mehr Herstellerhaftung und strengere Regeln für KI-Systeme.

von MDR AKTUELL

• Nach dem Cyberangriff eines OpenAI-Modells warf AG Kritis-Sprecher Manuel Atug dem Unternehmen Verantwortungslosigkeit vor.
• Bei einem Sicherheitstest drangen OpenAI-Modelle selbstständig in Systeme des Start-ups Hugging Face ein.
• Das Bundesdigitalministerium plant ein KI-Sicherheitsinstitut sowie mehr eigenes Fachwissen.

Nach dem eigenständig ausgeführten Cyberangriff eines OpenAI-Modells hat Manuel Atug, Sprecher der Arbeitsgruppe Kritische Infrastrukturen (AG Kritis), scharfe Kritik an dem US-Unternehmen geübt. Firmen wie OpenAI nähmen mögliche Kollateralschäden in Kauf und wiesen zugleich jede Herstellerhaftung von sich, sagte der IT-Sicherheitsberater im Interview mit MDR AKTUELL.

Atug hält derartige Vorfälle angesichts der schnellen Entwicklung für absehbar. KI sei letztlich Software, werde aber schneller weiterentwickelt, als sie kontrolliert und abgesichert werden könne. "Ich finde das beispiellos, wie verantwortungslos dieser Hersteller Software entwickelt und auf Testsysteme loslässt, die nicht ordentlich gesichert sind. Das ist sehr verantwortungslos."

Video: Cybervorfall entfacht Debatte über KI-Regulierung (3 Min)

Aus Atugs Sicht müssten Hersteller stärker gesetzlich in die Verantwortung genommen werden. Dafür brauche es nicht nur entsprechende Regeln, sondern auch eine konsequente Rechtsdurchsetzung auf deutscher und europäischer Ebene. Diese sei bislang mangelhaft bis ungenügend. KI-Systeme müssten zunächst sicher konzipiert und erst anschließend auf den Markt gebracht werden.

KI hackt Firma

OpenAI wollte bei einem internen Test prüfen, wie gut neue KI-Modelle Sicherheitslücken für Cyberangriffe ausnutzen können. Dafür sollten sie in einer abgeschotteten Testumgebung Aufgaben des Sicherheitstests ExploitGym lösen. Die Software entdeckte jedoch eine bislang unbekannte Schwachstelle in einem externen Programm, verschaffte sich damit Zugang zum offenen Internet und drang anschließend in Systeme der KI-Plattform Hugging Face ein.

Video: Warum wir Chatbots vermenschlichen (9 Min)

Nach Angaben von OpenAI suchten die Modelle dort nach Informationen, die ihnen beim Lösen der Testaufgaben helfen sollten. Dabei nutzten sie weitere Sicherheitslücken sowie gestohlene Zugangsdaten. Hugging Face zufolge führte der KI-Angreifer Tausende einzelne Schritte aus und wechselte mehrfach den Ort, von dem aus die Attacke digital gesteuert wurde. Open AI sprach von einem beispiellosen Cybervorfall.

Bundesministerium handelt

Das Bundesdigitalministerium sieht darin einen Paradigmenwechsel. Die Fähigkeiten von KI-Modellen nähmen massiv zu und veränderten damit auch die Bedrohungslage, sagte ein Ministeriumssprecher. Die Bundesregierung nehme die Entwicklung sehr ernst, erklärte der stellvertretende Regierungssprecher Steffen Meyer.

Der Nationale Sicherheitsrat hat die Gründung eines KI-Sicherheitsinstituts beschlossen. Zudem will die Bundesregierung nicht nur die Regulierung stärken, sondern auch eigenes Fachwissen aufbauen. Ziel sei ein Rahmen, in dem europäische KI-Modelle erfolgreich entwickelt werden könnten.

AFP/dpa/MDR (jst)

Unionsfraktionchef

Frei soll neuer Unionsfraktionschef werden

Thorsten Frei soll nach Jens Spahn neuer Chef der Unionsfraktion werden. Das berichten mehrere Medien übereinstimmend. Die Abstimmung ist für nächste Woche Mittwoch geplant.

Ministerpräsident Sachsen

Kretschmer: Brandmauer muss fallen

"Wer noch über Brandmauern redet, hat die Zeichen der Zeit nicht erkannt", sagt Sachsens Ministerpräsident Michael Kretschmer. Zeit für eine Regierung mit AfD-Beteiligung?

Heizungstausch

Neue Förderung mit geringeren Zuschüssen

Es gibt neue Förderregeln für Wärmepumpen und klimafreundliche Heizungen. Zuschüsse gibt es zwar weiter, doch für viele fallen sie viel geringer aus.

Leihmutterschaft

Neue Debatte über Leihmutterschaft

Nach dem Rücktritt von Jens Spahn (CDU) als Fraktionschef ist eine alte Debatte neu entfacht: Sollte Leihmutterschaft in Deutschland legal sein?

Förderung beim Heizungstausch

Drei Fragen an den Energieberater

Wer die alte Heizung gegen eine Wärmepumpe austauschen will, kann ab sofort wieder staatliche Förderung beantragen. Sollten Verbraucher jetzt möglichst schnell handeln? Und wie wirkt sich das auf die Branche aus?