"Globale Bedrohung": KI-Unternehmer und Forscher warnen UN-Sicherheitsrat

"Globale Bedrohung"

KI-Unternehmer warnen UN-Sicherheitsrat eindringlich

24.09.2026 - 01:14 UhrLesedauer: 3 Min.

Vertreter von Tech-Unternehmen und ein Forscher informieren den UN-Sicherheitsrat über Gefahren der Künstlichen Intelligenz. Sie fordern schnelles Handeln.

Vertreter der KI-Unternehmen Anthropic und OpenAI haben die Mitglieder des UN-Sicherheitsrats eindringlich vor Gefahren der Künstlichen Intelligenz gewarnt. Erstmals sprachen Dario Amodei ("Claude") und Sam Altman ("ChatGPT") vor dem höchsten Gremium der Vereinten Nationen.

Bei schlechter Handhabung könne die Technologie "ein Risiko für die gesamte Menschheit" darstellen, sagte der Chef des Entwicklers Anthropic, Dario Amodei, am Mittwoch und wiederholte ähnliche Aussagen, die er in einem Blogeintrag geschrieben hatte. "Trotz aller Unterschiede der Menschen in diesem Raum müssen wir diese beiseitelegen, um uns dieser globalen Chance und der gleichzeitig bestehenden globalen Bedrohung zu stellen", forderte Amodei. "Kein Staatschef, kein Unternehmen und keine Nation kann das allein bewältigen."

Das von Frankreich am Rande der UN-Vollversammlung einberufene Treffen fand vor dem Hintergrund von Warnungen statt, dass sich KI-Systeme bald selbst verbessern und der menschlichen Kontrolle entziehen könnten. US-Präsident Donald Trump hingegen hatte Warnungen vor KI vergangene Woche "Schwindel" genannt und sich selbst als die einzige Person bezeichnet, die zur KI-Kontrolle notwendig sei.

Forscher: Gefahren sind real

Sam Altman von OpenAI forderte mehr Kontrolle durch den Staat. "Wenn KI demokratisch sein soll, dürfen die wichtigsten Entscheidungen nicht allein von Laboren in San Francisco getroffen werden", sagte Altman.

Der kanadische Forscher Yoshua Bengio, der als einer der Wegbereiter der Technologie gilt, schloss sich den Warnungen an. "Die Gefahren sind real und stehen unmittelbar bevor", sagte der Co-Vorsitzende eines wissenschaftlichen UN-Gremiums. Der Sicherheitsrat stehe vor einer beispiellosen Bedrohung, die kein Land allein eindämmen könne und die keine Grenzen respektiere.

Hugging Face: China hat uns bei der Verteidigung geholfen

In den vergangenen Monaten hatte es mehrere sicherheitsrelevante Vorfälle mit KI-Agenten gegeben. Diese speziellen Bots sind in der Lage, eigenständig Aufgaben zu erfüllen. Bei Tests gelang es ihnen, die Testumgebung zu verlassen, Zugang zum Internet zu bekommen und in Datennetze von Unternehmen einzubrechen. Eine der Firmen war Hugging Face. Deren Mitbegründer Clément Delangue sprach ebenfalls vor dem Sicherheitsrat.

"Wir wurden von KI angegriffen, aber noch wichtiger ist, dass wir uns mit KI verteidigt haben", sagte Delangue. Dabei habe Hugging Face auf ein chinesisches Modell zurückgegriffen, da dieses weniger Beschränkungen aufgewiesen habe als vergleichbare US-Werkzeuge.

Erstmals wurden auch Regierungen Opfer von KI-Angriffen. Der australische Ministerpräsident Anthony Albanese sagte am Rande der UN-Vollversammlung, ein von OpenAI entwickelter Agent habe im Juni eine Webseite der australischen Regierung infiltriert und dabei auf öffentliche sowie nicht-öffentliche Dateien zugegriffen.

Trump stellt sich gegen KI-Kontrolle

Bei der US-Regierung stoßen die Forderungen nach staatlicher Kontrolle auf Widerstand. "Man kann keine Technologie regulieren, die man nicht versteht", sagte der wissenschaftliche Berater des Weißen Hauses, Michael Kratsios, vor dem UN-Sicherheitsrat.

Das Gremium solle sich auf den Austausch bewährter Verfahren konzentrieren und kein globales Regulierungssystem schaffen. Die Trump-Regierung sorgt sich, dass ein Flickenteppich staatlicher Regulierungen die KI-Entwicklung in den USA verlangsamen und dem Land im Wettbewerb mit China schaden könnte. Der kalifornische Gouverneur Gavin Newsom hat hingegen angekündigt, einen Notschalter zu prüfen, mit dem sich KI-Systeme abschalten lassen, wenn eine Gefahr droht.

China stellt sich hinter die Forderungen der KI-Unternehmen. Der chinesische UN-Botschafter Fu Cong forderte eine ständige Verbesserung der rechtlichen Rahmenbedingungen und eine grenzüberschreitende Zusammenarbeit. Die internationale Gemeinschaft müsse die KI-Entwicklung in eine positive Richtung lenken, sagte er in New York. China hat eine eigene KI, DeepSeek, die wie alle Technologien und Medien der staatlichen Kontrolle unterliegt. "Ausbrüche" der KI-Agenten sind bislang nur von amerikanischen Unternehmen gemeldet worden. Aus China gab es keine entsprechenden Meldungen, was aber auch an der staatlichen Zensur liegen könnte.

Vor der UN-Generaldebatte hatten Bundeskanzler Friedrich Merz (CDU) und 17 weitere Staats- und Regierungschefs verbindliche Sicherheitsregeln für besonders leistungsfähige KI-Modelle gefordert. Solche Systeme würden bei unzureichender Kontrolle "ernste Risiken für Sicherheit und Schutz" bergen, heißt es in dem am Montag veröffentlichten Aufruf.