Digitalminister Wildberger fordert Regulierung für KI: „Keiner will, dass die Menschheit zerstört wird“

Die rasante Entwicklung von KI bereitet den europäischen Regierungsspitzen Kopfzerbrechen. Europa ist allen Risiken voll ausgesetzt, hat aber wenige Hebel, um mitreden zu können. „Wir beherrschen die entscheidenden Wertschöpfungsstufen nicht ausreichend“, sagte Bundesdigitalminister Karsten Wildberger (CDU) im Interview mit SZ Dossier.

Eines der größten Risiken sei, dass die Technologie „gegen uns verwendet“ werde. Europa dürfe sich in der Debatte über KI-Sicherheit daher nicht „nur philosophisch beteiligen“, sondern müsse diese aktiv mitgestalten. „Wir wollen KI, die anders gebaut ist“, sagte Wildberger. „Das können wir tun.“ Daran werde geforscht und gearbeitet.

Wildberger äußert sich damit auch zur jüngsten Warnung führender KI-Experten aus Tech-Konzernen, die Technologie könne zur Gefahr für die Menschheit werden und sie gar auslöschen. Anthropic-Chef Dario Amodei hatte am Wochenende eine weltweite Drosselung des Forschungstempos gefordert. Auch der Nationale Sicherheitsrat unter der Leitung von Bundeskanzler Friedrich Merz (CDU) beschäftigte sich an diesem Montag mit dem „sicherheitspolitischen Aspekt“ künstlicher Intelligenz, wie die Bundesregierung mitteilte.

Mich überrascht, wie schnell die Entwicklungen voranschreiten.

Digitalminister Karsten Wildberger (CDU)

„Die Vorteile sind exorbitant hoch, die Risiken aber ebenso“, sagte Wildberger. „Es ist zwar schon länger absehbar, aber mich überrascht doch, wie schnell die Entwicklungen voranschreiten.“

Die Risiken seien nicht unterschätzt, sondern nicht gehört worden. Wildberger sprach sich für eine globale KI-Kontrollbehörde nach dem Vorbild der Internationalen Atomenergie-Organisation (IAEA) aus. „Man muss sich zuerst auf Prinzipien verständigen, die sich auch Unternehmen oder Entwickler – und zwar unabhängig von gesellschaftlichen Systemen – zu eigen machen“, sagte er.

Diese Behörde müsse auch technische Fähigkeiten haben, um bei der Geschwindigkeit der Entwicklungen mithalten zu können. „Am Ende muss man sich verständigen, inwieweit man gegenseitige Transparenz auf internationaler Ebene erreichen kann“, sagte Wildberger. Die Schnittmenge sei klar: „Keiner will, dass die Menschheit zerstört wird.“ Das sähen „alle rational denkenden Menschen so“.

Wildberger will jetzt die besten Expertinnen und Experten nach Deutschland holen

„Am Ende des Tages kriegen wir das nur mit einer Übereinkunft zwischen den großen Playern USA und China gelöst“, sagte Wildberger. Eines der größten Risiken sei, dass die Technologie in falsche Hände gerate: „Wir dürfen nicht unterschätzen, dass es am Ende nicht um die Maschinen geht, sondern was Menschen mit ihnen machen.“

Der Minister warnte insbesondere vor agentischen Fähigkeiten, die sich nicht mehr kontrollieren ließen. Etwa dann, wenn die Technologie in der Lage sei, sich aus einer geschützten Umgebung zu befreien oder Agenten plötzlich anfingen, zu kooperieren und sich selbständig zu machen. „Dann heißt das für mich, dass wir heute technisch noch nicht in der Lage sind, das wirklich zu kontrollieren“, sagte Wildberger.

Die Bundesregierung hat vor wenigen Wochen ein eigenes KI-Sicherheitsinstitut namens AISI (AI Safety and Security Institute) Deutschland auf den Weg gebracht, das künftig Modelle analysieren und die Regierung beraten soll. Vorbild dafür ist Großbritannien. Wildberger will nun die besten Expertinnen und Experten finden und nach Deutschland holen. Sein Ministerium führe bereits Gespräche mit führenden Forschenden. Eventuell könnten dafür Deutsche aus dem Ausland zurückgeholt werden, deutete Wildberger an: „Wir haben so viele exzellente Personen aus Deutschland, dass wir nicht woanders suchen müssen.“

Auch international schlugen die jüngsten Entwicklungen Wellen: Spaniens Digitalminister Óscar López sprach sich für ein internationales Abkommen zur Bewältigung von KI-Risiken aus. US-Präsident Donald Trump kritisierte die Diskussion als „kranke Verschwörung gegen KI“. London begrüßte die Debatte über die Risiken immer leistungsfähigerer Systeme. Künftige Maßnahmen sollten sich jedoch an Fakten und nicht an Spekulationen orientieren.

Digitalminister Wildberger reist an diesem Dienstag mit einer Wirtschaftsdelegation nach Kanada und besucht in Montreal eine KI-Messe. Die Sicherheit von KI-Systemen wird ein Schwerpunkt seiner Reise sein.