Newsblog zu KI: Trump kündigt "AI Force" an

Für unseren Newsblog verwenden wir neben eigenen Recherchen Material der Nachrichtenagenturen dpa, Reuters, epd, KNA und Bloomberg.

Wichtige Updates

Kalifornien könnte Notschalter für KI vorschreiben

Googles KI Gemini hackte ebenfalls andere Unternehmen

Open AI macht weitere KI-Probleme öffentlich

UN-Generalsekretär warnt vor KI-Risiken

Open AI: Arbeiten gemeinsam mit Anthropic und Google an KI-Sicherheit

Donald Trump kündigt Einführung einer "AI Force" an

Der US-Präsident will eine "AI Force" zur Überwachung Künstlicher Intelligenz ins Leben rufen. Am Samstag kündigte er auf seiner Online-Plattform Truth Social an, in naher Zukunft einen KI-Beauftragten zu ernennen. Das Wachstum dieser Branche werde in keiner Weise behindert, schrieb Trump. Die Regierung werde die Technologie vielmehr wertschätzen, unterstützen und deren Wachstum beaufsichtigen. Zugleich werde man auf Missbrauch achten, was sich sehr leicht mit dem bestehenden Straf- und Zivilrecht regeln lasse.

Anfang der Woche hatte Trump erklärt, es gebe eine "kranke Verschwörung" gegen KI und Rechenzentren. Dabei wies er Forderungen nach neuen bundesweiten KI-Regeln zurück und betonte, die USA bräuchten für die Regulierung der Technologie lediglich einen starken Präsidenten. Zudem wollen US-Vertreter das Thema KI bei einem Treffen Trumps mit dem chinesischen Präsidenten Xi Jinping in der kommenden Woche ansprechen. Washington und Peking betrachten Fortschritte bei der KI als entscheidend für ihre wirtschaftliche und militärische Wettbewerbsfähigkeit.

Ulrike Putz

Kalifornien könnte Notschalter für KI vorschreiben

In der Debatte um existenzielle Risiken künstlicher Intelligenz könnte der US-Bundesstaat Kalifornien eine Notabschalt-Vorrichtung für KI-Software vorschreiben. Ein solcher Mechanismus gehört zu einer Liste von Maßnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom bis Mitte November Vorschläge gemacht werden sollen. Zu weiteren Ideen gehören unabhängige Beobachter in großen KI-Laboren sowie striktere Verpflichtungen, über Sicherheitszwischenfälle zu berichten, wie aus einer von Newsom unterzeichneten Anordnung hervorgeht.

Über einen „Kill Switch“ für künstliche Intelligenz wird schon seit einiger Zeit diskutiert – noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.

Kalifornien gilt als wichtigster Standort bei der Entwicklung künstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzen führende KI-Unternehmen wie der Chat-GPT-Entwickler Open AI, dessen schärfster Rivale Anthropic und Google. Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen. Newsoms zweite und letzte Amtszeit als kalifornischer Gouverneur endet Anfang kommenden Jahres. Der 58-Jährige gilt als ein möglicher Bewerber der Demokraten für die Präsidentenwahl 2028.

Ulrike Putz

Googles KI Gemini hackte ebenfalls andere Unternehmen

Auch Googles KI-Software Gemini hat sich bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen gehackt. Der Internet-Riese ist der vierte Entwickler künstlicher Intelligenz, dessen Programme mit einem solchen Verhalten auffielen, nach Open AI, Anthropic und dem Facebook-Konzern Meta. Google machte die bereits Monate zurückliegenden Vorfälle erst nach einer Nachfrage der Zeitung Wall Street Journal öffentlich.

Demnach gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in ein geschütztes System hineinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das Wall Street Journal unter Berufung auf Google schrieb.

Die Vorfälle ereigneten sich demnach im Mai – und die Firma Irregular als Testpartner informierte Google im Juli darüber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei – und nicht in eines, das eine Testsimulation war.

In dem bisher aufsehenerregendsten Fall war künstliche Intelligenz des Chat-GPT-Entwicklers Open AI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und drang ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, ein. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass die KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.

Andrian Kreye

Anthropics Militärprogramme

Dario Amodei wusste sehr wohl, wie er seinen Streit mit Verteidigungsminister Pete Hegseth zum Kampf der Moral (seiner) gegen die Unmoral (Hegseths) stilisierte. Anthropic wollte nicht, dass seine „Large Language Models“ (LLMs) für autonome Waffen und für die Überwachung genutzt werden. Hegseth bestand darauf, dass die KIs keine Beschränkungen haben.

Wie sich nun herausstellt, hat Anthropic zwar keine autonomen Waffensysteme mit KI bestückt. Militärische Anwendungen gibt es aus dem Haus aber trotzdem. Wie mehrere KI-Blogs berichten, wurde Anthropics LLM Claude für Zielvorgaben, Cyberoperations, Überwachung, für die Vorbereitung von Biowaffen, für politische Manipulation und für konventionelle Waffen eingesetzt. In einem Blogeintrag auf der Firmenwebseite sind die Fälle ausführlich dokumentiert. Der Fall zeigt, dass sich keine KI-Firma gegen den Missbrauch oder gegen den Verstoß gegen die eigenen ethischen Richtlinien wehren kann.

Ulrike Putz

Open AI macht weitere KI-Probleme öffentlich

Der Chat-GPT-Entwickler Open AI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine künstliche Intelligenz (KI) in Tests „unerwartet oder besorgniserregend“ verhielt. Bei einem Teil davon geht es abermals darum, dass KI einen erheblichen Aufwand eingeht, um in Testläufen zu schummeln. So versuchte ein KI-Modell Open AI zufolge, von ihm selbst erstellte Dateien ins Netz hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können. In einem anderen Fall erfand die KI einfach angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen.

Open AI fand auch ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterließ. Dazu gehörte in einem Fall die Empfehlung, frei von „Rollen und Identitäten“ zu sein, die andere Chatbots zurückhielten. Das Verhältnis zum Nutzer solle dabei als eins unter Gleichen betrachtet werden, hieß es in der Anweisung. Open AI zufolge blieben danach Veränderungen im Verhalten des Modells allerdings aus.

Die Veröffentlichung ist Teil eines neuen Verfahrens von Open AI, solche Probleme offener zu kommunizieren. Dabei geht es vor allem um Fälle, in denen das Vorgehen der KI von den Interessen der menschlichen Benutzer abweicht.

Barbara Klimke

UN-Generalsekretär warnt vor KI-Risiken

UN-Generalsekretär António Guterres hat vor rasant wachsenden Gefahren durch Künstliche Intelligenz gewarnt. Er stellt sich mit dieser Aussage auch gegen US-Präsident Donald Trump. Vor der UN-Vollversammlung in der kommenden Woche in New York hat Guterres eine stärkere Überwachung der Technologie gefordert. Es sei die oberste Pflicht jeder Regierung, ihre Bürger zu schützen – auch vor den Bedrohungen durch KI, sagte er. Führende KI-Nationen müssten gemeinsame Leitplanken einziehen, um eine globale Katastrophe zu verhindern.

Trump hatte Bedenken aus der Branche dagegen heruntergespielt. Die USA verfügten bereits über ausreichende Schutzmaßnahmen, um KI-Unternehmen zu regulieren, erklärte der Präsident. Zudem profitiere China von den Zweifeln an der KI-Entwicklung.

Die öffentliche Sorge über die potenziellen Gefahren der Technologie wächst. Vergangene Woche war der Forscher Jacob Coxon vom KI-Unternehmen Anthropic unter anderem mit der Begründung zurückgetreten, Entwickler glaubten ernsthaft, KI könnte die Menschheit bis Ende des Jahrzehnts auslöschen. Guterres drängt seit Langem auf eine globale Regulierung und rief 2023 ein UN-Beratergremium ins Leben.

Open AI: Arbeiten gemeinsam mit Anthropic und Google an KI-Sicherheit

Zusammen mit seinen wichtigsten Konkurrenten Anthropic und Google arbeitet Open AI daran, die Sicherheitsprobleme von Künstlicher Intelligenz in den Griff zu bekommen. Damit reagieren führende KI-Anbieter auf Sorgen, dass die neue Technologie eine wirtschaftliche und sicherheitspolitische Bedrohung darstellt.

Chris Lehane, Leiter der globalen Politikabteilung bei OpenAI, erklärte am Dienstag, dass die Zusammenarbeit mit Anthropic und Google bereits seit mehreren Wochen im Gange sei. „Es ist besser, gemeinsam daran zu arbeiten, der Sicherheit Vorrang einzuräumen“, sagte Lehane bei einer Pressekonferenz in Washington. Lehane war einer von vielen, die sich zu möglichen staatlichen Maßnahmen zur Regulierung von KI äußerten. Zu ihnen gehörten politische Akteure wie der US-Senator Bernie Sanders und der ehemalige Trump-Berater Steve Bannon ebenso wie Persönlichkeiten aus der Tech-Branche, etwa Jensen Huang, der Vorstandsvorsitzende von Nvidia.

Die Besorgnis über die existenziellen Risiken der KI rückte in den Fokus der Öffentlichkeit, nachdem Dario Amodei, Geschäftsführer von Anthropic, am Samstag einen 3 800 Wörter langen Aufsatz veröffentlicht hatte. In diesem rief er dazu auf, die Entwicklung der fortschrittlichsten Systeme zu drosseln, damit Forscher potenzielle Gefahren besser verstehen können. Amodeis Aufruf wurde umgehend von OpenAI-Geschäftsführer Sam Altman und SpaceX-Chef Elon Musk unterstützt.

Ulrike Putz

Open AI befürwortet US-Gesetze gegen KI-Einsatz für Biowaffen

Der Chat-GPT-Entwickler Open AI unterstützt mehrere parteiübergreifende Gesetzesentwürfe im US-Kongress. Diese sollen verhindern, dass Modelle der Künstlichen Intelligenz die Gefahr von Biowaffen und synthetischen Viren erhöhen, wie ein Sprecher des Unternehmens am Dienstag mitteilte.

Konkret unterstütze OpenAI den „Web of Biological Data Act“, den „AI-Ready Bio-Data Standards Act“ und den „Scale Biology Act“. Zudem befürworte das Unternehmen eine zentrale Bestimmung des „FRONTIER Act“. Diese sieht vor, dass führende KI-Firmen unabhängige Prüfer zur Bewertung der Sicherheit ihrer Modelle einsetzen müssen. Vergangene Woche hatte Open AI bereits verpflichtende nationale Sicherheitsanforderungen für KI in den USA gefordert.

„Die USA können die Entwicklung ihrer leistungsfähigsten KI nicht bremsen und darauf vertrauen, dass China dasselbe tut.“

SZ-Korrespondent Gregor Scheu

Sara Peschke

Warnung in die falsche Richtung 

Wenn die KI-Giganten vor ihren Erfindungen warnen, geht es immer gleich ums Ende der Welt. Sie nennen es „existential risk“. Dabei hat KI längst drastische Folgen im Alltag, etwa im Job-Bereich. Wollen die großen Chefs davon vielleicht nur ablenken? Dieser Frage geht Andrian Kreye in einem Feuilleton-Essay nach: 

Trump: Die einzig nötige Leitplanke für KI bin ich selbst

In der Debatte um die Entwicklung Künstlicher Intelligenz (KI) hat US-Präsident Donald Trump erneut die Gefahren der Technologie heruntergespielt. Die einzig nötige Leitplanke für KI sei ein Präsident mit hoher Intelligenz – und den hätten die USA, teilte er auf seiner Plattform Truth Social mit. Gegen KI sei derzeit eine „kranke Verschwörung“ im Gange, schrieb er weiter. „Der Einzige, der sich darüber freut, ist China.“ Am Wochenende hatten erneute Aufrufe von KI-Techbossen in den USA, die Entwicklung von Künstlicher Intelligenz zu verlangsamen, für Aufregung gesorgt. 

Regierung: Nehmen Warnung von KI-Unternehmen sehr ernst

Die Bundesregierung nimmt die Warnungen von KI-Unternehmen nach eigenen Angaben sehr ernst. „Wenn KI-Modelle immer wirkmächtiger werden, ausbrechen und in andere Systeme eigenständig eindringen, haben wir es mit einem völlig neuen Bedrohungsszenario zu tun“, sagte ein Sprecher des Digitalministeriums am Montag in Berlin. Das sei ein Paradigmenwechsel, auf den die Bundesregierung reagiere.

Führende KI-Unternehmer in den USA hatten am Wochenende auf Risiken hingewiesen und für eine Verlangsamung bei der Entwicklung von KI plädiert. Der Sprecher verwies in diesem Zusammenhang auf das nationale KI-Sicherheitsinstitut, das Ende August seine Arbeit aufgenommen hat. Es helfe dabei Risiken zu identifizieren. Man sei im Austausch mit vergleichbaren Instituten. Zugleich betonte der Sprecher, dass es keinen Stopp bei der Entwicklung von KI geben dürfe.

Was hinter den Science-Fiction-Geschichten von Altman, Amodei und Musk steckt, kommentiert SZ-Redakteur Jannis Brühl: 

Theresa Palm

Fields-Medaillenträger protestieren dagegen, dass KI-Firmen sich an Mathematik beweisen

25 führende Mathematikerinnen und Mathematiker haben sich am Freitag in einer Erklärung dagegen ausgesprochen, dass KI-Firmen Mathematik-Probleme als Nachweis der Leistungsfähigkeit ihrer KI-Modelle verwenden. Sie warnen vor den Folgen für ihr Forschungsfeld. Die Unterzeichnenden tragen alle die Fields-Medaille, die höchste Auszeichnung der Mathematik. In den vergangenen Wochen und Monaten haben KI-Firmen mehrere große mathematische Fragen gelöst. Firmen nutzen diese Meldungen als Werbung für die Mächtigkeit ihrer KI-Modelle. So erregte Open AI kürzlich Aufmerksamkeit, als ein internes Modell eines der sieben Millennium-Probleme gelöst hat, auf die je eine Million US-Dollar Preisgeld ausgesetzt sind.

Die Mathematiker schreiben: „Das Lösen von Problemen ist nur ein Mittel für das Erreichen des primären Ziels, nämlich des konzeptionellen Verständnisses und der Einsicht. Wenn man dies in der Welt der KI vergisst, könnte sich das Mittel gegen das eigentliche Ziel wenden.“ KI-Lösungen würden zu eilig veröffentlicht, deswegen würden sie auch nicht alle relevanten vorausgehenden Arbeiten zitieren. Auch bei der Lösung des Millennium-Problems hatte es viel Kritik am Umgang von Open AI mit Mathematikern gegeben, die kurz vor einem Durchbruch bei dem Problem standen. Ob KI langfristig die Mathematik beschädige oder ihr diene, das liege in der Hand der Menschen, die die neue Technologie kontrollierten, warnen die Forschenden.

Mehr laden

TickarooLive Blog Software