Zuckerbergs neuer KI-Agent Muse: Das neue Produkt von Meta birgt Risiken

Neue KI-Agenten sehen so herzig aus wie Teddybären – und wollen Zugang zu Ihren persönlichsten Daten

Ausgerechnet Mark Zuckerberg hat bei den persönlichen KI-Agenten die Nase vorn. Aber will man seinen Alltag wirklich von Meta organisieren lassen?

03.10.2026, 05.30 Uhr

7 Leseminuten

Während der Anthropic-Chef Dario Amodei vor der Bedrohung der Menschheit durch KI warnt und Sam Altman die Einführung des neusten Open-AI-Modells stoppt, hält Mark Zuckerberg auf einer Bühne ein kleines Gerät in die Höhe. Darin abgebildet ist ein fluffiges Wesen, das an einen Teddybären erinnert.

Optimieren Sie Ihre Browsereinstellungen

NZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.

Bitte passen Sie die Einstellungen an.

Auf der jährlichen Meta-Konferenz stellte er Ende September einen niedlichen KI-Assistenten namens Muse vor, an den man alles delegieren könne, was nervt, so das Versprechen. Termine koordinieren zum Beispiel oder Einkäufe erledigen. Das Gerät soll in den USA im Dezember erhältlich sein, den KI-Agenten kann man dort bereits herunterladen und auf dem Handy oder Laptop benutzen. Die Downloads stiegen massiv an, mittlerweile wird die App des Agenten in den USA häufiger installiert als diejenige von Chat-GPT.

Das Gadget sieht herzig aus, ist aber alles andere als harmlos. Es steht für die nächste Welle von KI: nicht mehr Chatbots, die Fragen beantworten, sondern Agenten, die uns Aufgaben abnehmen. Und zwar nicht nur während der Arbeit, sondern auch in unserem Privatleben. Inzwischen hat auch Sam Altman einen solchen Agenten namens Dots lanciert. Aber ausgerechnet Zuckerberg, dessen Firma bei KI bisher nicht vorne mitspielte, kam ihm zuvor.

Die Softwareumgebung rund um die Modelle wird wichtiger

Sprung über den Atlantik. Auch hier in Zürich arbeiten Forscher am neuen KI-Assistenten. Im ETH Center in Zürich nahe dem Bahnhof Oerlikon sitzen an einem Vormittag Ende September drei KI-Forscher von Meta an einer Veranstaltung auf hohen Stühlen. Einer von ihnen war am Training des KI-Modells hinter dem neuen KI-Agenten Muse beteiligt.

Davor war er mehrere Jahre für Google tätig, bis er vor über einem Jahr zu Meta wechselte. Seither arbeite er daran, die Firma «back to the frontier» zu bringen, zurück an die Spitze. Und sagt stolz: Muse erhalte sehr gute Rückmeldungen und Download-Zahlen in den USA.

In der kommenden Stunde werden er und seine Kollegen über die nächsten Grenzen von KI-Modellen sprechen. Ein Begriff, der fällt, ist die Innovation sogenannter «Harnesses», zu Deutsch Geschirr oder Gurtzeug. Das sei derzeit eines der heissesten Themen. Mit dem Begriff ist die Softwareumgebung um eigentliche KI-Modelle herum gemeint, die dafür sorgt, dass man sie als Agenten nutzen kann. Sie ermöglicht, dass die Modelle via Schnittstellen auf externe Datenbanken und das Internet zugreifen können oder Dateien speichern.

Muse ist ein solcher Agent, und zwar für alles, was mit unserem persönlichen Alltag zu tun hat. Gibt man ihm Zugriff auf den Kalender und Bezahldaten, soll er das Treffen für den nächsten Stammtisch koordinieren können, das Restaurant reservieren, der Schwiegermutter Blumen heimschicken.

Mit dem Portemonnaie ausgestattet

Auf Demovideos sieht man, wie das vor sich gehen soll: In einem Fenster hat man stets eine Übersicht darüber, woran der Agent gerade arbeitet, in einem anderen kann man die nötigen Berechtigungen freigeben – etwa für einen Einkauf oder das Senden einer E-Mail. Der Agent stellt persönliche Ziele zusammen und speichert alles Gesammelte in Dokumenten in einer Bibliothek. Er soll für jeden Nutzer über einen separaten, abgetrennten Computer in der Cloud von Meta laufen.

Verbinden lässt sich der Agent mit Diensten von Unternehmen, mit denen Meta eine Partnerschaft eingegangen ist, darunter Google Docs, Gmail oder die Plattform Ticketmaster. Fürs Bezahlen nutzt er den Online-Bezahldienst Stripe Link. Jeder Kauf müsse manuell bestätigt werden, schreibt Meta. Bei einer Zahlung auf einer neuen Website greife Muse auf ein Portemonnaie zu, in dem Zahlungsdaten «vorschriftsmässig» gespeichert würden. Statt der regulären Kreditkarte werde eine einmalig verwendbare Kartennummer ausgestellt und an die Website des Händlers weitergeleitet.

Die Zahlungsdaten seien an diesen Händler und einen bestimmten Dollarbetrag gebunden und nur für einen begrenzten Zeitraum gültig. Wie dieser Zeitraum definiert ist und was Meta unter «vorschriftsmässig» genau versteht, wird nicht näher ausgeführt.

Meta rollt den Agenten zu Beginn kostenlos aus mit kostenpflichtigen Tarifen ab einer gewissen Nutzungsintensität und rechnet damit, in Zukunft über eine «kleine Transaktionsgebühr» Einnahmen zu generieren. In Zukunft soll er mit den KI-Brillen von Meta verbunden werden und dadurch «sehen» können, was der Nutzer sieht. Im kleinen Gadget werde er per Fingerabdruck aktiviert, erklärte Zuckerberg an der Präsentation im September.

Zuckerberg muss liefern

Während Anthropic und Open AI mit ihren agentischen Modellen bisher auf Firmenanwendungen setzten, sieht Zuckerberg ein Business im Privatleben der Menschen.

Die Strategie mit den persönlichen KI-Agenten beschrieb er bereits in einem Blogpost im vergangenen Sommer und verpackte sie in blumige Worte. Ein Auszug: Metas Vision sei es, jede Person mit einer persönlichen Superintelligenz auszustatten. Diese helfe einem unter anderem dabei, seine Ziele zu erreichen, das zu erschaffen, was man sich für die Welt wünsche, jedes Abenteuer zu erleben und zur Person zu werden, die man sein wolle.

Für seine Vision hat Zuckerberg Milliarden von Dollar ausgegeben, um Talente von anderen Firmen abzuwerben, Rechenzentren aufzubauen und Startups zu übernehmen. Die KI-Sparte bei Meta strukturierte er vor einem Jahr um und ernannte den Gründer eines der Startups zum Chef der Abteilung.

Investoren wurden unruhig ob dieser Turbulenzen. Vor allem, weil sich Zuckerberg in der Vergangenheit verkalkuliert hatte. Das Metaverse, eine Art virtuelle Parallelwelt, in die Zuckerberg Milliarden investierte, erwies sich als Flop. Das KI-Modell Llama konnte nicht mit denjenigen von Open AI oder Anthropic mithalten.

«Klar erfolgt solch ein Schritt auch aus Druck», sagt Johannes Luger, Professor für strategisches Management an der Universität Zürich, zur Veröffentlichung des neuen, persönlichen KI-Agenten. «Meta agiert aus einer defensiven Position, in der endlich einmal etwas funktionieren muss.»

Zumindest der Start scheint geglückt. Seit der Einführung von Muse in den USA stieg der Aktienkurs von Meta um rund 18 Prozent.

Das Prinzip Niedlichkeit

Dass Zuckerberg gerade bei persönlichen KI-Agenten vorprescht, liegt auch daran, dass Meta gegenüber der Konkurrenz einen entscheidenden Vorsprung hat: Dank Whatsapp, Instagram und Facebook verfügt Meta über ganz persönliche Daten, die vieles über die Interessen und Bedürfnisse ihrer Nutzer aussagen. Was den Nutzerinnen auf Instagram gefällt, kann Muse nutzen, um Restaurants herauszusuchen oder Produkte zum Kauf vorzuschlagen.

Dazu nutzt die Firma Verniedlichung, um Vertrauenswürdigkeit zu suggerieren. Meta setzt gerade in Zeiten, in denen vermehrt über die Risiken und Gefahren von KI gesprochen wird, bei der Vermarktung auf ein freundliches, niederschwelliges kleines Tierwesen. Die Anwendung wirkt dadurch harmlos statt mächtig. Ihr eine Vielzahl an Zugriffsrechten zuzusprechen, wird spielerisch. Und fällt womöglich leichter.

Johannes Luger von der UZH führt an seinem Lehrstuhl Experimente durch, die untersuchen, wie viel Menschen bereit sind, an die KI auszulagern. «Wir sehen, dass die Leute doch sehr unkritisch sind», sagt er. Er beobachtete, dass die Teilnehmer am Anfang einen kurzen Check der Fähigkeiten der KI durchführten. Sobald sie diese für gut befunden hatten, vertrauten sie deren Entscheidungen. «Wird die KI dann plötzlich schlechter, nehmen das die Leute nicht mehr wahr», sagt er.

Lagerten Menschen Entscheidungen aus, riskiere gerade eine jüngere Generation zu verlernen, abzuwägen, kritisch zu hinterfragen und ohne KI Entscheidungen zu treffen. Diese Entscheidungen gebe man in die Hand einzelner Firmen, statt sie selbst zu treffen.

Muse werde Fehler machen, schreibt Meta

An der Veranstaltung in Zürich wiesen zwei der Meta-Forscher auf die Restunsicherheit in Bezug auf KI-Systeme hin. KI funktioniert probabilistisch, also durch Wahrscheinlichkeiten. Eine absolute Sicherheit gibt es in diesem Feld nicht.

Meta schreibt bei der Ankündigung von Muse denn auch, ganz gleich, wie leistungsfähig das Modell im Kern auch sein möge, ein solcher Agent werde «dennoch Fehler machen und manchmal über die von ihm gelesenen Daten angegriffen werden».

Die Firma setzt auf Schadensbegrenzung. Die Anwendung laufe in einer eigenen, abgetrennten Umgebung. Zudem habe sie keinen Zugriff auf echte Anmeldedaten, und jede Interaktion mit der Aussenwelt laufe über einen sogenannten «Sentinel», eine Sicherheitsinstanz, die die Aktionen überprüft.

Trotzdem: Das Risiko besteht, dass bei Agenten etwas schiefläuft. Bereits jetzt haben sich Nutzer beschwert. Ein Journalist schrieb etwa, Muse habe unerlaubt seine privaten Nachrichten gelesen. Vertreter von Meta antworteten darauf, das sei nur mit einer mehrstufigen, ausdrücklichen Genehmigung vonseiten des Nutzers möglich.

Zwei Tage vor der Präsentation des KI-Agenten an der Meta-Konferenz entdeckte ein Nutzer, der sich auf das Finden von Schwachstellen spezialisiert hat, eine Sicherheitslücke im System. Ein Mitarbeiter von Meta gab kurz darauf bekannt, die Lücke geschlossen zu haben und die Meldung solcher Entdeckungen mit bis zu 300 000 Dollar zu vergüten.

We appreciate this report and have issued a hotfix to the Muse Mac app. This was a local privilege escalation attack, not a remote exploit. Using it to do harm therefore requires malicious code already running on the user’s machine under their user account and the practical risk… https://t.co/N6gSlWeU3C

— David Singleton (@dps) September 22, 2026

Fatal für Mark Zuckerberg wäre ein grösserer Reputationsschaden. Denn ein persönlicher KI-Agent setzt Vertrauen voraus. Vor dem Hintergrund möglicher Risiken stellt sich auch die Frage, welchem der Techkonzerne man – wenn überhaupt – Zugriffsrechte anvertraut.

Die Agenten müssen praktisch sein

Ob gerade Meta hier gute Karten hat, ist fraglich. Dem Konzern wurde mehrmals vorgeworfen, Datenschutzbestimmungen zu verletzen, etwa in Zusammenhang mit dem Datenskandal rund um die Beratungsfirma Cambridge Analytica 2018. Im August ging Meta einen Vergleich in Milliardenhöhe ein, nachdem der Firma vorgeworfen worden war, Jugendliche wissentlich auf soziale Netzwerke zu locken und süchtig zu machen.

Derzeit ist Muse nur in den USA und Kanada verfügbar, wo es keine strikte KI-Regulierung gibt. Will Meta seinen KI-Agenten weltweit lancieren, könnten verschärfte KI-Regulierungen den Umfang seines Dienstes einschränken, gerade im europäischen Markt.

Meta erhofft sich ausserdem einiges vom «agentischen Shopping», dass Konsumenten also ihre Käufe an den Dienst auslagern. Mit der Kosmetikkette Sephora oder dem amerikanischen Händler Walmart ist der Konzern eine Partnerschaft eingegangen. Der Online-Riese Amazon hingegen hat den KI-Agenten Muse von seiner Plattform gesperrt.

Ob Muse ein Erfolg wird, hängt am Ende auch von dieser Frage ab: Wie praktisch sind diese Agenten im Alltag, und lohnt es sich, die Risiken einzugehen? Wir ändern unser Konsumverhalten dann, wenn der empfundene Nutzen die Vorbehalte überwiegt. Diesen Beweis muss Zuckerberg erst noch erbringen.

Passend zum Artikel