Sichere KI: Anthropic öffnet sich für externe Prüfer

Safe Space?

Sichere KI: Anthropic öffnet sich für externe Prüfer

Die Prüfer sollen Zugang zu Firmen-Hardware, Büroräumen und internen Systemen erhalten. Kundendaten, rechtlich geschützte Informationen und die Modellarchitektur bleiben tabu.

KI-Entwickler Anthropic gewährt nach eigenen Angaben externen Prüfern weitreichenden Zugang zu seinen Systemen, um die Technologie sicher zu entwickeln, ohne sie zu verlangsamen. Das gemeinnützige Unternehmen METR erhalte Zugang auf Mitarbeiterebene, teilte der Entwickler der Claude-Modelle am Donnerstag in einem Blogeintrag mit. Zudem arbeite man mit dem Unternehmen SecureBio und der KI-Firma Faculty als Prüfer zusammen. Es liefen zudem Gespräche mit weiteren Firmen, darunter Hugging Face.

Die Nachrichtenagentur Reuters hatte Anfang der Woche berichtet, dass Anthropic und OpenAI zunächst eine erhebliche Kontrolle darüber anstrebten, was externe Prüfer veröffentlichen dürfen. Grund sei die Sorge vor der Weitergabe von Geschäftsgeheimnissen. Ein Insider sagte Reuters jedoch, dass sich die Gespräche zuletzt weiterentwickelt hätten und das Unternehmen offener geworden sei.

Zutrittsbeschränkung

Ein Streitpunkt zwischen Prüfern und KI-Laboren ist, dass Informationen, die die Unternehmen als entscheidendes geistiges Eigentum betrachten, auch für die Bewertung der Risiken eines Modells relevant sein können. Experten verwiesen zudem darauf, dass die Unabhängigkeit der Prüfer fraglich sei, da Anthropic und OpenAI selbst auswählen, wer die Überprüfungen durchführt.

Im Rahmen der Vereinbarung erhalten sechs Mitarbeiter von METR (Model Evaluation and Threat Research) Firmen-Hardware, Büroräume und Zugang zu internen Systemen, wie das Unternehmen erklärte. Kundendaten, rechtlich geschützte Informationen und die Modellarchitektur blieben jedoch tabu. Anthropic kann die Ergebnisse von METR etwa zu Risiken und Vorfällen nicht per Veto blockieren, aber eng definierte Schwärzungen verlangen. METR kann diese Schwärzungsanträge öffentlich hinterfragen, ohne die zurückgehaltenen Informationen preiszugeben.

Drei-Stufen-Plan

Anthropic entwickelt derzeit ein dreistufiges Zugangssystem. Prüfer der ersten Stufe führen eng begrenzte Untersuchungen durch und benötigen eine Genehmigung zur Veröffentlichung. Die zweite Stufe erhält mehr Informationen und kann ohne Genehmigung veröffentlichen, vorbehaltlich von Schwärzungen, die die Prüfer öffentlich anfechten können. Die dritte und höchste Stufe, die von METR genutzt wird, bietet einen mitarbeiternahen Zugang mit ähnlichen Veröffentlichungsrechten wie die zweite Stufe. SecureBio befindet sich auf der ersten Stufe. Auch die Partnerschaft mit Faculty befinde sich in einem frühen Stadium mit begrenzterem Zugang. (Reuters, 16.10.2026)

Forum: 3 Postings

Ihre Meinung zählt.

Die Kommentare im Forum geben nicht notwendigerweise die Meinung der Redaktion wieder. Die Redaktion behält sich vor, Kommentare, welche straf- oder zivilrechtliche Normen verletzen, den guten Sitten widersprechen oder sonst dem Ansehen des Mediums zuwiderlaufen (siehe ausführliche Forenregeln), zu entfernen. Benutzer:innen können diesfalls keine Ansprüche stellen. Weiters behält sich die STANDARD Verlagsgesellschaft m.b.H. vor, Schadenersatzansprüche geltend zu machen und strafrechtlich relevante Tatbestände zur Anzeige zu bringen.