Ex-Anthropic-Mitarbeiter warnt: KI-Branche spricht intern von der „Schlussphase"

Verpasse keine News mehr!

Jacob Coxon hat seinen gut bezahlten Job beim Claude-Hersteller hingeschmissen. Anthropic und andere KI-Firmen spielten mit unserem Leben, glaubt der Experte – und hat einen wichtigen Appell.

Anzeige

Ein Forscher hat bei Anthropic gekündigt und wirft dem KI-Unternehmen nun vor, nicht verantwortungsvoll zu handeln. Denselben Vorwurf erhebt er gegen OpenAI, wo er zuvor gearbeitet hat. „Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass die uns bis zum Ende des Jahrzehnts auslöschen könnte“, schreibt der 27-jährige Brite Jacob Coxon auf der Plattform X. Keine andere menschliche Aktivität sei so gefährlich. Bei OpenAI habe man die Tragweite womöglich nicht verstanden, bei Anthropic sei das anders, so Coxon. Doch das hilft seiner Ansicht nach nichts: Das Unternehmen sehe sich in einem „Wettrennen“ und glaube, dass sonst niemand verantwortungsvoll bei der KI-Entwicklung vorgehe. Deshalb gehe es das Risiko trotzdem ein.

Anzeige

Was der Forscher bei Anthropic gemacht hat

Laut seinen X-Postings und einer Meldung im renommierten Wall Street Journal hatte sich Coxon darauf spezialisiert, neue KI-Modelle mit sehr großen Datenmengen zu trainieren. Der US-Wirtschaftszeitung sagte er, viele frühere Kolleg:innen sprächen von „Crunchtime“ und „Endgame“, wenn es um die Richtung der Branche gehe – also um eine entscheidende Schlussphase in der KI.

Top-Artikel

${content}

${custom_anzeige-badge} ${custom_tr-badge} ${section}

${title}

${custom_anzeige-badge}

${custom_tr-badge} ${section}

${title}

„Wir steuern auf viele der pessimistischsten dieser Szenarien zu, bei denen die Lage bereits Ende nächsten Jahres außer Kontrolle geraten könnte“, zitiert ihn das Blatt. Auf X zeigt sich Coxon allerdings etwas hoffnungsvoller: Eine Abstimmung zwischen den Unternehmen scheine noch möglich. „Warnschüsse“ wie der automatisierte Hackerangriff auf die KI-Plattform Hugging Face hätten Vereinbarungen wahrscheinlicher gemacht.

Anzeige

Anthropic schweigt – die Warnungen häufen sich

Anthropic hat sich zu den Aussagen des früheren Mitarbeiters nicht geäußert. Sie reihen sich in eine ganze Reihe ähnlicher Warnungen ein, die aus der Branche selbst und von außen kommen. Anfang der Woche erklärte der Hohe Kommissar der Vereinten Nationen für Menschenrechte, er teile die Sorgen aus der Industrie, dass „hochentwickelte KI eine existenzielle Gefahr für die Menschheit darstellen könnte“.

Das Wall Street Journal weist darauf hin, dass Coxon einer der wenigen Anthropic-Beschäftigten ist, die solche Befürchtungen äußern und das Unternehmen auch deshalb verlassen. Anthropic hatte sich stets als besonders verantwortungsbewusster Anbieter dargestellt. Es wurde von Ex-OpenAI-Mitarbeitern gegründet. Bei OpenAI selbst gab es bereits mehrere vergleichbare Fälle.

Empfohlene redaktionelle Inhalte

Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.

Hinweis zum Datenschutz

Startseite