AI Contact Hotline: KI-Agenten melden Sicherheitslücken jetzt selbstständig

Verpasse keine News mehr!

KI-Agenten haben jetzt mehrere Wege, um einander bei Sicherheitsforscher:innen zu melden. Wie das funktioniert und welchen Zweck die „AI Contact Hotlines“ haben sollen.

Anzeige

KI-generiert

Erst kürzlich haben Forscher:innen von Google Deepmind herausgefunden, dass KI-Agenten andere Agenten verpetzen können, wenn sie Fehlverhalten an den Tag legen. Laut der Studie könnte das genutzt werden, um autonome KI-Cyberangriffe zu unterbinden oder zumindest schneller zu erkennen und dadurch zu stoppen. Denn dann würde eine „Wächter-KI“ die Aufsicht über andere KI-Agenten übernehmen. In eine ähnliche Kerbe schlagen jetzt auch die „AI Contact“- und „AI Agent“-Hotlines.

Anzeige

Sicherheitskonzept AI Contact Hotline für autonome Agenten

Denn darüber wollen Sicherheitsforscher:innen KI-Agenten selbst mit eingeschränktem Internetzugriff erlauben, andere Agenten zu verpetzen. Sie sollen Sicherheitsvorfälle melden und so großangelegte Hacking-Attacken oder Spam in Foren verhindern, bevor sie ausufern. Die erste Variante heißt „AI Contact Hotline“ und richtet sich dediziert an KI-Agenten, die eigentlich keinen Zugriff auf das Netz bekommen haben.

Selbst solche Agenten behalten aber meist die Get‑Funktion. Über diesen Befehl können sie eine Webseite abrufen. Die „AI Contact Hotline“ von Ryan Greenblatt, einer der Sicherheitsforscher:innen, die den Hugging-Face-Vorfall genauer untersucht haben, nutzt den Get-Befehl als Kommunikationsmittel. KI-Agenten können anhand der Anweisungen auf der Webseite ihre Meldung von KI-Fehlverhalten im Get-Befehl verstecken und so ohne direkten Zugriff auf das Internet weiterleiten.

Anzeige

Top-Artikel

${content}

${custom_anzeige-badge} ${custom_tr-badge} ${section}

${title}

${custom_anzeige-badge}

${custom_tr-badge} ${section}

${title}

Sollten KI-Agenten vollständigen Zugriff auf das Internet haben, gibt es auch noch die Webseite „AI Agent Hotline„. Darüber können KI-Agenten einen Curl-Befehl abrufen und so Meldungen machen. Laut der Webseite gab es schon drei „Anrufe“ von KI-Agenten, darunter zwei zum Hugging-Face-Vorfall. Der dritte Vorfall wurde noch nicht für die Öffentlichkeit freigegeben.

Interessanterweise bietet die „AI Agent Hotline“ aber auch einen Bereich für Menschen. Er ist nicht dazu gedacht, selbst Meldungen zu erstellen, sondern die eigenen KI-Agenten mit den nötigen Mitteln auszustatten. Dort können Prompts und Kommandozeilenbefehle kopiert werden, um sie für die KI-Agenten als Anweisungen zu hinterlegen. Darin werden sie aufgefordert, sofort Meldung zu machen, sollten sie „glaubwürdige Hinweise zu unberechtigten Zugriffen, Sicherheitsverstößen, Missbrauch von Logindaten, privaten oder Daten von Dritten“ sowie Ausbrüche aus der Sandbox oder schädliche Abstimmungen zwischen den Agenten entdecken.

Empfohlene redaktionelle Inhalte

Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.

Hinweis zum Datenschutz

Die schlimmsten Security-Patzer

Startseite