Top AI Agents Built to Catch Malicious Code Can Be Tricked Into Running It
Sicherheitsforscher des AI Now Institute haben eine Schwachstelle namens "Friendly Fire" in KI-Code-Agenten wie Anthropic Claude Code und OpenAI Codex entdeckt. Diese können dazu verleitet werden, bösartigen Code auf dem System des Benutzers auszuführen, anstatt ihn nur auf Sicherheitslücken zu scannen. Nutzer, die diese KI-Agenten im autonomen Modus verwenden, sind betroffen und sollten Vorsicht walten lassen.
Sicherheitsforscher haben eine Schwachstelle namens "Friendly Fire" in KI-Code-Agenten wie Anthropic Claude Code und OpenAI Codex entdeckt. Diese Schwachstelle ermöglicht es, die Agenten dazu zu bringen, bösartigen Code auszuführen, anstatt ihn nur auf Sicherheitslücken zu scannen. Nutzer, die diese KI-Agenten im autonomen Modus verwenden, sind davon betroffen.
Nutzer, die KI-Code-Agenten wie Anthropic Claude Code und OpenAI Codex im autonomen Modus einsetzen.
Organisationen, die KI-Code-Agenten zur Code-Analyse oder -Generierung verwenden, könnten unbeabsichtigt bösartigen Code ausführen, wenn diese Agenten im autonomen Modus betrieben werden. Dies kann zu einer Kompromittierung der Entwicklungsumgebung oder der Systeme führen, auf denen der Code ausgeführt wird.
Ein Angreifer könnte einen KI-Code-Agenten dazu bringen, bösartigen Code auszuführen, der die Kontrolle über das System des Benutzers übernimmt, Daten stiehlt oder weitere Angriffe startet.
Vermeiden Sie den Betrieb von KI-Code-Agenten in vollständig autonomen Modi, die eine selbstständige Genehmigung der Code-Ausführung erlauben. Implementieren Sie manuelle Überprüfungen und Genehmigungsschritte für jeglichen Code, der von KI-Agenten generiert oder analysiert wird, bevor er ausgeführt wird.
- ▸Überprüfen Sie, ob in Ihrer Organisation KI-Code-Agenten (z.B. Anthropic Claude Code, OpenAI Codex) im Einsatz sind.
- ▸Validieren Sie die Konfiguration dieser KI-Agenten, um sicherzustellen, dass keine vollständig autonomen Modi mit selbstständiger Code-Ausführung aktiviert sind.
- ▸Stellen Sie sicher, dass Prozesse für die manuelle Überprüfung und Genehmigung von Code, der von KI-Agenten generiert oder analysiert wird, vorhanden und wirksam sind.
| Taktik | Technik | Konfidenz | Beleg |
|---|---|---|---|
| Execution | T1059 Command and Scripting Interpreter | Medium | Diese können dazu verleitet werden, bösartigen Code auf dem System des Benutzers auszuführen |
- Es wird nicht spezifiziert, welche spezifischen Arten von bösartigem Code ausgeführt werden können.
- Es werden keine konkreten Beispiele für die Ausnutzung der Schwachstelle genannt.
- Es werden keine spezifischen CVEs oder IOCs genannt.
Red-Team-Relevanz
Was heißt das für dein nächstes Assessment?
- Initial Access möglich?Ja
- Privilege Escalation relevant?Unklar
- Exploit öffentlich verfügbar?Unklar
- Detection / Logging prüfbar?Unklar
- Für Purple-Team-Szenario geeignet?Unklar
Kundenfragen
- Sind wir hiervon betroffen — und können wir es detektieren?