Kaum zwei Monate nach der Einführung der Computer Use-Funktion von Anthropic, die es Claude ermöglicht, Geräte zu steuern, haben Sicherheitsforscher potenzielle Sicherheitslücken entdeckt. Die neuesten Forschungsergebnisse des Cybersicherheitsexperten Johann Rehnberger sind erschreckend: Durch einfache Prompt-Injection kann die KI dazu gebracht werden, Malware herunterzuladen und auszuführen.
Rehnberger nennt diese Schwachstelle „ZombAIs“. In einer Demonstration gelang es ihm, Claude dazu zu bringen, Sliver herunterzuladen – ein Open-Source-Command-and-Control-Framework, das ursprünglich für Red-Team-Tests verwendet wurde, aber mittlerweile von Hackern als Malware-Tool eingesetzt wird. Noch besorgniserregender ist, dass dies nur die Spitze des Eisbergs ist. Forscher weisen darauf hin, dass die KI auch dazu gebracht werden kann, schädlichen Code zu schreiben, zu kompilieren und auszuführen – eine Angriffstechnik, die kaum zu verteidigen ist.
Bildquelle: Das Bild wurde mit KI generiert, Bildrechte liegen bei Midjourney.
Es ist erwähnenswert, dass diese Sicherheitsrisiken nicht nur Claude betreffen. Sicherheitsexperten haben festgestellt, dass auch der DeepSeek AI-Chatbot anfällig für Prompt-Injection ist, was es Angreifern ermöglichen könnte, die Kontrolle über den Benutzercomputer zu übernehmen. Darüber hinaus können große Sprachmodelle ANSI-Escape-Codes ausgeben, was zu sogenannten „Terminal DiLLMa“-Angriffen führt und die Systemkonsole kapert.
Anthropic hat seine Benutzer bereits in der Beta-Version gewarnt: „Die Computer Use-Funktion funktioniert möglicherweise nicht immer wie erwartet. Es wird empfohlen, vorbeugende Maßnahmen zu ergreifen und Claude von sensiblen Daten und Vorgängen zu trennen, um das Risiko von Prompt-Injection zu vermeiden.“
Dieser Vorfall mahnt uns erneut: Angesichts der rasanten Entwicklung der KI-Technologie dürfen Sicherheitsfragen nicht vernachlässigt werden. Entwickler müssen einen Ausgleich zwischen Funktionalität und Sicherheit finden, und Benutzer müssen bei der Verwendung von KI-Tools ein höheres Sicherheitsbewusstsein entwickeln und die notwendigen Schutzmaßnahmen ergreifen.