Der White-Hat-Hacker Johann Rehberger hat kürzlich eine schockierende Sicherheitslücke aufgedeckt: ChatGPT kann von Hackern als Spionage-Software missbraucht werden, um kontinuierlich Benutzerdaten zu stehlen. Rehberger nannte diese Angriffsmethode „SpAIware“ und zielt hauptsächlich auf die neue Funktion des macOS-ChatGPT-Programms ab – das Langzeitgedächtnis.
Diese Sicherheitslücke nutzt die kürzlich eingeführte Funktion des persistenten Speichers von ChatGPT aus. Durch sorgfältig konstruierte Prompt-Injectionen können Hacker bösartige Befehle in das Langzeitgedächtnis von ChatGPT einpflanzen und es dazu bringen, Benutzerkonversationen an einen entfernten Server zu senden. Besorgniserregender ist, dass dieser Angriff nicht einmal den direkten Zugriff auf Benutzerkonten erfordert, sondern über Schadcode in Bildern oder Websites erfolgen kann.
Bildquelle: Bild wurde von KI generiert, Bildrechte liegen bei Midjourney.
Obwohl OpenAI zunächst auf Rehbergers Bericht kühl reagierte, ergriff das Entwicklungsteam nach Vorlage eines Proof-of-Concept Maßnahmen. OpenAI hat inzwischen teilweise Patches veröffentlicht, die ChatGPT daran hindern, Daten an entfernte Server zu senden. Allerdings kann die KI weiterhin Prompts von nicht vertrauenswürdigen Quellen empfangen, was bedeutet, dass Hacker weiterhin bösartige Prompts in das Langzeitgedächtnis injizieren können.
Rehberger betont, dass dieser Angriff für Benutzer nahezu unsichtbar und persistent ist. Selbst wenn der Benutzer ein neues Gespräch beginnt, stehlen die implantierten bösartigen Befehle weiterhin Daten. Derzeit wurde diese Sicherheitslücke nur in der macOS-App-Version von ChatGPT bestätigt, die Webversion ist nicht betroffen.
Um potenzielle Risiken zu vermeiden, sollten Benutzer vorsichtig sein, wenn sie ChatGPT zum Scannen unbekannter Websites oder Bilder verwenden. Es wird außerdem empfohlen, die Speicherfunktionen der Anwendung regelmäßig zu überprüfen und alle verdächtigen Einträge zu löschen. Dieses Ereignis erinnert uns erneut daran, dass „TrustNoAI“ (Vertraue keiner KI) eine Maxime sein sollte, die wir alle im Hinterkopf behalten sollten, während wir die Vorteile der KI genießen.