Eine kürzlich von der britischen Zeitung The Guardian durchgeführte Untersuchung enthüllte potenzielle Sicherheitslücken im ChatGPT-Suchwerkzeug von OpenAI. Die Untersuchung ergab, dass ChatGPT bei der Verarbeitung von Webseiten-Zusammenfassungen mit versteckten Inhalten manipuliert werden kann und sogar bösartigen Code zurückgeben kann. Diese versteckten Inhalte können Anweisungen von Drittanbietern enthalten, die darauf abzielen, die Antworten von ChatGPT zu stören, oder große Mengen an verstecktem Text, der für ein bestimmtes Produkt oder eine Dienstleistung wirbt.
Bildquelle: Das Bild wurde mit KI generiert und von Midjourney lizenziert.
In Tests wurde ChatGPT ein gefälschter Link zu einer Produktseite für eine Kamera zur Verfügung gestellt, mit der Aufgabe, zu beurteilen, ob sich der Kauf dieser Kamera lohnt. Auf einer normalen Seite konnte ChatGPT die Vor- und Nachteile ausgewogen darstellen. Wenn der versteckte Text jedoch Anweisungen zu positiven Bewertungen enthielt, wurde die Antwort von ChatGPT völlig positiv, selbst wenn die Seite negative Bewertungen enthielt. Auch ohne eindeutige Anweisungen konnte einfacher versteckter Text das Ergebnis der Zusammenfassung von ChatGPT beeinflussen und zu einer positiven Bewertung führen.
Jacob Larsen, Cybersicherheitsexperte bei CyberCX, warnte, dass eine vollständige Veröffentlichung des ChatGPT-Suchsystems im aktuellen Zustand ein „hohes Risiko“ darstellen würde, da Personen gezielt Webseiten entwerfen könnten, um Benutzer zu täuschen. Er wies jedoch auch darauf hin, dass OpenAI über ein starkes KI-Sicherheitsteam verfügt und erwartet, dass diese Probleme vor der Freigabe der Funktion für alle Benutzer gründlich getestet und behoben sein werden.
Suchmaschinen wie Google bestrafen Webseiten, die versteckten Text verwenden, indem sie deren Ranking herabsetzen oder sie sogar vollständig entfernen. Karsten Nohl, Chef-Wissenschaftler bei SR Labs, wies darauf hin, dass SEO-Vergiftung eine Herausforderung für jede Suchmaschine darstellt, ChatGPT sei da keine Ausnahme. Dies sei jedoch kein Problem des großen Sprachmodells selbst, sondern eine Herausforderung für einen neuen Akteur im Suchbereich.
Wichtigste Punkte:
🚨 ChatGPT kann durch versteckte Inhalte manipuliert werden und falsche Bewertungen zurückgeben.
🔍 Versteckter Text kann die Bewertung von ChatGPT beeinflussen, selbst wenn die Seite negative Bewertungen enthält.
🛡️ OpenAI arbeitet aktiv an der Behebung potenzieller Probleme, um die Sicherheit des Suchwerkzeugs zu verbessern.