In Zeiten immer ausgereifter selbstfahrender Autos spielt künstliche Intelligenz (KI) eine entscheidende Rolle. Sie unterstützt die Fahrzeuge bei der Entscheidungsfindung, der Umgebungserfassung und der Modellvorhersage. Eine kürzlich an der Universität Buffalo durchgeführte Studie hat jedoch Bedenken aufgeworfen: Die Forscher haben festgestellt, dass diese KI-Systeme angreifbar sind.
Chunming Qiao, SUNY Distinguished Professor für Informatik und Ingenieurwesen und Leiter der Studie, betont, dass die Forschung zwar unter kontrollierten Bedingungen durchgeführt wurde und dies nicht bedeutet, dass bestehende selbstfahrende Autos unsicher sind. Die Ergebnisse könnten jedoch tiefgreifende Auswirkungen auf die Automobilindustrie, die Technologiebranche, die Versicherungsbranche und die staatliche Regulierung haben.
Das Forschungsteam hat in den letzten drei Jahren verschiedene Tests mit autonomen Fahrzeugen der Universität Buffalo durchgeführt, wobei der Schwerpunkt auf der Anfälligkeit von Lidar, Millimeterwellenradar und Kameras lag. Die Forscherin Yi Zhu weist darauf hin, dass Millimeterwellenradar bei Regen, Nebel und schlechten Lichtverhältnissen zuverlässiger Objekte erkennen kann als viele Kameras, aber auch anfällig für Hackerangriffe ist.
Mithilfe von 3D-Druck und Metallfolie stellten die Forscher spezielle geometrische Objekte her, sogenannte „Ziegelsteinmasken“. Diese, an einem Fahrzeug angebracht, können das Fahrzeug im Radar effektiv „unsichtbar“ machen. Dies liefert starke Beweise für die Anfälligkeit von KI-Modellen in der Radarentdeckung.
Yi Zhu betont auch, dass Angreifer vor Fahrtantritt heimlich schädliche Objekte an Fahrzeugen anbringen oder solche Gegenstände in Rucksäcken von Fußgängern platzieren könnten, um die Erkennung dieser Fußgänger zu verhindern. Die Motive für solche Angriffe könnten Versicherungsbetrug, Konkurrenz zwischen Unternehmen für autonomes Fahren oder die Absicht sein, anderen Schaden zuzufügen.
Die Forscher betonen jedoch, dass diese simulierten Angriffe auf dem Wissen des Angreifers über das Radartobjekt-Erkennungssystem des Opfers beruhen. Diese Informationen sind in der Öffentlichkeit nicht verbreitet. Daher ist neben der Sicherheit autonomer Fahrzeuge auch das Sicherheitsbewusstsein der Öffentlichkeit und technische Schutzmaßnahmen wichtig.
Zukünftig möchte das Forschungsteam die Sicherheit anderer Sensoren untersuchen und wirksame Abwehrmaßnahmen gegen diese potenziellen Angriffe entwickeln.
Wichtigste Punkte:
🔍 Die Forschung zeigt, dass KI-Systeme in selbstfahrenden Autos anfällig für böswillige Angriffe sind, die dazu führen können, dass Fahrzeuge im Radar unsichtbar werden.
🛡️ Angreifer können die KI-Systeme durch das Anbringen spezieller Objekte an Fahrzeugen oder durch Gegenstände an Fußgängern manipulieren.
🚗 Das Forschungsteam möchte zukünftig die Sicherheit anderer Sensoren eingehender untersuchen und wirksame Schutzstrategien entwickeln.