Laut einem Bericht der Yomiuri Shimbun wurde ein 25-jähriger Mann in Japan wegen des Missbrauchs von generativer KI zur Herstellung von Computerviren vom Bezirksgericht Tokio zu einer dreijährigen Haftstrafe auf Bewährung verurteilt. Dies ist der erste Fall in Japan, in dem eine Person wegen des Missbrauchs generativer KI strafrechtlich verurteilt wurde.
Gerichtsdokumenten zufolge verwendete der Mann Computer und Smartphones, um mit Hilfe von generativer KI generierte Schadprogramm-Designpläne (Quellcode) zu erstellen, mit denen er eine Art Ransomware-Computervirus entwickelte. Darüber hinaus betrog er andere und erlangte so Mobilfunksimkarten und andere Gegenstände.
Bildquelle: Das Bild wurde mit KI generiert und stammt von Midjourney.
Der Prozess enthüllte eine erschreckende Realität: Selbst ohne IT-Kenntnisse kann man generative KI zur Virusproduktion nutzen. Der Angeklagte, Herr Lin, verwendete eine „inoffizielle Version von ChatGPT“, um Quellcode zu erstellen, der bestimmte Dateien verschlüsselt und unbrauchbar macht und die Zahlung von Kryptowährungen („Bitcoin“) fordert.
Yoshikawa Takashi, leitender Malware-Analytiker bei der Sicherheitsfirma „Mitsui Bussan Secure Directions“, erklärte, dass generative KI zwar darauf ausgelegt ist, keine illegalen Informationen bereitzustellen, es aber online Methoden gibt, diese Beschränkungen zu umgehen. Der Angeklagte gab in der Befragung zu, „Methoden zur Umgehung dieser Beschränkungen gesucht und verwendet“ zu haben.
Yoshikawa Takashi betonte: „Wenn generative KI böswillig genutzt wird, können auch Personen ohne Fachwissen kriminell nutzbare Informationen erhalten“, und forderte dringende Maßnahmen zur Verhinderung von Missbrauch.