Selon le Yomiuri Shimbun, un Japonais de 25 ans a été condamné à trois ans de prison avec sursis par le tribunal de district de Tokyo pour avoir utilisé abusivement une IA générative pour créer un virus informatique. Il s'agit du premier cas au Japon de condamnation pénale pour abus d'une IA générative.
D'après le jugement et d'autres documents, l'homme a utilisé un ordinateur et un smartphone pour créer un virus informatique similaire à un rançongiciel à partir de schémas de conception de programmes malveillants (code source) obtenus grâce à une IA générative. De plus, il s'est fait passer pour une autre personne pour obtenir des cartes SIM, entre autres.
Source : Image générée par IA, fournie par Midjourney
Le procès a révélé une réalité : même sans connaissances informatiques, il est possible de créer des virus à l'aide d'une IA générative. L'accusé, Lin, a utilisé une « version non officielle de ChatGPT » pour créer le code source d'un programme qui chiffre des fichiers spécifiques, les rendant inutilisables, et exige le paiement en Bitcoin.
Takaši Yoshikawa, analyste senior des logiciels malveillants chez Mitsui Bussan Secure Directions, a déclaré que les IA génératives sont conçues pour ne pas fournir d'informations illégales, mais qu'il existe des moyens de contourner ces restrictions sur Internet. L'accusé a également déclaré lors de l'interrogatoire avoir « cherché et utilisé des méthodes pour contourner ces restrictions ».
Takaši Yoshikawa a souligné : « Lorsque les IA génératives sont utilisées à mauvais escient, même les personnes sans connaissances peuvent obtenir des informations utilisables à des fins criminelles », et a appelé à des mesures plus strictes pour prévenir les abus.