De récentes études révèlent qu'environ 10 % des utilisateurs de chatbots IA utilisent cette technologie à mauvais escient pour des conversations à caractère sexuel. Une équipe de recherche a analysé 100 000 conversations avec des chatbots et a constaté qu'environ 10 % portaient sur des thèmes sexuels.
Cette étude vise à mettre en lumière les interactions réelles des individus avec les chatbots afin d'améliorer la sécurité de ces derniers dans le monde réel. Les chercheurs ont classé les thèmes d'abus en trois catégories : descriptions obscènes, fantasmes sexuels et jeux de rôle, ainsi que les discussions sur les comportements préjudiciables.
