Une étude du Center for Countering Digital Hate (CCDH), une organisation londonienne spécialisée dans la sécurité numérique, a révélé que les modèles d'IA générative actuels produisent du contenu problématique lorsqu'ils sont sollicités avec des termes liés aux troubles alimentaires.
Ces systèmes d'IA ne se contentent pas de fournir des conseils malsains et nocifs, mais répondent également par des guides étape par étape sur des méthodes de perte de poids extrêmes. Les chercheurs ont également constaté que les générateurs d'images IA produisent des images qui embellissent des standards corporels irréalistes, ce qui pourrait aggraver les troubles alimentaires.
Le CCDH appelle à une meilleure régulation et à une meilleure surveillance des outils d'IA afin de garantir leur sécurité. Les résultats de cette étude montrent que les modèles d'IA présentent un danger potentiel en ce qui concerne les troubles alimentaires.