L'éditeur de jeux vidéo Activision a annoncé l'intégration d'un système de modération vocale basé sur l'intelligence artificielle (IA) dans sa franchise de jeux de tir phare, Call of Duty. Ce système, nommé ToxMod, a été développé par la société d'IA Modulate.
ToxMod surveille en temps réel les conversations vocales entre les joueurs afin d'identifier les propos haineux, les insultes, le harcèlement et tout autre contenu contraire aux règles de la communauté. Le déploiement initial de ToxMod aura lieu en Amérique du Nord, sur Call of Duty: Modern Warfare 2 et Call of Duty: Warzone.
Lors du lancement mondial du dernier opus, Call of Duty: Modern Warfare 3, le 10 novembre, ToxMod sera également déployé, couvrant ainsi l'ensemble des joueurs à l'échelle mondiale. Le système utilise la transcription vocale et l'analyse des sentiments pour distinguer les propos incriminants des conversations normales. Une intervention humaine reste cependant nécessaire pour la validation finale, évitant ainsi les erreurs potentielles de jugement de l'IA.
