La compañía de videojuegos Activision ha anunciado la integración de un sistema de revisión de chat de voz con inteligencia artificial (IA) en su franquicia de juegos de disparos insignia, Call of Duty. Este sistema, llamado ToxMod, ha sido desarrollado por la empresa de IA Modulate.
ToxMod monitoriza en tiempo real las conversaciones de voz entre jugadores, identificando contenido que viole las normas de la comunidad, como discursos de odio, insultos o acoso. Inicialmente, ToxMod se implementará en Norteamérica en títulos anteriores como Call of Duty: Modern Warfare 2 y Call of Duty: Warzone.
Con el lanzamiento global de la última entrega de la franquicia, Call of Duty: Modern Warfare 3, el 10 de noviembre, ToxMod se extenderá a todos los jugadores a nivel mundial. El sistema utiliza tecnologías de transcripción de voz y análisis de sentimientos para distinguir entre contenido dañino y conversaciones normales. La revisión final seguirá estando a cargo de personal de atención al cliente humano, para evitar errores de juicio por parte de la IA.
