La société américaine de recherche en intelligence artificielle, OpenAI, a récemment entrepris le développement d'un système d'alerte précoce pour GPT-4, afin d'étudier si les grands modèles de langage peuvent améliorer l'efficacité de la collecte d'informations sur les menaces biologiques, par rapport à Internet. Ce système est conçu comme un "déclencheur", signalant la possibilité d'une arme biologique potentielle nécessitant une enquête plus approfondie, et s'intégrant au cadre de prévention d'OpenAI.
Dans le cadre de cette recherche, 100 participants ont indiqué une légère amélioration de la précision et de l'exhaustivité des tâches liées aux risques biologiques en utilisant GPT-4 combiné à Internet, mais l'effet n'était pas significatif. L'étude souligne les limites de l'évaluation de la seule acquisition d'informations, sans application pratique, et n'aborde pas la contribution potentielle de GPT-4 au développement de nouvelles armes biologiques.
Parallèlement, OpenAI a annoncé la sortie de plusieurs nouveaux modèles afin d'offrir un plus large éventail d'applications.
