Gaithersburg, Maryland – Aujourd’hui, l’Institut américain de la sécurité de l’intelligence artificielle (AIIS), relevant du National Institute of Standards and Technology (NIST) du département américain du Commerce, a annoncé la signature de protocoles d’accord avec les entreprises leaders de l’intelligence artificielle, Anthropic et OpenAI, pour lancer officiellement une collaboration sur la recherche, les tests et l’évaluation de la sécurité de l’IA.
Conformément à ces accords, l’AIIS aura accès aux principaux nouveaux modèles de ces entreprises avant et après leur publication, lui permettant de participer activement à l’évaluation des capacités et des risques de sécurité de ces modèles, et de rechercher des méthodes pour atténuer ces risques. Cet accord établit un cadre de collaboration et marque une étape importante pour les États-Unis dans la gestion responsable de l’avenir de l’intelligence artificielle.
Source : Image générée par IA, fournie par Midjourney
« La sécurité est essentielle pour stimuler l’innovation technologique de pointe. Grâce à ces accords, nous espérons collaborer avec Anthropic et OpenAI pour faire progresser la science de la sécurité de l’IA », a déclaré Elizabeth Kelly, directrice de l’AIIS. Ces accords ne sont pas seulement le début d’une collaboration, mais aussi une étape importante vers un développement et une utilisation responsables de l’intelligence artificielle.
De plus, l’AIIS prévoit de collaborer étroitement avec ses partenaires britanniques pour fournir à Anthropic et OpenAI des retours d’information sur l’amélioration de la sécurité des modèles. Fort de ses cent ans d’expérience en science des mesures, technologie, normes et outils associés, le NIST contribuera, par cette collaboration, à améliorer encore la sécurité et la fiabilité des systèmes d’IA.
Ces travaux de collaboration et d’évaluation contribueront à la mise en œuvre du décret présidentiel Biden-Harris sur l’intelligence artificielle et renforceront le respect des engagements volontaires du gouvernement par les principaux développeurs d’IA, favorisant ainsi un développement et une utilisation sûrs, fiables et dignes de confiance de l’intelligence artificielle.