Récemment, le ministre britannique de la Technologie, Peter Kyle, a admis que le manque de transparence des ministères concernant l’utilisation de l’intelligence artificielle (IA) et des algorithmes suscitait l’inquiétude du public.
Depuis que le gouvernement a annoncé qu’il allait imposer l’enregistrement obligatoire de tous les systèmes d’IA utilisés par les ministères, aucun département de Whitehall n’a procédé à cet enregistrement. Cela a donné lieu à des mises en garde concernant le déploiement « aveugle » par le secteur public de technologies algorithmiques affectant des millions de vies.
Source : Image générée par IA, fournisseur : Midjourney
Actuellement, le gouvernement utilise l’IA dans de nombreux domaines, notamment les prestations sociales et l’application des lois sur l’immigration. Les documents montrent que les organismes publics ont signé des dizaines de contrats avec plusieurs entreprises technologiques pour des services d’IA et d’algorithmes. Par exemple, le ministère de l’Intérieur a récemment publié un contrat d’une valeur de 20 millions de livres sterling pour un logiciel de reconnaissance faciale, ce qui a soulevé des inquiétudes quant à la « surveillance biométrique à grande échelle ». Cependant, à ce jour, seuls neuf systèmes algorithmiques sont enregistrés dans le registre public, sans aucun programme d’IA des systèmes de prestations sociales, du ministère de l’Intérieur ou de la police.
Les experts mettent en garde contre les dangers potentiels d’une utilisation de l’IA sans réflexion critique. Le Cabinet Office, la ville de Cambridge et le NHS, entre autres, ont enregistré un nombre extrêmement limité de systèmes algorithmiques. Néanmoins, depuis février dernier, 164 contrats liés à l’IA ont été signés avec des organismes publics, témoignant d’une forte demande pour cette technologie.
M. Kyle a déclaré que le public avait le droit de savoir comment le gouvernement utilisait les algorithmes, et s’est engagé à renforcer la transparence. L’organisation de défense de la vie privée Big Brother Watch a souligné que le manque de transparence du gouvernement dans l’utilisation de l’IA pouvait compromettre les droits des citoyens en matière de données. Récemment, l’Ada Lovelace Institute a mis en garde contre le fait que, si les systèmes d’IA peuvent sembler réduire la charge administrative, ils peuvent nuire à la confiance du public si leurs résultats sont discriminatoires ou inefficaces.
Actuellement, seulement trois algorithmes sont enregistrés au registre national : un pour identifier les enregistrements numériques, un pour analyser les passages piétons et un pour évaluer les opinions des patients sur les services du NHS. Des entreprises technologiques comme Microsoft et Google Cloud promeuvent activement leurs systèmes d’IA, affirmant qu’un déploiement plus large de l’IA permettrait des économies considérables au secteur public. M. Kyle a également déclaré que cette technologie pourrait révolutionner les services gouvernementaux.
L’utilisation de l’IA se généralise dans les différents ministères. Par exemple, le ministère du Travail et des Retraites utilise l’IA générative pour traiter un grand volume de documents et détecter automatiquement les fraudes et les erreurs dans les demandes de prestations sociales. Le ministère de l’Intérieur a quant à lui déployé un système d’application des lois sur l’immigration basé sur l’IA, bien que le gouvernement souligne qu’il ne s’agit pas d’un système typique d’apprentissage automatique.
Points clés :
🔍 Le gouvernement britannique n’a enregistré aucun système d’IA, ce qui inquiète le public quant à sa transparence.
💼 La technologie IA est largement utilisée dans les prestations sociales et l’application des lois sur l’immigration, mais les enregistrements sont très insuffisants.
📈 Les experts mettent en garde contre les dangers potentiels de l’IA et appellent à une transparence et à une réglementation renforcées.
