Recentemente, o Secretário de Ciência do Reino Unido, Peter Kyle, admitiu que os departamentos governamentais carecem de transparência no uso de inteligência artificial (IA) e algoritmos, causando inquietação pública sobre a aplicação dessas tecnologias.
Desde que o governo anunciou a obrigatoriedade de registro do uso de sistemas de IA por todos os departamentos, nenhum departamento do Whitehall concluiu esse registro. Isso gerou alertas sobre a implantação de tecnologias algorítmicas que afetam milhões de vidas no setor público, acusando-o de agir às cegas.
Nota da imagem: Imagem gerada por IA, fornecida pelo Midjourney.
Atualmente, o governo utiliza IA em várias áreas, incluindo pagamentos de benefícios e aplicação da imigração. Os registros mostram que órgãos públicos assinaram dezenas de contratos para serviços de IA e algoritmos com diversas empresas de tecnologia. Por exemplo, o Ministério do Interior recentemente divulgou um contrato de até £20 milhões para software de reconhecimento facial, o que gerou preocupações sobre "monitoramento biométrico em larga escala". No entanto, até o momento, apenas nove sistemas algorítmicos foram registrados no registro público, sem incluir nenhum programa de IA de sistemas de bem-estar, do Ministério do Interior ou da polícia.
Especialistas alertam sobre os potenciais perigos da falta de reflexão crítica sobre o uso da IA. O Gabinete do Primeiro-Ministro, a cidade de Cambridge e o NHS têm um número extremamente limitado de sistemas algorítmicos registrados. Apesar disso, desde fevereiro deste ano, foram assinados 164 contratos relacionados à IA com órgãos públicos, demonstrando uma forte demanda por essa tecnologia.
Kyle afirmou que o público tem o direito de saber como o governo utiliza algoritmos e prometeu aumentar a transparência. A organização de defesa da privacidade Big Brother Watch apontou que a falta de transparência do governo no uso de IA pode colocar em risco os direitos de dados do público. Recentemente, o Ada Lovelace Institute alertou que, embora os sistemas de IA possam parecer reduzir a burocracia, eles podem prejudicar a confiança pública se seus resultados forem discriminatórios ou inválidos.
Atualmente, apenas três algoritmos estão registrados no registro nacional: para identificação de registros digitais, análise de travessias de pedestres e avaliação de pacientes sobre os serviços do NHS. Empresas de tecnologia como Microsoft e Google Cloud estão promovendo ativamente seus sistemas de IA, alegando que uma implantação mais ampla da IA pode gerar enormes economias para o setor público. Kyle também afirma que essa tecnologia pode revolucionar os serviços governamentais.
A aplicação da IA está se tornando cada vez mais comum em vários departamentos governamentais. Por exemplo, o Departamento de Trabalho e Pensões está usando IA generativa para processar grandes volumes de documentos, detectando automaticamente fraudes e erros em solicitações de benefícios. Já o Ministério do Interior implantou um sistema de aplicação da imigração baseado em IA, embora o governo enfatize que não se trata de um sistema típico de aprendizado de máquina.
Pontos importantes:
🔍 O governo britânico não registrou nenhum sistema de IA, gerando preocupações públicas sobre a transparência.
💼 A tecnologia de IA já é amplamente utilizada em pagamentos de benefícios e aplicação da imigração, mas os registros são escassos.
📈 Especialistas alertam sobre os potenciais perigos da IA e pedem maior transparência e regulamentação.
