Recentemente, uma nova política em Nevada tem chamado a atenção. O estado planeja usar inteligência artificial para determinar se os requerentes de auxílio-desemprego são elegíveis. Embora o plano tenha avançado rapidamente após a aprovação, muitas pessoas questionam se essa é uma boa ideia.
Nota da fonte: Imagem gerada por IA, fornecida pela Midjourney.
O chefe do Departamento de Emprego, Treinamento e Reabilitação de Nevada (DETR), Christopher Hewel, disse em entrevista que o sistema de IA não tomará decisões independentemente, e todas as decisões da IA serão revisadas por pelo menos um "árbitro" humano. Ele enfatizou: "Nenhuma decisão gerada por IA será emitida sem intervenção humana". Hewel espera que o uso da IA permita o processamento mais rápido de solicitações para ajudar os desempregados que precisam de auxílio.
No entanto, esse plano aparentemente razoável também levanta algumas preocupações. Embora a intervenção da IA possa aumentar a eficiência, se o árbitro discordar da decisão da IA, os documentos relevantes serão revisados, o que pode levar a atrasos no processamento. Morgan Schauer, diretora de engajamento comunitário do Nevada Legal Services, disse que, se a revisão do árbitro for muito superficial, eles não economizarão muito tempo.
Enquanto isso, a ex-funcionária do Departamento de Trabalho de Nevada, Michelle Evermore, também expressou suas preocupações. Ela mencionou que, se os funcionários apenas verificarem rapidamente as recomendações da IA, sob pressão para limpar o acúmulo de solicitações, essa é uma situação preocupante. Mesmo que haja problemas, o Google afirma que trabalhará com os clientes para garantir que os preconceitos potenciais sejam eliminados do sistema e que ele esteja em conformidade com as regulamentações relevantes.
Tudo isso parece um experimento com alguns dos grupos sociais mais vulneráveis, sem que eles tenham escolha. Embora o uso da IA no setor público seja uma nova tendência, ainda teremos que esperar para ver se teremos um bom resultado nesse processo.
Destaques:
🌐 Nevada planeja usar IA para decidir sobre pedidos de auxílio-desemprego, apesar da falta de evidências de que seja uma estratégia bem-sucedida.
🤖 As decisões da IA serão revisadas por árbitros humanos, mas esse processo pode levar a atrasos no processamento.
⚠️ A preocupação pública está crescendo, com muitas pessoas preocupadas com o impacto da IA nos desempregados, especialmente na ausência de escolha.
