Recentemente, experimentos conduzidos por uma equipe de cientistas da Universidade de Toronto e do MIT descobriram que sistemas de IA treinados com rótulos descritivos podem tomar decisões mais severas do que os humanos, representando uma ameaça à vida futura. A pesquisa revelou falhas profundas no treinamento de algoritmos de IA, o que pode levar a problemas de tomada de decisão em áreas como aluguel, empréstimos e cirurgias.
O experimento utilizou um conjunto de dados de imagens de cães como exemplo. Os resultados mostraram que os rótulos descritivos levaram a julgamentos mais rigorosos de cães "infratores", o que pode resultar em injustiças sociais. Algoritmos podem reforçar preconceitos sociais em áreas como admissão em programas de doutorado e contratação, exacerbando a desigualdade.
Os pesquisadores instam a correção imediata desse problema, enfatizando que, na era dominada pela IA, a rotulagem correta dos dados para evitar vieses algorítmicos é crucial. Caso contrário, isso terá um impacto significativo na vida humana.
