Una nueva investigación de Generation, una organización sin fines de lucro global dedicada al empleo, revela una preocupante realidad en el lugar de trabajo: la discriminación por edad se está convirtiendo en un problema cada vez más grave en el campo de la IA. La encuesta, que incluyó a 2.610 empleados mayores de 45 años y 1.488 empleadores, muestra que, si bien el 90% de los gerentes de contratación estadounidenses admiten que los empleados de mediana edad y mayores tienen un rendimiento igual o superior al de sus colegas más jóvenes, muestran una preferencia por candidatos menores de 35 años para puestos relacionados con la IA. Este sesgo también es evidente entre los empleadores europeos.

Los modelos lingüísticos muestran una amplia aplicación en diversos campos, desde la educación y el asesoramiento jurídico hasta la predicción de riesgos médicos. Sin embargo, a medida que aumenta su influencia en los procesos de toma de decisiones, pueden reflejar involuntariamente los sesgos presentes en los datos de entrenamiento humanos, exacerbando la discriminación contra las minorías. Las investigaciones revelan un racismo implícito en los modelos lingüísticos, especialmente al procesar el inglés afroamericano (AAE), mostrando un sesgo dialectal dañino, más negativo que cualquier estereotipo conocido sobre los afroamericanos. Mediante el método de "camuflaje de coincidencia", se compara el AAE con el inglés estadounidense estándar.

Los usuarios criticaron a Gemini por generar imágenes diversas en contextos históricos inapropiados. Google ha solucionado urgentemente su herramienta de IA para evitar acusaciones de discriminación racial. El robot Gemini ha tenido problemas de diversidad en el pasado.

Anthropic ha logrado reducir con éxito la discriminación de la inteligencia artificial utilizando una estrategia de solicitud. Al enfatizar el trato amable en las indicaciones, se obtuvieron resultados significativos. Los investigadores lograron reducir la discriminación a casi cero al incluir una 'intervención' en las indicaciones que instruía al modelo a evitar los prejuicios. La estrategia destaca la necesidad de precaución al usar modelos de lenguaje en decisiones de alto riesgo, enfatizando la influencia del gobierno y la sociedad en dichas decisiones. Anthropic colabora con Google y planea desplegar los chips Google Cloud TPUv5e para respaldar su modelo de lenguaje Claude. La investigación contribuye a la reducción de la...