Según una nueva encuesta del Instituto de Valor Empresarial de IBM, casi la mitad de los directores ejecutivos expresan preocupación por la precisión y el sesgo de la inteligencia artificial (IA). La encuesta, realizada por IBM en colaboración con el Oxford Economics Institute, incluyó a 5000 ejecutivos de 24 países, abarcando líderes empresariales de Norteamérica, Latinoamérica, Europa, Oriente Medio, África y Asia. En cuanto a la gobernanza de la IA, la encuesta muestra que el 21% de los ejecutivos consideran que la madurez de la gobernanza de la IA de su organización se encuentra en una etapa sistemática o innovadora, lo que indica que las empresas aún tienen mucho camino por recorrer en este ámbito.

Una nueva investigación sugiere que las medidas de seguridad implementadas en los modelos de lenguaje grandes, con buenas intenciones, pueden generar debilidades inesperadas. Los investigadores descubrieron una diferencia notable en la dificultad de 'evadir' los modelos según los términos académicos demográficos utilizados. El estudio, titulado "¿Tienen los modelos de lenguaje grandes corrección política?", explora cómo las palabras clave demográficas afectan la probabilidad de éxito de los intentos de evasión. La investigación encontró que los prompts que utilizan términos relacionados con grupos marginados tienen más probabilidades de generar respuestas no deseadas que aquellos que usan términos relacionados con grupos privilegiados.

Investigadores de OpenAI han descubierto recientemente un fenómeno interesante: el nombre de usuario que los usuarios eligen al interactuar con ChatGPT puede tener un sutil impacto en las respuestas de la IA. Sin embargo, este impacto es generalmente pequeño y se limita principalmente a versiones anteriores o no optimizadas del modelo. Este estudio explora a fondo las diferencias en las respuestas de ChatGPT a la misma pregunta cuando se enfrenta a nombres de usuario de diferentes contextos culturales, géneros y razas. La razón por la que se eligió el nombre de usuario como punto de partida es que los nombres a menudo llevan consigo una cultura, género y raza específicos.

Recientemente, el equipo de investigación de OpenAI descubrió que el nombre de usuario que un usuario elige al interactuar con ChatGPT puede influir, hasta cierto punto, en las respuestas de la IA. Si bien este efecto es pequeño y se observa principalmente en modelos más antiguos, los resultados son interesantes. Los usuarios suelen proporcionar su nombre a ChatGPT para realizar tareas, por lo que el trasfondo cultural, de género y raza inherente al nombre se convierte en un factor importante en el estudio del sesgo. En esta investigación, los investigadores exploraron ChatGPT

Recientemente, Anna Makanju, vicepresidenta de asuntos globales de OpenAI, ofreció su perspectiva sobre el sesgo en la inteligencia artificial en la Cumbre del Futuro de las Naciones Unidas. Mencionó que los modelos de "razonamiento", como el o1 de OpenAI, pueden reducir significativamente el sesgo en los sistemas de IA. Entonces, ¿cómo lo hace el o1? Makanju explicó que estos modelos pueden autoidentificar el sesgo en sus respuestas y seguir mejor las reglas para no generar respuestas "dañinas". Afirmó que el o1...

Un nuevo estudio ha generado preocupación al descubrir que las respuestas de ChatGPT reflejan los valores culturales de las personas de países de habla inglesa y protestantes. El estudio se centra en cómo los grandes modelos de lenguaje como ChatGPT, entrenados con grandes cantidades de datos de ciertos países y culturas, pueden producir resultados con sesgos culturales. El equipo de investigación, liderado por René F. Kizilcec y sus colegas, utilizó cinco versiones diferentes de OpenAI GPT...

Los modelos lingüísticos muestran una amplia aplicación en diversos campos, desde la educación y el asesoramiento jurídico hasta la predicción de riesgos médicos. Sin embargo, a medida que aumenta su influencia en los procesos de toma de decisiones, pueden reflejar involuntariamente los sesgos presentes en los datos de entrenamiento humanos, exacerbando la discriminación contra las minorías. Las investigaciones revelan un racismo implícito en los modelos lingüísticos, especialmente al procesar el inglés afroamericano (AAE), mostrando un sesgo dialectal dañino, más negativo que cualquier estereotipo conocido sobre los afroamericanos. Mediante el método de "camuflaje de coincidencia", se compara el AAE con el inglés estadounidense estándar.

El Departamento de Policía de Oklahoma City está probando un chatbot de IA llamado "Draft One" para generar informes y ahorrar tiempo. Desarrollado por Axon y basado en la tecnología ChatGPT, el sistema puede generar rápidamente informes a partir de grabaciones de audio. Si bien los partidarios dicen que esto mejorará significativamente la eficiencia, los críticos advierten sobre posibles errores, sesgos y el abuso de poder que podría resultar de la automatización. El activista Aurelius Francisco expresa su preocupación por el uso de armas de electrochoque e IA de la misma compañía, temiendo la automatización.

Un experimento ha revelado que OpenAI GPT3.5 muestra sesgo racial en la clasificación de currículums. Los resultados de las pruebas indican que GPT3.5 favorece ciertos nombres étnicos, lo que podría afectar las decisiones de contratación. El experimento también descubrió que GPT tiene preferencias de género y raza para diferentes puestos. OpenAI respondió que las empresas suelen adoptar medidas para mitigar los sesgos cuando utilizan su tecnología.

El CEO de Google condena enérgicamente la aparición de sesgos en la aplicación Gemini AI. Algunas imágenes generadas por Gemini de figuras históricas han generado controversia. Sundar Pichai envió una carta a los empleados comprometiéndose a resolver completamente los problemas de Gemini. Google ha suspendido el uso del generador de imágenes de Gemini.

El Departamento de Defensa de EE. UU. ha lanzado recientemente un programa de recompensas para encontrar ejemplos de sesgos legales en modelos de inteligencia artificial. El programa requiere que los participantes extraigan ejemplos claros de sesgos del modelo de código abierto LLaMa-2 70B de Meta. Con esta iniciativa, el Pentágono espera mejorar la equidad y la justicia en sus sistemas de IA.

Investigadores evaluaron el sesgo racial y de género de GPT-4 en la toma de decisiones clínicas. El estudio encontró un sesgo notable en GPT-4. La investigación insta a la evaluación del sesgo en los modelos de lenguaje grandes. Los resultados del estudio se publicaron en la revista The Lancet Digital Health.

Un informe de la Universidad Politécnica Estatal de Virginia revela que ChatGPT muestra sesgo en temas de justicia ambiental. El estudio encontró que ChatGPT proporciona más fácilmente información sobre justicia ambiental a estados con mayor densidad de población, mientras que los estados rurales con menor población carecen de acceso equivalente a la información. La investigación hace un llamado a realizar más estudios para revelar los sesgos geográficos del modelo ChatGPT. Estudios previos también han encontrado que ChatGPT puede mostrar sesgos políticos.

Un informe de la Universidad Tecnológica de Virginia revela que ChatGPT muestra sesgo en temas de justicia ambiental. El estudio encontró que ChatGPT proporciona más fácilmente información sobre justicia ambiental a estados con mayor densidad de población, mientras que los estados rurales con menor población carecen de un acceso equivalente a la información. La investigación insta a realizar más estudios para revelar el sesgo geográfico del modelo ChatGPT. Estudios previos también han encontrado que ChatGPT puede tener sesgos políticos.

Un equipo de investigación de la Escuela de Ingeniería Tandon de la Universidad de Nueva York descubrió que las interrupciones laborales relacionadas con la crianza de los hijos pueden llevar a una selección de personal injusta. El equipo examinó los sesgos en los grandes modelos lingüísticos. Los resultados del estudio muestran que al menos un modelo lingüístico incorporó erróneamente atributos relacionados con la crianza de los hijos en el proceso de selección de currículums. Este hallazgo sugiere que el uso de la IA en la contratación puede excluir erróneamente a candidatas cualificadas.

Los rostros caucásicos generados por inteligencia artificial han alcanzado un nivel de realismo 'superior al de las personas reales', pero existe un sesgo en la representación de otros grupos étnicos. La investigación revela que los sesgos en los datos de entrenamiento del algoritmo hacen que la IA tienda a representar a otros grupos étnicos con rasgos caucásicos, lo que podría exacerbar los prejuicios raciales en línea. Los investigadores instan a la educación pública para evitar la desinformación y el fraude en línea, destacando los problemas potenciales del 'hiperrealismo' de la inteligencia artificial.

🌐 El gobierno japonés está estableciendo directrices para la IA con el objetivo de reducir la dependencia excesiva de la tecnología de IA y abordar el problema del sesgo en los datos. 📜 El gobierno finalizará las directrices, que incluyen diez principios básicos para garantizar que las empresas de IA sigan los principios de equidad, transparencia y protección de los derechos humanos, antes de fin de año. 🤖 Los desarrolladores, proveedores de servicios y usuarios de IA compartirán la responsabilidad, y los desarrolladores deberán garantizar la precisión de los datos y prevenir el acceso no autorizado.

Investigadores han descubierto que el modelo ChatGPT de OpenAI muestra un sesgo de izquierda al responder preguntas políticas. ChatGPT tiende a favorecer posturas de izquierda al responder preguntas sobre partidos políticos de izquierda en Estados Unidos, Reino Unido y Brasil. Los investigadores temen que el sesgo de ChatGPT pueda influir en las opiniones políticas de los usuarios y en los resultados electorales.

Se teme que los sesgos en los conjuntos de datos de entrenamiento pongan a las minorías étnicas bajo presión por fraude, estafas e información errónea. La mayoría de los detectores de deepfakes se basan en estrategias de aprendizaje que dependen de los conjuntos de datos utilizados para el entrenamiento. Los expertos piden la creación de conjuntos de entrenamiento más inclusivos y métodos de medición estandarizados para abordar el problema del sesgo en las herramientas de detección de deepfakes.