Según una nueva encuesta del Instituto de Valor Comercial de IBM, casi la mitad de los directores ejecutivos expresan preocupación por la precisión y el sesgo de la inteligencia artificial (IA). Esta investigación, realizada en colaboración entre IBM y el Oxford Economics Institute, encuestó a 5000 ejecutivos de 24 países, abarcando líderes empresariales de Norteamérica, Latinoamérica, Europa, Oriente Medio, África y Asia.
En cuanto a la gobernanza de la IA, la encuesta reveló que el 21% de los ejecutivos consideran que la madurez de la gobernanza de la IA de sus organizaciones se encuentra en una etapa sistematizada o innovadora, lo que indica que las empresas aún tienen mucho margen de mejora en este ámbito. La gobernanza de la IA se refiere a los principios, políticas y prácticas de desarrollo responsables que son coherentes con los valores éticos y humanos.
Para abordar las preocupaciones sobre la precisión y el sesgo de la IA, el 60% de los ejecutivos de la alta dirección indicaron que han establecido un responsable claro de IA generativa dentro de sus organizaciones. Simultáneamente, el 78% de los ejecutivos afirmaron mantener una documentación exhaustiva para garantizar la explicabilidad de la IA. Además, el 74% de las empresas realizan evaluaciones de impacto ético, y el 70% lleva a cabo pruebas con usuarios para evaluar y mitigar los riesgos potenciales. La encuesta también encontró que el 80% de los ejecutivos de la alta dirección indicaron que sus empresas cuentan con una función específica de gestión de riesgos centrada en la aplicación de la IA o la IA generativa.
Phaedra Boinodiris, líder global de IBM Consulting responsable de la IA de confianza, señaló que el establecimiento de un sólido marco de gobernanza que fomente la rendición de cuentas, la transparencia y la explicabilidad es una preocupación principal para las empresas en la actualidad. Recomendó que, al establecer una base de gobernanza de IA responsable, las empresas consideren una serie de acciones, incluyendo la mejora de la alfabetización en IA de todos los empleados, dotándoles tanto de las habilidades técnicas para utilizar la IA de manera efectiva como de la capacidad de pensamiento crítico. Además, las empresas deben asegurar que sus sistemas de medición sean coherentes con sus valores fundamentales, incluyendo los de sus partes interesadas, e incorporar equipos diversos y multidisciplinares en los sistemas de gobernanza del desarrollo y la adquisición de modelos de IA.
El estudio también muestra que las empresas con mayor madurez tecnológica tienden a dar más importancia a la gobernanza de la IA, mientras que las empresas con menor madurez tecnológica se enfrentan a una mayor complejidad en la elección de la gobernanza. IBM destaca que un marco de gobernanza de IA flexible puede ayudar a las empresas a adaptarse a los cambios del mercado, reducir los riesgos y fomentar una mayor adopción para aprovechar el potencial de la IA.
Este informe de investigación es parte de una serie de informes del Instituto de Valor Comercial de IBM sobre la IA generativa, cuyo objetivo es revelar las oportunidades y los desafíos que esta tecnología presenta para las empresas de todo el mundo. Otros informes relacionados muestran que el 77% de los líderes empresariales consideran que la IA generativa está lista para el mercado y que la adopción rápida de esta tecnología es crucial para mantener la competitividad.
Puntos clave:
🌐 Casi la mitad de los CEO expresan preocupación por la precisión y el sesgo de la IA, y las empresas aún tienen margen de mejora en materia de gobernanza.
📑 El 60% de las empresas han establecido un responsable de IA generativa, y el 78% mantiene una documentación exhaustiva para garantizar la explicabilidad.
⚖️ Las empresas con mayor madurez tecnológica dan más importancia a la gobernanza de la IA, y un marco de gobernanza flexible ayuda a reducir los riesgos y adaptarse a los cambios del mercado.
