De acordo com uma nova pesquisa do IBM Institute for Business Value, quase metade dos CEOs expressam preocupações sobre a precisão e o viés da inteligência artificial (IA). A pesquisa, realizada em parceria com o Oxford Economics, entrevistou 5.000 executivos de 24 países, abrangendo líderes empresariais da América do Norte, América Latina, Europa, Oriente Médio, África e Ásia.
Em relação à governança de IA, a pesquisa revelou que apenas 21% dos executivos consideram a maturidade da governança de IA de suas organizações como sistemática ou inovadora, indicando um grande potencial de melhoria nesse setor. Governança de IA refere-se aos princípios, políticas e práticas de desenvolvimento responsáveis alinhados com valores éticos e humanos.
Para lidar com as preocupações sobre a precisão e o viés da IA, 60% dos executivos de nível C afirmam ter designado responsáveis claros pela IA generativa em suas organizações. Além disso, 78% dos executivos afirmam manter documentação detalhada para garantir a explicabilidade da IA. Adicionalmente, 74% das empresas realizam avaliações de impacto ético e 70% realizam testes com usuários para avaliar e mitigar riscos potenciais. A pesquisa também descobriu que 80% dos executivos de nível C afirmam que suas empresas possuem uma função específica de gestão de riscos focada na aplicação de IA ou IA generativa.
Phaedra Boinodiris, líder global de confiança em IA da IBM Consulting, observa que a criação de uma estrutura de governança sólida que promova a responsabilização, a transparência e a explicabilidade é uma preocupação principal das empresas atualmente. Ela sugere que as empresas, ao estabelecerem uma base de governança de IA responsável, considerem uma série de ações, incluindo a melhoria da alfabetização em IA para todos os funcionários, equipando-os com habilidades técnicas para usar a IA de forma eficaz e cultivando o pensamento crítico. Além disso, as empresas devem garantir que seus sistemas de medição estejam alinhados com seus valores centrais, incluindo os valores de suas partes interessadas, e incorporar equipes diversificadas e multidisciplinares em seus sistemas de governança para o desenvolvimento e aquisição de modelos de IA.
O estudo também mostra que empresas com maior maturidade tecnológica tendem a dar mais importância à governança de IA, enquanto empresas com menor maturidade tecnológica enfrentam maior complexidade nas escolhas de governança. A IBM destaca que uma estrutura de governança de IA flexível pode ajudar as empresas a se adaptarem às mudanças de mercado, a reduzir riscos e a promover uma adoção mais ampla para realizar o potencial da IA.
Este estudo faz parte de uma série de relatórios do IBM Institute for Business Value sobre IA generativa, com o objetivo de revelar as oportunidades e os desafios que essa tecnologia apresenta às empresas globais. Outros relatórios relacionados mostram que 77% dos líderes empresariais acreditam que a IA generativa está pronta para o mercado e que a adoção rápida dessa tecnologia é crucial para manter a competitividade.
Destaques:
🌐 Quase metade dos CEOs expressam preocupações sobre a precisão e o viés da IA, e as empresas ainda têm espaço para melhorar na governança.
📑 60% das empresas designaram responsáveis pela IA generativa, e 78% mantêm documentação detalhada para garantir a explicabilidade.
⚖️ Empresas com maior maturidade tecnológica dão mais importância à governança de IA, e uma estrutura de governança flexível ajuda a reduzir riscos e a se adaptar às mudanças de mercado.
