No mundo da tecnologia, uma "guerra de gato e rato" entre desenvolvedores e gerência está em andamento. Os protagonistas deste jogo são as ferramentas de codificação de IA que são proibidas pelas empresas, mas ainda assim usadas clandestinamente pelos desenvolvedores.
De acordo com a pesquisa global mais recente da Checkmarx, uma empresa de segurança em nuvem, embora 15% das empresas proíbam explicitamente o uso de ferramentas de codificação de IA, quase todas as equipes de desenvolvimento (99%) as utilizam. Esse fenômeno destaca os desafios no controle do uso da IA generativa.
Apenas 29% das empresas estabeleceram algum tipo de mecanismo de governança para ferramentas de IA generativa. Em 70% dos casos, não há uma estratégia unificada, e as decisões de compra são tomadas ad hoc por diferentes departamentos. Essa situação deixa a gerência em uma posição de desvantagem no controle do uso de ferramentas de codificação de IA.
Com a proliferação das ferramentas de codificação de IA, as questões de segurança também estão se tornando cada vez mais importantes. 80% dos entrevistados temem os potenciais riscos do uso de IA pelos desenvolvedores, sendo que 60% estão particularmente preocupados com o problema das "alucinações" da IA.
Apesar dessas preocupações, o potencial da IA ainda desperta grande interesse. 47% dos entrevistados estão abertos à possibilidade de permitir que a IA faça alterações de código sem supervisão. Apenas 6% afirmam que não confiariam nas medidas de segurança da IA em um ambiente de software.
Tzruya afirma: "As respostas desses CISOs globais revelam a realidade de que os desenvolvedores estão usando IA no desenvolvimento de aplicativos, mesmo que a IA não possa criar código seguro de forma confiável, o que significa que as equipes de segurança precisam lidar com uma grande quantidade de código novo e vulnerável."
Um relatório recente do índice de tendências de trabalho da Microsoft também mostra descobertas semelhantes, com muitos funcionários usando suas próprias ferramentas de IA sem que a empresa as forneça. Geralmente, eles não discutem esse uso, o que impede a integração sistemática da IA generativa nos processos de negócios.
Apesar da proibição explícita, 99% das equipes de desenvolvimento ainda usam ferramentas de IA para gerar código. Apenas 29% das empresas estabeleceram mecanismos de governança para o uso de IA generativa. Em 70% dos casos, as decisões sobre o uso de ferramentas de IA são tomadas ad hoc pelos departamentos. Ao mesmo tempo, os problemas de segurança estão aumentando. 47% dos entrevistados estão abertos à possibilidade de permitir que a IA faça alterações de código sem supervisão. As equipes de segurança enfrentam o desafio de lidar com uma grande quantidade de código gerado por IA que pode ser vulnerável.
Essa "guerra de gato e rato" entre desenvolvedores e gerência continua, e o futuro das ferramentas de codificação de IA ainda está por ser visto.
