Recentemente, o governador da Califórnia, Gavin Newsom, vetou um projeto de lei polêmico sobre segurança de IA, gerando debates acalorados no setor de tecnologia e na política, e lançando uma bomba sobre o futuro da regulamentação de IA.
O projeto de lei, proposto pelo senador democrata Scott Wiener, pretendia estabelecer salvaguardas para a rápida evolução da tecnologia de IA. Ele exigia testes de segurança para modelos de IA avançados com custo de desenvolvimento superior a US$ 100 milhões ou que necessitassem de capacidade computacional específica, além de exigir que os desenvolvedores fornecessem um "interruptor de desligamento". Além disso, o projeto de lei planejava criar um órgão estadual para supervisionar o desenvolvimento de "modelos de ponta".
Nota da imagem: Imagem gerada por IA, provedor de licenciamento de imagens Midjourney
No entanto, Newsom considerou o projeto de lei muito amplo, sem levar em conta adequadamente a implantação de sistemas de IA em ambientes de alto risco e o uso de dados sensíveis. Ele apontou que a lei impunha padrões rígidos a todos os sistemas grandes, incluindo até mesmo os mais básicos, o que poderia sufocar a inovação.
A decisão de Newsom recebeu amplo apoio do setor de tecnologia. Gigantes da tecnologia como Google, Microsoft, OpenAI e Meta expressaram preocupações anteriores com o projeto de lei, argumentando que ele poderia expulsar empresas de IA da Califórnia e inibir a inovação. Associações do setor, como a "Câmara de Comércio Progressista", também elogiaram o veto, enfatizando que a economia tecnológica da Califórnia sempre prosperou em um ambiente competitivo e aberto.
Contudo, os defensores do projeto de lei, incluindo o CEO da Tesla, Elon Musk, expressaram sua decepção com a decisão. O senador Wiener acredita que a decisão torna a Califórnia menos segura e significa que as empresas que criam tecnologias extremamente poderosas ficarão sem regulamentação. Ele enfatizou que os compromissos voluntários do setor não são aplicáveis e geralmente não beneficiam o público.
Apesar de ter vetado o projeto de lei, Newsom não é totalmente contra a regulamentação da IA. Ele disse ter consultado especialistas de ponta em IA generativa para ajudar a Califórnia a criar regulamentações mais práticas e enfatizou que continuará a trabalhar com o poder legislativo para promover a legislação sobre IA. Ele também assinou um projeto de lei separado exigindo que o governo estadual avalie as ameaças potenciais da IA generativa às infraestruturas críticas da Califórnia.
Este evento ocorre em um contexto de estagnação da legislação sobre regulamentação de IA no Congresso americano, enquanto o governo Biden está promovendo propostas de regulamentação. Newsom alertou que, se o Congresso não agir, a necessidade de ação independente da Califórnia pode aumentar.
O rápido desenvolvimento da tecnologia de IA trouxe oportunidades e desafios sem precedentes. Por um lado, a IA generativa pode gerar texto, fotos e vídeos a partir de prompts abertos, mostrando um enorme potencial de inovação; por outro lado, ela também levanta preocupações como perda de empregos, interferência eleitoral e até mesmo consequências catastróficas.
A decisão de Newsom reflete a dificuldade de se buscar um equilíbrio na questão da regulamentação da IA. Encontrar o ponto certo entre a proteção da segurança pública e a promoção da inovação tecnológica será um grande desafio para os formuladores de políticas.
No futuro, provavelmente veremos mais regulamentações direcionadas a cenários específicos e aplicações de alto risco. Ao mesmo tempo, o diálogo e a colaboração entre governos, empresas de tecnologia e público se tornarão cada vez mais importantes. Somente por meio de esforços conjuntos poderemos desfrutar das vantagens da IA enquanto controlamos eficazmente seus riscos potenciais.