A tecnologia de IA é uma faca de dois gumes, capaz de trazer conveniência, mas também riscos. Para melhor gerenciar esses riscos, o governador da Califórnia, Gavin Newsom, recentemente assinou nove projetos de lei voltados para o conteúdo gerado por IA, especialmente o fenômeno de deepfakes (vídeos falsos).
Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney
Entre esses projetos de lei, o SB1047 se destaca, exigindo que os desenvolvedores de IA adotem medidas de segurança para reduzir eventos catastróficos potenciais, como mortes em massa ou ataques cibernéticos. O governador Newsom ainda não se manifestou explicitamente sobre este projeto de lei. Os projetos de lei AB2602 e AB1836 focam na proteção dos direitos de atores e performers.
O AB2602 estipula que o uso de voz ou imagem de performer gerada por IA requer contrato, com a participação de um representante profissional na negociação.
O AB1836 proíbe o uso de imagens deepfake de performers falecidos em obras cinematográficas comerciais sem o consentimento de seus familiares.
Newsom declarou: "Temos explorado como a IA e a mídia digital estão transformando a indústria do entretenimento, mas nosso foco principal é proteger os trabalhadores. Essas leis garantem que a indústria continue a prosperar, ao mesmo tempo em que reforça a proteção dos trabalhadores."
Os projetos de lei também incluem medidas para combater o uso indevido de conteúdo gerado por IA:
O SB926 criminaliza a criação e distribuição de imagens pornográficas aparentemente reais;
O SB981 exige que plataformas de mídia social criem mecanismos de denúncia para lidar com conteúdo pornográfico deepfake denunciado por usuários;
O SB942 exige que os sistemas de IA incorporem marcas d'água invisíveis em seu conteúdo gerado e forneçam ferramentas de detecção.
Em campanhas eleitorais, os projetos de lei AB2655, AB2839, AB2355 e AB2905 visam combater o uso de deepfakes e outros conteúdos digitais enganosos para proteger a justiça e a transparência eleitoral.
O AB2655 exige que grandes plataformas online removam ou marquem conteúdo político enganoso ou digitalmente alterado em períodos específicos antes e depois das eleições, e que forneçam meios de denúncia.
O AB2839 amplia o período em que entidades políticas têm proibido a distribuição de anúncios ou outros materiais eleitorais contendo conteúdo enganoso gerado por IA.
O AB2355 exige que anúncios políticos usando conteúdo gerado por IA divulguem que o material foi alterado.
O AB2905 exige que chamadas telefônicas automatizadas informem o receptor se a voz é gerada artificialmente.
Newsom enfatizou: "Proteger a integridade das eleições é crucial para a democracia, e devemos garantir que a IA não seja usada para minar a confiança pública por meio de desinformação. Essas medidas ajudarão a combater o uso prejudicial de deepfakes em anúncios políticos."
Destaques:
📜 Newsom assina nove projetos de lei para fortalecer a regulamentação de conteúdo gerado por IA.
🎭 Proteção da imagem digital de atores e performers, prevenindo o uso não autorizado de IA.
🔍 Combate ao conteúdo pornográfico gerado por IA e informações enganosas em campanhas eleitorais.
