Récemment, le gouverneur de Californie, Gavin Newsom, a rejeté un projet de loi controversé sur la sécurité de l'IA, déclenchant un vif débat dans les milieux technologiques et politiques, et jetant une bombe à retardement sur l'avenir de la réglementation de l'IA.
Ce projet de loi, proposé par le sénateur démocrate Scott Wiener, visait à établir des garde-fous pour le développement rapide des technologies d'IA. Il exigeait des tests de sécurité pour les modèles d'IA avancés dont le coût de développement dépasse 100 millions de dollars ou qui nécessitent une capacité de calcul spécifique, et obligeait les développeurs à fournir un « interrupteur d'arrêt ». De plus, le projet de loi prévoyait la création d'un organisme d'État chargé de superviser le développement des « modèles de pointe ».
Source : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney
Cependant, Newsom a estimé que ce projet de loi était trop vague et ne tenait pas suffisamment compte du déploiement de systèmes d'IA dans des environnements à haut risque et de l'utilisation de données sensibles. Il a souligné que le projet de loi imposait des normes strictes à tous les grands systèmes, y compris les plus basiques, ce qui pourrait étouffer l'innovation.
La décision de Newsom a été largement soutenue par le secteur technologique. Des géants de la technologie comme Google, Microsoft, OpenAI et Meta avaient auparavant exprimé leurs inquiétudes concernant ce projet de loi, estimant qu'il pourrait chasser les entreprises d'IA de Californie et freiner l'innovation. Des associations professionnelles comme la « Chambre de commerce pour le progrès » ont également salué ce veto, soulignant que l'économie technologique californienne a prospéré dans un contexte de concurrence et d'ouverture.
Cependant, les partisans du projet de loi, dont le PDG de Tesla, Elon Musk, ont exprimé leur déception face à cette décision. Le sénateur Wiener estime que cette décision rend la Californie plus dangereuse et signifie que les entreprises qui créent des technologies extrêmement puissantes ne seront soumises à aucune contrainte. Il a souligné que les engagements volontaires de l'industrie ne sont pas contraignants et ne sont souvent pas bénéfiques pour le public.
Bien qu'il ait rejeté ce projet de loi, Newsom n'est pas totalement opposé à la réglementation de l'IA. Il a déclaré avoir consulté les plus grands experts en IA générative pour aider la Californie à élaborer des réglementations plus réalistes et a souligné qu'il continuerait à collaborer avec le corps législatif pour faire avancer la législation sur l'IA. Il a également signé un autre projet de loi exigeant que le gouvernement de l'État évalue les menaces potentielles de l'IA générative pour les infrastructures critiques de la Californie.
Cet événement survient alors que la législation américaine sur la réglementation de l'IA est au point mort au Congrès, et que l'administration Biden promeut des propositions de réglementation. Newsom a averti que si le Congrès ne prenait pas de mesures, la nécessité pour la Californie d'agir de manière indépendante pourrait augmenter.
Le développement rapide de la technologie de l'IA présente des opportunités et des défis sans précédent. D'une part, l'IA générative peut produire du texte, des photos et des vidéos à partir d'invites ouvertes, démontrant un potentiel d'innovation énorme ; d'autre part, elle suscite des inquiétudes telles que la perte d'emplois, l'ingérence électorale et même des conséquences catastrophiques.
La décision de Newsom reflète la difficulté de trouver un équilibre dans la réglementation de l'IA. Trouver le juste équilibre entre la protection de la sécurité publique et la promotion de l'innovation technologique constituera un défi majeur pour les décideurs.
À l'avenir, nous pourrions assister à des réglementations plus ciblées sur des scénarios spécifiques et des applications à haut risque. Parallèlement, le dialogue et la coopération entre les gouvernements, les entreprises technologiques et le public deviendront de plus en plus importants. Seule une action concertée permettra de profiter des avantages de l'IA tout en maîtrisant efficacement ses risques potentiels.