Récemment, un reportage de CCTV News a révélé que les outils d'IA sont devenus des "outils magiques" pour les étudiants universitaires afin de réaliser des rapports et des dissertations. Cependant, ce phénomène suscite également des inquiétudes quant à la fraude académique. Certains professeurs d'université et experts ont déclaré que quelques étudiants utilisaient l'IA pour falsifier des données de recherche, modifier des images d'expériences, etc., ce qui compromettait gravement l'intégrité académique. Une notification d'un groupe de devoirs d'une université indique que les professeurs ont clairement stipulé que les dissertations générées directement par l'IA seraient systématiquement notées zéro. Source de l'image : image générée par IA, fournisseur de services d'autorisation d'images Midjourney. Une enquête du Changjiang Daily révèle que près de 60 % des universités...

Lors de la « Journée portes ouvertes sur la gouvernance de la plateforme ByteDance » qui s'est tenue aujourd'hui, Yan Mengru, responsable de l'exploitation sécurisée, a dévoilé les résultats de la gouvernance de la plateforme en 2024 et ses plans pour 2025. Elle a souligné que la technologie de l'IA avait abaissé le seuil de création de contenu de faible qualité, des outils comme « Ant AI » ayant accéléré la prolifération de contenu homogène. Les données montrent que la plateforme a traité 7,81 millions d'articles de contenu homogène en 2024, interdit 63 000 comptes en violation des règles et coopéré avec la police pour engager des poursuites dans deux affaires concernant des groupes locaux ayant diffusé des rumeurs homogènes, et publié six communiqués sur la gouvernance. Yan Mengru a déclaré que le plagiat assisté par IA…

Aujourd'hui, les Deepfakes sont omniprésents. Avec la popularisation de l'IA générative, le nombre de contenus falsifiés sur internet explose. Selon la plateforme d'authentification Sumsub, le nombre de Deepfakes a quadruplé entre 2023 et 2024. En 2024, les Deepfakes représentaient 7 % de toutes les fraudes, de l'usurpation d'identité au vol de compte, en passant par des attaques d'ingénierie sociale complexes. Pour lutter efficacement contre les Deepfakes, Meta...

Le géant technologique Google a récemment annoncé la création d'un centre de recherche et développement en intelligence artificielle en Arabie Saoudite. Cette décision suscite de nombreuses interrogations, notamment au vu des enjeux climatiques actuels. Malgré les difficultés rencontrées par Google dans la réalisation de ses objectifs climatiques, cela ne l'a pas empêché d'étendre son empreinte IA dans ce pays fortement dépendant des combustibles fossiles. Note sur l'image : Image générée par IA, fournie par Midjourney, basée sur le communiqué conjoint du Fonds d'investissement public saoudien et de Google. Ce nouveau centre IA se concentrera sur le développement de modèles de langue arabe.

L'annonce par Google de la création d'un nouveau centre de données axé sur l'intelligence artificielle en Arabie saoudite a suscité des interrogations sur ses objectifs climatiques. Bien que Google ait déclaré en 2020 qu'il cesserait de développer des algorithmes pour la production pétrolière et gazière, et se soit engagé en 2021 à réduire ses émissions, la société a néanmoins décidé d'implanter un nouveau centre de données en Arabie saoudite, un pays fortement dépendant des combustibles fossiles. Ce nouveau centre d'IA soutiendra la recherche sur les modèles d'IA en arabe et sur des « applications d'IA spécifiques à l'Arabie saoudite ». La compagnie pétrolière nationale Aramco a indiqué que pour le moment, son activité globale...

Une étude récente du Belfer Center for Science and International Affairs de la Harvard Kennedy School a révélé que de fausses publications scientifiques générées par l'intelligence artificielle se répandent dans les moteurs de recherche académiques tels que Google Scholar. Cela pourrait éroder la confiance du public dans les découvertes scientifiques et perturber le développement de produits dans les industries qui dépendent de la recherche de pointe.

Cet article relate une affaire rare dans l'industrie musicale : Michael Smith, un musicien de Caroline du Nord, est accusé de fraude pour avoir utilisé l'intelligence artificielle et des comptes de robots pour obtenir plus de 10 millions de dollars de revenus illégaux sur les plateformes de streaming. En collaboration avec un complice, il a acheté des chansons générées par l'IA et a gonflé artificiellement les lectures de ses propres morceaux et de ceux générés par l'IA sur des plateformes comme Spotify, Apple Music et YouTube Music, atteignant des milliards de lectures. Smith a utilisé de faux noms pour créer des comptes robots, dispersant le trafic afin de...

En septembre 2023, les applications et sites web utilisant l'intelligence artificielle pour créer des deepfakes ont connu une augmentation spectaculaire de leurs visites, atteignant 24 millions. La publicité sur les médias sociaux a propulsé ces services, les liens publicitaires ayant augmenté de plus de 2400% sur les médias sociaux, soulevant des inquiétudes concernant les deepfakes pornographiques non consensuels. Avec les progrès de l'IA, les logiciels de deepfakes sont plus faciles à créer, ciblant des personnes ordinaires et posant des problèmes de confidentialité et juridiques. Face à cette tendance, certaines plateformes ont commencé à prendre des mesures, comme TikTok et Meta Platforms qui ont bloqué...

L'Institut de calcul intelligent d'Alibaba a lancé la technologie Animate Anyone, capable de transformer des images statiques en vidéos dynamiques extrêmement réalistes. Cette technologie améliore les systèmes de conversion image-vidéo et résout les problèmes d'hallucinations, mais présente encore des défis dans le traitement des mouvements des yeux et des mains. Bien que cette avancée technologique soit significative, elle suscite des inquiétudes quant à son utilisation abusive, car elle permet de créer de fausses vidéos à partir de photos personnelles, ce qui pourrait conduire à la propagation de fausses informations. L'équipe prépare activement le code pour une démonstration et une utilisation publique, mais craint les risques de désinformation liés à l'augmentation du nombre de fausses vidéos. L'internet est-il sur le point de connaître une vague de "faux montages vidéo" ?

L'Internet Watch Foundation (IWF) met en garde contre une possible aggravation du problème des images de violence sexuelle sur mineurs. Le rapport appelle les gouvernements et les fournisseurs de technologies à contrôler rapidement l'intelligence artificielle utilisée pour générer de fausses photos. Les systèmes d'intelligence artificielle générative peuvent conduire à la création de faux profonds d'enfants virtuels, élargissant le cercle des victimes potentielles. Renforcement de la législation pour lutter contre les abus générés par l'IA, notamment des propositions pour l'Union européenne.

Prolific est une plateforme fournissant des données réelles provenant d'humains, aidant les fabricants de grands modèles d'IA dans l'entraînement par apprentissage par renforcement avec rétroaction humaine (RLHF). Le RLHF combine l'apprentissage automatique avec des instructions humaines, optimisant les capacités décisionnelles et la qualité des résultats de l'IA grâce à l'évaluation et aux directives humaines. Prolific a constitué une communauté de plus de 120 000 personnes, fournissant des données de haute qualité à plus de 3000 organisations renommées. La plateforme garantit la qualité des données grâce à l'authentification des participants et à la filtration des tâches de collecte de données.