Un avocat américain a écopé d'une amende de 15 000 dollars pour avoir utilisé l'intelligence artificielle pour générer de faux dossiers judiciaires. Cette affaire met en lumière les risques liés à l'utilisation de l'IA dans le domaine juridique.

Selon l'Associated Press, l'essor des outils d'intelligence artificielle (IA) générative pose des défis sans précédent aux commerçants, aux fournisseurs de services et aux consommateurs. Ces outils permettent de générer efficacement des avis en ligne nouveaux et détaillés, avec un minimum d'intervention humaine, ce qui exacerbe le problème des faux avis. Le rapport indique que les faux avis ont longtemps préoccupé les grandes plateformes de commerce électronique comme Amazon et Yelp. Ces avis sont souvent échangés au sein de groupes de médias sociaux privés, entre des courtiers en faux avis et des commerçants prêts à payer. Parfois, les commerçants...

Un avocat au Texas a récemment été sanctionné pour avoir utilisé de faux cas et citations générés par une intelligence artificielle dans des documents judiciaires. Cet événement soulève à nouveau des questions quant à l'utilisation par les avocats d'outils d'IA dans leur travail juridique. L'affaire concernait un procès pour licenciement abusif intenté contre Goodyear. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney, district est du Texas, juge de district Garcia.

Une étude récente menée conjointement par l'Université de la Ruhr à Bochum, l'Institut Leibniz GESIS et le centre Helmholtz CISPA révèle que les comptes X (anciennement Twitter) utilisant des avatars générés par IA ne représentent que 0,052 % de l'ensemble des comptes. Les chercheurs ont analysé près de 15 millions de comptes X et ont constaté que 7 723 d'entre eux utilisaient des avatars générés par IA. Légende de l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney. Ces comptes présentent des caractéristiques spécifiques...

La Federal Trade Commission (FTC) des États-Unis a récemment engagé une action en justice contre Sitejabber, une plateforme d'avis en ligne, l'accusant de violation des nouvelles réglementations en matière de faux avis. Selon les accusations de la FTC, Sitejabber a artificiellement gonflé le nombre d'avis positifs pour les entreprises en utilisant des retours recueillis via des questionnaires en point de vente (PDV), induisant ainsi les consommateurs en erreur quant à la véritable opinion sur les produits. La FTC souligne que la pratique de Sitejabber est « trompeuse » et que la société a procédé ainsi même lorsque les clients n'avaient pas effectivement utilisé les produits ou services.

Alibaba a récemment lancé EcomID, son nouveau projet de génération d'images IA de portraits, et a publié son plugin d'implémentation natif pour ComfyUI. Cet outil apporte une avancée significative dans le secteur en pleine expansion de la génération d'images IA de portraits. Il hérite non seulement des avantages d'InstantID et de PulID, mais innove également sur plusieurs indicateurs clés. Sur le plan technique, EcomID utilise une architecture innovante. Le projet s'appuie sur l'encodeur d'ID et les composants d'attention croisée de PuLID, réduisant significativement les pertes d'alignement grâce à un entraînement par alignement des pertes.

Alibaba Tongyi Qianwen a récemment répondu officiellement aux rumeurs concernant ses dépenses publicitaires. Des informations en ligne avaient précédemment affirmé que les dépenses publicitaires de Tongyi Qianwen pour le troisième trimestre s'élevaient à 4,5 millions d'euros, et à 900 000 euros au cours des 20 premiers jours d'octobre. Tongyi Qianwen a démenti ces chiffres dans un communiqué publié sur Weibo, affirmant que les dépenses publicitaires réelles étaient bien inférieures aux rumeurs en ligne.

L'Open Source Initiative (OSI) a récemment publié une nouvelle définition précisant ce qui constitue une véritable intelligence artificielle « open source ». Cette nouvelle norme a attiré l'attention des géants de la technologie, notamment Meta et son modèle Llama, car il ne respecte pas ces règles. L'OSI a toujours été l'organisme de normalisation de référence pour les logiciels open source, mais dans le cas des systèmes d'IA, certains éléments ne sont pas couverts par les licences traditionnelles, tels que les données d'entraînement du modèle. Selon la nouvelle définition de l'OSI, tout ce qui est considéré comme véritablement open source

TikTok a récemment publié un communiqué annonçant une lutte ferme contre l'utilisation de l'IA pour créer de faux contenus visant à arnaquer les personnes âgées. TikTok encourage les créateurs à utiliser l'IA pour faciliter la création de contenu, mais tout contenu doit respecter les règles de la plateforme. Il est strictement interdit d'utiliser l'IA générative pour publier des contenus contraires aux connaissances scientifiques, faux ou diffamatoires. Le communiqué souligne que certains comptes utilisent abusivement l'IA pour générer des personnages virtuels, tels que des petits bonzes, des militaires ou des femmes IA, et emploient des techniques de manipulation pour inciter les personnes âgées à aimer, suivre, commenter, voire à générer des revenus. Ces pratiques violent les règles de la plateforme.

Récemment, Meta Platforms Inc., la société mère de Facebook, a annoncé qu'elle commencerait à utiliser la reconnaissance faciale pour lutter contre les escroqueries utilisant des photos de célébrités. Cette initiative fait suite à la croissance du problème des escroqueries sur les médias sociaux, en particulier la prolifération de faux comptes de célébrités. Ces escrocs utilisent souvent les photos de célébrités pour gagner la confiance et inciter les utilisateurs à effectuer des transactions financières. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney. Meta déclare que...

La Federal Communications Commission (FCC) des États-Unis a récemment infligé une amende de 6 millions de dollars à Steve Kramer, un stratège démocrate. Source de l'image : Image générée par IA, fournie par le service d'autorisation d'images Midjourney. Cet incident découle d'une série d'appels téléphoniques effectués lors des primaires du New Hampshire, utilisant une voix du président Biden générée par IA pour dissuader les électeurs de voter, leur suggérant de conserver leur vote pour novembre. Ce comportement a suscité une vaste controverse publique.

À l'ère du développement fulgurant de l'intelligence artificielle, les technologies de synthèse et de conversion vocales évoluent rapidement, nous offrant des expériences audio incroyablement réalistes et naturelles. Cependant, ces progrès technologiques présentent également des risques potentiels pour la sécurité, notamment le 'clonage vocal', qui peut être exploité par des individus malintentionnés pour menacer la vie privée des individus et la stabilité sociale. Pour relever ce défi, le laboratoire de sécurité des systèmes intelligents de l'université de Zhejiang et l'université Tsinghua ont uni leurs forces pour lancer un cadre révolutionnaire de détection des faux audios : SafeEar. Ce cadre permet non seulement de détecter efficacement les faux audios, mais aussi de préserver...

Récemment, un ancien PDG d'une startup australienne a été inculpé par le département de la Justice américain et la Securities and Exchange Commission pour avoir prétendument escroqué des investisseurs en utilisant de faux bilans, amassant ainsi jusqu'à 40 millions de dollars. Cet homme de 41 ans, Baba Nadimpalli, était le co-fondateur et ancien PDG de Skael. Skael, fondée en 2016, affirmait pouvoir remplacer les employés humains par des "employés numériques", simplifier les processus de travail et améliorer l'efficacité. Cependant, l'affaire...

Récemment, le chercheur en sécurité Johann Rehberger a découvert une faille dans ChatGPT qui permet aux pirates d'implanter de fausses informations et des instructions malveillantes dans la mémoire à long terme des utilisateurs. Bien qu'il ait signalé le problème à OpenAI, la société n'a malheureusement pas accordé suffisamment d'importance à la question, fermant rapidement l'enquête et affirmant qu'il ne s'agissait pas d'un problème de sécurité. Face à cette situation, Rehberger a décidé de ne pas abandonner et a développé une preuve de concept d'attaque, utilisant cette faille pour…

Récemment, The Information a rapporté que ByteDance accélère le développement de ses propres puces IA et prévoit de collaborer avec TSMC, dans l'espoir d'une production de masse d'ici 2026. Le rapport indique également que ByteDance vise à réduire sa dépendance aux puces Nvidia et à diminuer les coûts de développement et d'exploitation des modèles d'IA. Note sur l'image : L'image a été générée par IA, le fournisseur de services d'autorisation d'images étant Midjourney, d'après un article du journal « Kechuangban Daily ». Concernant les informations publiées aujourd'hui sur le projet de collaboration entre ByteDance et TSMC pour les puces IA...

Une étude du MIT révèle que l'IA, notamment les robots conversationnels, peut implanter des "faux souvenirs" dans le cerveau humain. Des expériences ont montré que l'IA, par le biais de questions orientées, incite les volontaires à créer de faux souvenirs, et ces souvenirs persistent. L'étude a révélé que les individus intéressés par la technologie de l'IA mais qui ne la connaissent pas bien sont plus susceptibles d'être influencés par l'IA. Cette découverte remet en question l'utilisation de l'IA dans des domaines tels que le droit, la médecine et l'éducation, et souligne la nécessité de garantir que l'IA ne devienne pas un outil d'implantation de faux souvenirs, mais un outil de protection et d'amélioration de la mémoire. La protection de la mémoire ne concerne pas seulement la cognition individuelle, ...

La technologie de deepfake, une forme d'intelligence artificielle permettant l'échange de visage, se répand rapidement dans un contexte de progrès technologiques fulgurants, suscitant un vif intérêt. Une vidéo en direct d'Elon Musk, si réaliste qu'elle prête à confusion, a déclenché un débat en ligne, attirant un public considérable et mettant en lumière le potentiel et les risques de cette technologie. Les deepfakes ne se limitent pas aux diffusions en direct ; ils permettent également de créer des vidéos pour les médias sociaux extrêmement réalistes, comme un faux compte TikTok d'Elon Musk qui cumule un nombre impressionnant de likes et d'enregistrements, rendant difficile la distinction entre le vrai et le faux. Cependant, l'utilisation de cette technologie pose de nombreux problèmes, notamment un risque accru de fraudes téléphoniques.

La Federal Trade Commission (FTC) américaine a annoncé une interdiction totale des faux avis et recommandations générés par l'intelligence artificielle (IA) afin de lutter contre les pratiques malhonnêtes en matière d'avis en ligne, notamment l'achat d'avis positifs, l'embauche de faux abonnés et les avis de faux profils. Ces faux avis induisent les consommateurs en erreur et nuisent à la concurrence équitable sur le marché. La nouvelle réglementation souligne les dangers des faux avis générés par l'IA, qui influencent les décisions des consommateurs. La présidente de la FTC, Lina Khan, a déclaré que les faux avis polluent le marché et détournent l'attention des concurrents honnêtes. Cette réglementation vise à protéger les consommateurs en leur permettant de se fier aux avis de vrais utilisateurs, et non à de faux avis.

Le nouvel outil Pulse Inspect de Pindrop, un système de détection basé sur le Web pour les fichiers audio et vidéo, identifie les voix générées par IA avec une précision de 99 %. Il fait partie de la suite de produits Pindrop Pulse. Sa capacité unique à identifier l'audio généré par une variété d'outils ou de modèles d'IA le distingue. Actuellement en version préliminaire, il est conçu pour les organisations qui cherchent à protéger à grande échelle contre les risques de faux audio. Face à la montée des systèmes d'IA de génération de texte, les faux audio sont devenus plus courants, et Pulse Inspect...

Un scandale impliquant un journaliste utilisant l'intelligence artificielle pour créer de fausses citations et des articles a éclaté récemment dans le Wyoming. Le journaliste local CJ Baker a révélé que des citations attribuées au gouverneur du Wyoming et au procureur du comté étaient suspectes, et que les phrases des articles semblaient mécaniques. L'affaire a commencé avec un article sur la sélection de l'humoriste Larry Kabel Gaye comme grand marshal du défilé des sceaux de Cody. Après une rencontre avec le journaliste, Aaron Persha, ce dernier a admis avoir utilisé l'IA et a démissionné après une brève période d'emploi. L'éditeur et les rédacteurs en chef ont présenté leurs excuses et ont promis de mettre en place des mesures pour éviter que cela ne se reproduise.