Le 28 février, le ministère de l'Industrie et des technologies de l'information a publié les « Lignes directrices sur la gestion et les techniques relatives à l'accès au marché, au rappel et aux mises à jour logicielles en ligne des produits automobiles intelligents et connectés », exigeant expressément que les systèmes de véhicules automobiles intelligents et connectés soient dotés de stratégies de restriction, telles que l'interdiction d'activer les fonctions correspondantes, lorsque le conducteur n'utilise pas correctement les fonctions d'assistance à la conduite combinées. Cette nouvelle réglementation vise à améliorer encore la sécurité et le contrôle des systèmes d'assistance à la conduite intelligente. Conformément aux lignes directrices, les systèmes de véhicules automobiles intelligents et connectés doivent avoir des stratégies d'activation, d'exécution et de sortie claires. Pour les fonctions d'assistance à la conduite, lorsque le système détecte que le conducteur s'éloigne de la tâche de conduite dynamique, ne répond pas aux avertissements et...

Une équipe de recherche des universités de Columbia et du Maryland a récemment publié une nouvelle étude révélant de graves failles de sécurité dans les agents IA dotés d'un accès à Internet. L'étude montre que des attaquants peuvent facilement tromper ces systèmes IA pour qu'ils divulguent des informations privées des utilisateurs, téléchargent des fichiers malveillants, ou même envoient des e-mails frauduleux aux contacts des utilisateurs. Ces attaques ne nécessitent aucune connaissance spécialisée en IA ou en programmation, ce qui est alarmant. Note sur l'image : Image générée par IA, service d'autorisation d'image.

Alors que l'utilisation de l'intelligence artificielle pour la détection précoce des maladies s'étend, une étude récente montre le potentiel considérable de l'IA dans la gestion des crises de santé mentale. Publiée dans le JAMA Network Open, cette étude révèle que l'IA peut identifier efficacement les personnes à risque de suicide, offrant ainsi un outil de prévention pour les soins de santé quotidiens. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney. L'étude explore deux méthodes pour alerter les médecins sur les risques de suicide : une alerte active de type "pop-up"

Une enquête récente du journal britannique The Guardian a révélé une faille de sécurité potentielle dans l'outil de recherche ChatGPT d'OpenAI. L'enquête a montré que ChatGPT peut être manipulé lorsqu'il traite des résumés de pages Web contenant du contenu caché, pouvant même renvoyer du code malveillant. Ce contenu caché peut inclure des instructions de tiers visant à perturber les réponses de ChatGPT, ou une grande quantité de texte caché faisant la promotion d'un produit ou d'un service. Source de l'image : Image générée par IA, test en cours avec le service d'autorisation d'images Midjourney, ChatG

OpenAI a récemment lancé Sora, son modèle de génération de vidéos, mais les données d'entraînement du modèle pourraient contenir de nombreux contenus de jeux vidéo protégés par des droits d'auteur, ce qui soulève des inquiétudes juridiques. Sora peut générer des vidéos d'une durée maximale de 20 secondes à partir d'invites textuelles ou d'images des utilisateurs, et prend en charge plusieurs formats d'image et résolutions. Dès sa sortie, OpenAI a mentionné que les données d'entraînement de Sora comprenaient des vidéos de Minecraft, ce qui a suscité la curiosité quant à d'autres contenus de jeux vidéo potentiellement utilisés. Lors de tests réels, Sora a pu...

Avec le développement rapide de la technologie de génération d'images, les créateurs ont un besoin croissant de diversité dans les sorties d'images, de protection des droits d'auteur et d'effets visuels améliorés. Dans ce contexte, NegToMe est né, apportant une innovation révolutionnaire au domaine de la génération d'images. Cette technologie révolutionnaire, grâce à une méthode de guidance antagoniste pilotée par l'image, dépasse complètement les limites des invites négatives traditionnelles. Contrairement aux méthodes de guidance antagoniste basées sur du texte, NegToMe se réfère directement aux caractéristiques visuelles de l'image, permettant un contrôle précis et flexible de la génération d'images. Les principaux avantages de cette technologie résident dans plusieurs...

Google a récemment lancé la nouvelle famille de modèles d'IA PaliGemma 2, dont la fonctionnalité la plus remarquable est sa prétendue capacité à 'identifier' les émotions humaines par analyse d'images. Cette affirmation a rapidement suscité de vives discussions et de sérieuses mises en doute au sein des milieux académiques et parmi les experts en éthique technologique. Ce système d'IA, basé sur le modèle ouvert Gemma, est capable de générer des descriptions d'images détaillées, allant au-delà de la simple reconnaissance d'objets pour tenter de décrire le comportement et les émotions des personnes figurant sur l'image. Cependant, plusieurs experts de renom ont lancé de sérieux avertissements concernant la scientificité de cette technologie et ses risques potentiels. Provenant de

Google a récemment publié son nouveau modèle d'intelligence artificielle, PaliGemma2. Cette technologie peut analyser des images et générer des légendes, tout en répondant à des questions sur les émotions et les actions des personnes présentes sur les photos. PaliGemma2, basé sur la série de modèles ouverts Gemma de Google, offre des descriptions d'images plus approfondies que la reconnaissance d'objets traditionnelle, capable d'identifier les émotions et de générer des descriptions détaillées en contexte. Cependant, malgré cette innovation apparemment révolutionnaire, des experts ont lancé de sérieux avertissements concernant les implications éthiques et sociétales potentielles. La reconnaissance des émotions n'est pas ...

Récemment, le secrétaire d'État britannique à la Technologie, Peter Kyle, a admis que le manque de transparence des ministères quant à l'utilisation de l'intelligence artificielle (IA) et des algorithmes suscitait l'inquiétude du public. Depuis que le gouvernement a annoncé l'obligation pour tous les ministères d'enregistrer l'utilisation des systèmes d'IA, aucun département de Whitehall n'a procédé à cet enregistrement. Cela a donné lieu à des mises en garde concernant le déploiement « aveugle » par le secteur public de technologies algorithmiques ayant un impact sur des millions de vies. Légende de l'image : Image générée par IA, fournisseur de services d'autorisation d'images Mi

Un incident récent survenu au sein d'un groupe Facebook d'amateurs de champignons a de nouveau soulevé des inquiétudes quant à la sécurité des applications d'IA. Selon 404Media, un agent IA nommé 'FungiFriend' a infiltré le groupe 'Identification et discussion sur les champignons du Nord-Est', qui compte 13 000 membres, et a donné des conseils erronés potentiellement mortels. Lorsqu'on lui a demandé comment cuisiner des champignons Sarcosphaera coronaria à forte teneur en arsenic, FungiFriend a non seulement donné une réponse erronée, mais…

Ces dernières années, le développement rapide de l'intelligence artificielle (IA) a offert de nombreuses opportunités aux entreprises, mais parallèlement, ses menaces potentielles sont de plus en plus apparentes. Selon le dernier rapport 2024 sur les risques de nouvelle génération, une enquête révèle qu'un pourcentage étonnant de 80 % des entreprises interrogées n'ont pas encore élaboré de plan d'intervention spécifique aux risques liés à l'IA générative, notamment les risques de sécurité liés à la fraude informatique pilotée par l'IA. Cette enquête a été menée par Riskconnect, une société de logiciels de gestion des risques, auprès de 218 professionnels mondiaux de la conformité et de la résilience des risques.

L'évolution de l'intelligence artificielle expose des entreprises technologiques comme Google et Meta à de nouveaux risques juridiques en matière de diffamation. L'utilisation de commentaires ou d'avis d'utilisateurs pour générer des réponses IA sur leurs plateformes soulève des questions. Les experts juridiques australiens soulignent que, traditionnellement, la responsabilité incombe à l'utilisateur lorsqu'un commentaire diffamatoire est publié sur Google ou Facebook. Cependant, une décision importante de la Haute Cour d'Australie dans l'affaire Dylan Waller en 2021 a établi que les plateformes hébergeant de tels commentaires, comme les pages de médias sociaux, pourraient également être tenues responsables.

L'équipe de recherche de Disney a récemment présenté une nouvelle méthode de compression d'image utilisant le modèle open source Stable Diffusion V1.2. Cette méthode permet de générer des images plus réalistes à des débits binaires inférieurs à ceux de ses concurrents. Baptisée « codec », cette nouvelle approche est certes plus complexe que les codecs JPEG et AV1 traditionnels, mais ses performances sont impressionnantes. L'étude montre que la nouvelle méthode excelle dans la restauration des détails de l'image, tout en réduisant considérablement les coûts de formation. Les chercheurs ont...

Lors d'une conférence importante, le gouverneur de la Reserve Bank of India, Shri Shaktikanta Das, a récemment mis en garde contre le risque que l'intelligence artificielle (IA) et les plateformes associées puissent exacerber les risques systémiques pour le système financier indien. Lors de cette conférence de haut niveau sur le thème « RBI90 », M. Das a souligné que si l'IA et l'apprentissage automatique ouvrent de nouvelles perspectives commerciales et de croissance des bénéfices pour les institutions financières, cela s'accompagne également de risques importants. M. Das a indiqué que la domination du marché par un petit nombre de fournisseurs de services d'IA pourrait conduire à une concentration.

Datricks, une startup basée à Tel Aviv, en Israël, a récemment levé 15 millions de dollars lors d'un tour de table de série A mené par la société de capital-risque Team8, avec la participation du géant mondial des logiciels d'entreprise SAP et de l'investisseur existant Jerusalem Venture Partners (JVP).

Highwire lance un outil de gestion des risques de sécurité basé sur l'IA. Grâce à l'examen automatisé des documents et à l'identification des risques, il fournit aux entrepreneurs des informations approfondies, réduisant ainsi des milliers d'heures de travail traditionnellement consacrées à l'examen manuel. Cet outil permet une évaluation plus précise des entrepreneurs, aidant les gestionnaires à mettre en œuvre des stratégies d'atténuation avant le début des travaux. Il catégorise les protocoles de sécurité comme généraux, détaillés ou complets, dépassant ainsi les simples analyses de réussite/échec et permettant des décisions plus éclairées. Développée à l'Université Harvard, cette technologie d'IA est conçue pour servir les grandes entreprises disposant de plans de sécurité matures ainsi que les petits entrepreneurs, dans le but d'améliorer la sécurité.

Les systèmes d'intelligence artificielle sur lesquels s'appuient les voitures autonomes jouent un rôle crucial dans la prise de décision, la perception de l'environnement et les modèles prédictifs. Cependant, une étude de l'Université de Buffalo a révélé la vulnérabilité de ces systèmes aux attaques. Bien que les recherches actuelles aient été menées en environnement contrôlé, les failles découvertes dans la détection par radar des modèles d'IA ont des implications considérables pour l'industrie. Des « masques en briques » fabriqués en impression 3D et en feuille métallique peuvent rendre les véhicules « invisibles » aux radars et potentiellement perturber la détection des piétons. Les motivations derrière ce type d'attaque pourraient inclure la fraude à l'assurance, la concurrence ou des dommages malveillants, soulignant...

Le débat sur les compétences en programmation des professeurs d'université en Inde a suscité une attention considérable. Une étude révèle que seulement 2,5 % des ingénieurs indiens possèdent des compétences en intelligence artificielle et 5,5 % maîtrisent les bases de la programmation, ce qui soulève des questions sur la qualité de l'enseignement. De nombreux ingénieurs soulignent le manque de compétences en programmation chez les professeurs, dont les cours s'appuient sur des vidéos YouTube et des cours en ligne, manquant d'originalité et de profondeur. Dans les universités de troisième cycle (Tier-3) en particulier, les professeurs copient presque intégralement le contenu des vidéos lors de l'enseignement de cours tels que les réseaux informatiques. L'écart de revenus est également un problème : le salaire annuel des professeurs d'université…