Avec le développement rapide de la technologie de l’IA conversationnelle, les agents vocaux IA prennent progressivement en charge un nombre croissant d’appels téléphoniques. Cependant, la manière de garantir la fiabilité de ces agents vocaux IA représente un défi majeur pour le secteur. Récemment, Hamming.ai, une plateforme axée sur la fiabilité des agents vocaux IA, a annoncé avoir bouclé un financement de série A de 3,8 millions de dollars, mené par Mischief, avec la participation de Y Combinator, AI Grant et de plusieurs investisseurs providentiels. L’arrivée de Hamming.ai répond précisément à ce besoin de...

L'initiative de l'équipe système de sécurité d'OpenAI vise à garantir la sécurité et la fiabilité des grands modèles d'IA. Composée de plusieurs groupes (ingénierie de la sécurité, recherche sur la sécurité des modèles, recherche sur le raisonnement sécurisé et interaction homme-machine), elle s'attaque aux problèmes de sécurité de l'intelligence artificielle pour garantir que le comportement des modèles soit aligné avec les valeurs humaines. La recherche axée sur la cohérence du comportement des modèles est au cœur de cette initiative.

Le fondateur de Wikipédia, Jimmy Wales, a exprimé ses inquiétudes concernant la fiabilité de ChatGPT lors du Web Summit. Il craint que ChatGPT puisse contribuer à l'inclusion de fausses informations dans les produits numériques et remet en question son utilisation. Wales appelle les développeurs à prendre des mesures, soulignant que la collaboration entre OpenAI et Microsoft pourrait poser problème à Google.

Une étude menée par une société londonienne spécialisée en IA révèle que l'IA, grâce au système SIDE, pourrait améliorer la fiabilité de Wikipédia. Le système SIDE fournit des recommandations de fiabilité en vérifiant les sources d'information et en validant le classement des références. Les utilisateurs ont accepté les recommandations du système SIDE dans 70 % des cas, améliorant ainsi la précision des informations. L'équipe de recherche continuera d'explorer les applications de l'IA pour traiter d'autres types de références sur Wikipédia.