Recherchez la dynamique mondiale des produits IA

OpenAI a annoncé un changement significatif dans sa politique de modération, assouplissant les restrictions sur le contenu généré par ChatGPT, notamment pour son nouveau générateur d'images. Cette décision suscite à la fois enthousiasme et inquiétude.

OpenAI a récemment annoncé une mise à jour importante de sa politique visant à modifier la manière dont ses modèles d'intelligence artificielle sont entraînés, en soulignant l'importance de la « liberté de connaissance », quel que soit le caractère difficile ou controversé du sujet. Ce changement signifie que ChatGPT pourra répondre plus complètement aux questions, fournir plus de points de vue et refuser moins souvent de discuter de certains sujets. Dans le nouveau guide de 187 pages, OpenAI présente un nouveau principe directeur : ne pas mentir, ni faire de déclarations fausses, ni omettre de contexte important. Nouveautés...

Le groupe Douyin a récemment publié son rapport 2024 sur la modération des diffusions en direct, présentant de manière exhaustive la philosophie, les méthodes et les résultats de la plateforme en matière de gouvernance des diffusions en direct. Au cours de l'année écoulée, Douyin s'est engagé à construire un environnement de diffusion en direct en ligne sûr et fiable, exempt de contenus illicites, en améliorant les mécanismes de gestion des diffuseurs, en renforçant les technologies d'identification des contenus, en assurant une gouvernance conjointe en ligne et hors ligne et en protégeant les groupes de population vulnérables, ce qui a permis d'obtenir des résultats significatifs.

Alors que Trump se prépare à un éventuel retour à la Maison Blanche, les plus grands dirigeants de la Silicon Valley deviennent discrètement des conseillers technologiques clés du président. Elon Musk, Marc Andreessen et David Sacks, entre autres, conseillent Trump, et leur critique virulente de la modération de l'IA est particulièrement notable. Ces élites de la technologie considèrent que les chatbots IA sont devenus un nouveau champ de bataille idéologique. Leur principale préoccupation est que les grandes entreprises technologiques pourraient utiliser les systèmes d'IA pour diffuser des positions politiques spécifiques, réalisant une forme de 'censure' plus insidieuse et efficace. Censure IA

La start-up française d'intelligence artificielle Mistral AI a récemment lancé une nouvelle API de modération de contenu. Cette initiative souligne non seulement son ambition dans le domaine mondial de l'IA, mais aussi sa réflexion approfondie sur la gouvernance de la sécurité de l'IA. Ce système de modération, basé sur le modèle Ministral8B, est capable d'identifier précisément neuf catégories de contenu potentiellement préjudiciable, notamment le contenu à caractère sexuel, les discours de haine, la violence, les activités dangereuses et les informations d'identification personnelle. Il est important de noter que cette API prend en charge 11 langues principales, dont l'arabe, le chinois, l'anglais et le français.

La startup française d'intelligence artificielle Mistral AI a récemment lancé une nouvelle API de modération de contenu visant à concurrencer OpenAI et d'autres leaders du secteur, tout en répondant aux préoccupations croissantes concernant la sécurité de l'IA et le filtrage de contenu. Ce service, basé sur le modèle Ministral8B de Mistral, est finement ajusté pour détecter le contenu potentiellement nuisible dans neuf catégories différentes, notamment la pornographie, les discours de haine, la violence, les activités dangereuses et les informations personnellement identifiables.

Bilibili déclare avoir intégré des grands modèles à ses services, Silicon Heart Technology lance l'application de programmation IA aiXcoder Europa, et le produit IA conversationnel de ByteDance, Grace, est rebaptisé "Doubao". Baidu lance 5 plugins pour Ernie Bot, incluant la recherche, la création vidéo à partir de texte et la création de graphiques. Xiaomi, par la voix de Zeng Zhong, annonce un déploiement rapide des capacités de modèles IA côté client. OpenAI teste une fonctionnalité de modération de contenu basée sur GPT-4. Google open-source Azure ChatGPT.

Hive AI, une société de logiciels utilisant l'intelligence artificielle pour gérer le contenu numérique, recherche 200 millions de dollars de financement. La valorisation de Hive AI devrait dépasser sa valorisation de 2 milliards de dollars en 2021, et pourrait atteindre près de 4 milliards de dollars. Les services d'audit de contenu de Hive AI sont utilisés par plusieurs clients, dont Visa, Netflix et Reddit.

Hive AI, une société de logiciels utilisant l'intelligence artificielle pour la modération de contenu numérique, recherche 200 millions de dollars de financement, selon des sources proches du dossier. La valorisation devrait dépasser les 2 milliards de dollars de 2021. La valorisation de Hive AI pourrait atteindre près de 4 milliards de dollars.