Dans la course à l'infrastructure numérique mondiale, Meta est en train de mettre en œuvre un plan d'infrastructure étonnant. Ce géant de la technologie s'apprête à investir plus de 10 milliards de dollars dans la construction d'un réseau de câbles sous-marins à travers le monde, son ambition et son envergure sont remarquables. Ce câble sous-marin de 40 000 kilomètres n'est pas un simple projet de communication, il représente un investissement stratégique majeur de Meta dans l'infrastructure numérique mondiale. Contrairement aux projets précédents, Meta sera cette fois le seul propriétaire et utilisateur de ce câble, une première dans l'histoire de l'entreprise.

Netflix intensifie son utilisation de l'intelligence artificielle dans le domaine du jeu vidéo. Mike Verdu, à la tête du département jeux vidéo pendant trois ans, devient vice-président de l'IA générative pour les jeux vidéo, soulignant l'ambition de Netflix dans ce secteur. Verdu a partagé sa vision de son nouveau rôle sur LinkedIn. Il a insisté sur le principe « les créateurs d'abord » et positionne l'IA comme un catalyseur et un moteur du développement de jeux vidéo. Selon lui, l'IA générative révolutionnera le développement de jeux vidéo et l'expérience des joueurs.

Anthropic a annoncé le lancement de la nouvelle fonction "mise en cache des invites" pour sa gamme de grands modèles linguistiques Claude, visant à réduire considérablement les coûts de l'IA pour les entreprises et à améliorer les performances. Cette fonction permet aux utilisateurs de stocker et de réutiliser des informations contextuelles spécifiques, sans coût supplémentaire ni augmentation de la latence. Dans le cadre d'un test public, cette fonctionnalité sera appliquée aux modèles Claude 3.5 Sonnet et Claude 3 Haiku, avec une réduction des coûts pouvant atteindre 90 % et un doublement de la vitesse de réponse dans certains cas. Cette fonction est particulièrement utile pour les applications nécessitant la conservation de...

L'API Anthropic ajoute une fonctionnalité de mise en cache des invites pour optimiser l'expérience utilisateur avec le modèle Claude. Cette fonctionnalité permet aux utilisateurs de mettre en cache les informations contextuelles fréquemment utilisées entre les appels d'API, réduisant considérablement les coûts et la latence des invites longues, jusqu'à 90 % et 85 % respectivement. Actuellement disponible en version bêta publique pour Claude 3.5 Sonnet et Claude 3 Haiku, elle sera étendue à Claude 3 Opus prochainement. Idéal pour les agents conversationnels, les assistants de codage, le traitement de documents volumineux et la recherche par agents. Tarification de la mise en cache des invites

La plateforme ouverte Kimi de la Face Cachée de la Lune annonce une réduction de 50 % sur les frais de stockage du cache contextuel. Plus précisément : les frais de stockage du cache passent de 10 €/1 M de jetons/min à 5 €/1 M de jetons/min.

Hier, la plateforme ouverte Kimi de la face cachée de la lune a annoncé le lancement de la phase de test public du cache contextuel (Context Caching). Cette technologie permet aux développeurs de réduire jusqu'à 90 % le coût d'utilisation des modèles de langage de grande taille pour les longs textes, sans modification du prix de l'API, et d'améliorer considérablement la vitesse de réponse du modèle.

La plateforme ouverte Kimi a récemment annoncé le lancement imminent de la phase de test de sa fonctionnalité très attendue de cache contextuel. Cette fonctionnalité innovante prend en charge les grands modèles de langage à long texte et offre aux utilisateurs une expérience inégalée grâce à un mécanisme de cache contextuel efficace. Selon la plateforme ouverte Kimi, le cache contextuel est une technologie de pointe qui vise à réduire considérablement les coûts pour les utilisateurs lorsqu'ils demandent le même contenu en mettant en cache le contenu des jetons répétitifs. Son principe de fonctionnement repose sur l'identification et le stockage intelligents des textes déjà traités.

Ant Group, via son modèle de code CodeFuse, publie ModelCache, un cache sémantique pour les grands modèles. L'architecture de ModelCache comprend les modules suivants : adaptateur, plongement, similarité et gestionnaire de données. ModelCache permet de réduire les coûts d'inférence des applications de grands modèles et d'améliorer l'expérience utilisateur. Avec un cache pertinent, le temps de traitement moyen peut être réduit par un facteur de 10, pour un gain de vitesse pouvant atteindre 14,5 %. Les performances et la précision de ModelCache continueront d'être optimisées.

Une influenceuse TikTok révèle que les voix AI fréquemment utilisées dans le milieu emo cachent des voix humaines. Le mari de l'influenceuse, ayant trop entendu les locutions de sa femme, les évite désormais. Un blogueur spécialisé dans le divertissement a compilé ces voix et les a partagées sur Xiaohongshu, rencontrant un grand succès. Les voix AI utilisent en réalité des voix humaines comme source sonore, puis sont synthétisées par apprentissage profond. La voix "Yunxi" provient du service de synthèse vocale texte de Microsoft Azure.