Pour renforcer la transparence et la traçabilité de ses modèles d'IA, Anthropic a annoncé jeudi le lancement d'une nouvelle fonctionnalité : Citations. Cette fonctionnalité vise à aider les développeurs à fournir des références précises à partir des documents sources, y compris les phrases et les paragraphes, dans les réponses générées par la série d'IA Claude. Cette fonctionnalité innovante est immédiatement disponible sur l'API d'Anthropic et la plateforme Vertex AI de Google dès son lancement.
Fonctionnalité Citations : Améliorer la transparence et la précision des documents
Selon Anthropic, la fonctionnalité Citations permet de fournir automatiquement aux développeurs la source des réponses générées par le modèle d'IA, en citant les phrases et les paragraphes exacts du document source. Cette fonctionnalité est particulièrement utile pour les résumés de documents, les systèmes de questions-réponses et les applications de support client, car elle renforce la crédibilité et la transparence des réponses. En introduisant les sources, les développeurs peuvent mieux comprendre le processus de raisonnement du modèle d'IA et réduire les phénomènes d'« hallucinations » (c'est-à-dire des informations non fondées ou erronées générées par l'IA).
Champ d'application et tarification
Bien que le lancement de la fonctionnalité Citations ait suscité un intérêt considérable, elle n'est actuellement disponible que pour les modèles Claude 3.5 Sonnet et Claude 3.5 Haiku d'Anthropic. De plus, cette fonctionnalité n'est pas gratuite ; Anthropic facture des frais en fonction de la longueur et du nombre de documents sources. Par exemple, pour un document source d'environ 100 pages, le coût est d'environ 0,30 $ avec Claude 3.5 Sonnet et de 0,08 $ avec Claude 3.5 Haiku. Pour les développeurs souhaitant réduire les erreurs et les inexactitudes générées par l'IA, cela pourrait être un investissement judicieux.
Citations : Un outil efficace pour lutter contre les hallucinations et les erreurs de l'IA
Le lancement de Citations renforce sans aucun doute la compétitivité d'Anthropic dans le domaine de la génération de contenu par IA, notamment pour résoudre le problème des « hallucinations » des modèles d'IA. Les hallucinations de l'IA constituent un défi permanent pour les développeurs et les utilisateurs, et la fonctionnalité Citations offre une meilleure garantie de fiabilité pour le contenu généré par l'IA, en permettant aux développeurs de voir clairement la source du contenu généré. De cette manière, Anthropic améliore non seulement la transparence de ses produits, mais fournit également aux développeurs davantage d'outils pour garantir que le contenu généré est plus précis et vérifiable.
Conclusion
Avec le développement continu de la technologie de l'IA, la transparence et la traçabilité deviennent de plus en plus importantes pour les utilisateurs et les développeurs. La fonctionnalité Citations lancée par Anthropic répond à ce besoin en offrant aux développeurs un niveau de contrôle supérieur et la capacité de garantir l'exactitude du contenu de l'IA. À l'avenir, cette fonctionnalité pourrait devenir une configuration standard des outils de développement de l'IA, poussant l'ensemble du secteur vers une plus grande fiabilité.
