La semaine dernière, Anthropic a publié les invites système, c'est-à-dire les instructions d'utilisation, de sa série de modèles Claude. Cependant, cette publication était incomplète.
Face à ce problème, Anthropic s'est engagé à publier les invites système de sa nouvelle fonctionnalité, Artifacts, dans les prochaines semaines. Des chercheurs avaient auparavant souligné l'absence de ces invites dans la publication récente.
Un porte-parole d'Anthropic a confirmé qu'ils ajouteraient « plus de détails sur les invites système, y compris les informations sur Artifacts, dans les semaines à venir ». Il est à noter que la fonctionnalité Artifacts vient d'être rendue disponible pour tous les utilisateurs de Claude la semaine dernière. Elle permet d'exécuter des extraits de code à côté de l'interface de chat de Claude.
La publication des invites système d'Anthropic a été saluée par les médias, qui ont estimé que l'entreprise était à l'avant-garde en matière de transparence. Cependant, des chercheurs comme Mohammed Sahli ont estimé que la déclaration de l'entreprise manquait de complétude, principalement en raison de l'exclusion des invites système d'Artifacts.
Anthropic a expliqué que les invites système d'Artifacts n'avaient pas pu figurer dans la publication de la semaine dernière, principalement parce que cette fonctionnalité n'était pas encore disponible pour tous les utilisateurs de Claude avant la semaine dernière. En réalité, la mise à disposition publique d'Artifacts a eu lieu après la publication de l'annonce des invites système.
Alors, quelle est l'importance des invites système ?
Bien que les développeurs de modèles d'IA ne soient pas obligés de publier les invites système des grands modèles linguistiques, la publication de ces instructions d'utilisation est devenue un « plaisir » pour de nombreux amateurs d'IA. Cela aide non seulement les développeurs à mieux comprendre le comportement attendu du modèle, mais permet également aux utilisateurs de comprendre pourquoi le modèle refuse certaines demandes.
Selon le document d'invites système publié par Anthropic, Claude3.5Sonnet est la version la plus avancée de la série, mettant l'accent sur la précision et la concision des réponses. Ce modèle n'étiquette pas explicitement les informations comme étant sensibles et évite d'utiliser des mots de remplissage redondants ou des excuses.
Claude3Opus est un modèle plus grand, dont la base de connaissances est mise à jour jusqu'en août 2023. Il permet de discuter de sujets controversés et de présenter plusieurs points de vue, mais évite les stéréotypes et assure l'équilibre des points de vue. Quant à la version la plus petite, Claude3Haiku, elle privilégie la vitesse et ne possède pas les mêmes directives de comportement que Claude3.5Sonnet.
Quant aux invites système d'Artifacts, leur contenu précis reste inconnu. Sahli mentionne dans son article Medium que cette fonctionnalité pourrait être conçue pour résoudre des problèmes complexes de manière systématique et se concentrer sur des réponses concises.
Points clés :
- 📝 Anthropic s'engage à publier les invites système d'Artifacts pour les modèles Claude dans les prochaines semaines, en réponse aux questions des chercheurs.
- 💻 La fonctionnalité Artifacts permet aux utilisateurs d'exécuter des extraits de code à côté de l'interface de chat de Claude, et a été rendue disponible pour tous les utilisateurs la semaine dernière.
- 📜 La publication des invites système aide les utilisateurs à comprendre le comportement du modèle et encourage les développeurs d'IA à faire preuve de transparence.
