Claude lance sa nouvelle fonction : Citations

Le 23 janvier 2025, Anthropic a annoncé le lancement de "Citations". Une nouvelle fonctionnalité de son API conçue pour améliorer la fiabilité des réponses générées par son modèle d'IA, Claude. Cette innovation permet à Claude d'ancrer ses réponses directement dans des documents sources. Offrant ainsi des références précises aux phrases et passages utilisés pour formuler ses réponses. L'objectif est de fournir des réponses plus vérifiables et dignes de confiance.

Claude : Une transparence accrue grâce aux citations

Avant l'introduction de Citations, les développeurs devaient élaborer des invites complexes pour inciter Claude à inclure des informations sur les sources. Ce qui entraînait souvent des performances incohérentes et nécessitait un investissement considérable en ingénierie d'invite. Avec Citations, les utilisateurs peuvent désormais ajouter des documents sources à la fenêtre de contexte. Et lors de l'interrogation du modèle, Claude cite automatiquement les affirmations de sa réponse qui sont déduites de ces sources. Selon les évaluations internes d'Anthropic, cette fonctionnalité améliore la précision du rappel jusqu'à 15 % par rapport aux implémentations personnalisées.

Des applications variées

La fonctionnalité Citations ouvre la voie à de nombreuses applications, notamment :

• Résumé de documents : Générer des résumés concis de longs documents, tels que des dossiers juridiques, avec chaque point clé lié à sa source originale.
• Questions-réponses complexes : Fournir des réponses détaillées à des requêtes utilisateur en s'appuyant sur un large corpus de documents, comme des états financiers, avec chaque élément de réponse traçable jusqu'à des sections spécifiques des textes pertinents.
• Support client : Créer des systèmes de support capables de répondre à des questions complexes en se référant à plusieurs manuels de produits, FAQ et tickets de support, en citant toujours la source exacte de l'information.

Ces cas d'utilisation illustrent comment Citations peut renforcer la responsabilité et la transparence dans diverses applications.

Fonctionnement de Citations

Lorsqu'elle est activée, la fonctionnalité Citations permet à l'API de traiter des documents sources fournis par l'utilisateur (tels que des fichiers PDF et des fichiers texte) en les segmentant en phrases. Ces phrases segmentées, ainsi que le contexte fourni par l'utilisateur, sont ensuite transmises au modèle avec la requête de l'utilisateur. Claude analyse la requête et génère une réponse incluant des citations précises basées sur les segments et le contexte fournis pour toute affirmation dérivée du matériel source. Le texte cité fera référence aux documents sources afin de minimiser les hallucinations.

La fonctionnalité Citations d'Anthropic représente une avancée significative dans le domaine de l'IA, en renforçant la transparence et la fiabilité des réponses générées par Claude. En permettant aux développeurs de créer des solutions d'IA offrant une responsabilité accrue. Cette innovation promet d'avoir un impact notable dans des secteurs variés, de la synthèse de documents complexes au support client.

💡Cet article vous a plu ? Lisez également : Perplexity lance son nouvel agent IA sur Android