Anthropic lanceert 'Citations' op de API

Citations is algemeen beschikbaar op de Anthropic API en Google Cloud's Vertex AI.

Alle Claude-modellen zijn ontworpen om betrouwbaar en stuurbaar te zijn. Citations bouwt voort op deze basis en beantwoordt een specifieke behoefte in AI-toepassingen: het verifiëren van de bronnen achter door AI gegenereerde antwoorden.

Voorheen vertrouwden ontwikkelaars op complexe prompts om Claude aan te sturen om broninformatie op te nemen, wat vaak resulteerde in inconsistente prestaties en een aanzienlijke tijdsinvestering in prompt-engineering en -testen. Met Citations kunnen gebruikers nu brondocumenten toevoegen aan het contextvenster, en wanneer het model wordt ondervraagd, citeert Claude automatisch beweringen in zijn output die zijn afgeleid van die bronnen.

Interne evaluaties van Anthropic tonen aan dat de ingebouwde citeermogelijkheden van Claude de meeste aangepaste implementaties overtreffen, met een toename van de recall-nauwkeurigheid tot 15%.

Toepassingsgebieden

Met Citations kunnen ontwikkelaars AI-oplossingen creëren die verbeterde verantwoording bieden in verschillende toepassingsgebieden, zoals:

• Samenvatting van documenten: Genereer beknopte samenvattingen van lange documenten, zoals dossiers, waarbij elk belangrijk punt wordt teruggekoppeld naar de oorspronkelijke bron.
• Complexe Q&A: Geef gedetailleerde antwoorden op gebruikersvragen over een groot corpus aan documenten, zoals financiële overzichten, waarbij elk respons-element wordt teruggevoerd naar specifieke secties van relevante teksten.
• Klantenservice: Creëer ondersteuningssystemen die complexe vragen kunnen beantwoorden door te verwijzen naar meerdere productmanuals, FAQ's en ondersteuningstickets, waarbij altijd de exacte bron van informatie wordt geciteerd.

Hoe het werkt

Wanneer Citations is ingeschakeld, verwerkt de API door de gebruiker verstrekte brondocumenten (PDF-documenten en platte tekstbestanden) door deze in zinnen te verdelen. Deze gedeelde zinnen, samen met door de gebruiker verstrekte context, worden vervolgens samen met de vraag van de gebruiker doorgegeven aan het model.

Claude analyseert de vraag en genereert een antwoord dat precieze citaties bevat op basis van de verstrekte chunks en context voor alle beweringen die zijn afgeleid van het bronmateriaal. Geciteerde tekst verwijst naar brondocumenten om hallucinaties te minimaliseren.

Deze aanpak biedt volgens Anthropic superieure flexibiliteit en gebruiksgemak, omdat het geen bestandsopslag vereist en naadloos integreert met de Messages API.

Prijs

Citations maakt gebruik van een standaard op tokens gebaseerde prijsmodel. Hoewel het mogelijk extra invoertokens gebruikt om documenten te verwerken, betalen gebruikers niet voor uitvoertokens die de geciteerde tekst zelf retourneren.