Eine Schritt-für-Schritt-Anleitung dazu, wie Entity Enricher eine einzelne Entität verarbeitet – von der Eingabe über die Klassifizierung und die parallele Modellausführung bis hin zur strukturierten Ausgabe.
Öffnen Sie die Seite Workflow Editor und richten Sie Ihre Anreicherung ein. Ein Workflow-Stepper führt Sie durch die Phasen der Pipeline: Beispieldaten, Schema, Anreicherung und Ergebnisse – sowie einen Schritt „Database Ready“, wenn das Schema mit einem Database Sync verknüpft ist, der bestätigt, dass die Änderungen des Laufs für Ihre Datenbank in die Warteschlange gestellt wurden (oder erklärt, warum das Speichern abgelehnt wurde).
Fügen Sie ein Beispiel-JSON ein, um automatisch ein Schema zu generieren, und erkunden Sie anschließend den interaktiven Eigenschaftsbaum. Bearbeiten Sie Eigenschaften, fügen Sie Fachbereiche hinzu und markieren Sie Felder als Suchschlüssel oder als beizubehalten.
Anreicherungsoptionen konfigurieren (Strategie, Modelle, Sprachen, Klassifizierung sowie das Antwortschema und die Umschalter für strikte strukturierte Ausgabe) und Entitäts-Suchschlüssel ausfüllen (Name, Website, Land usw.), um die Entität zu identifizieren.
Zeigt Echtzeit-Fortschritt und Ergebnisse für jedes Modell. Bei Verwendung mehrerer Modelle erscheint für die Fusion eine Schaltfläche „Ergebnisse zusammenführen“.
Manche Anfragen können unmöglich ein brauchbares Ergebnis liefern, und am günstigsten stellt sich das vor dem ersten LLM-Aufruf heraus. Zwei Verträge werden daher vorab durchgesetzt.
Ein Schema legt fest, was seine Eingabe enthalten muss: die Schlüsselfelder, die angeben, welche Entität gemeint ist, einen Schlüssel für jedes Element eines von Ihnen gelieferten Arrays und einen Wert für jedes als „preserve“ markierte Feld (bewahrt werden kann nur, was auch übergeben wurde). Eine Anfrage, der etwas davon fehlt, wird mit einem einzigen Fehler abgelehnt, der alle Verstöße auf einmal auflistet — dazu den vollständigen Vertrag des Schemas, sodass Sie alles in einem Durchgang beheben können, statt die Anforderungen Ablehnung für Ablehnung zu entdecken. Der Vertrag wird zu jedem gespeicherten Schema veröffentlicht, sodass ein Client bereits vor dem Senden prüfen kann.
Ein Array, für das Sie Elemente liefern, wird exakt angereichert: Das Modell ergänzt, was es über jedes Element weiß, und darf weder eines hinzufügen noch eines entfernen. Sie haben fünf Positionen gesendet, Sie erhalten fünf zurück. Ein Element, das das Modell nicht zuordnen konnte, wird wortgetreu wieder eingefügt, statt verloren zu gehen, und ein erfundenes Element wird verworfen. Arrays, die Sie leer lassen, bleiben offen — dort entdeckt das Modell Fakten, und genau darum geht es.
Wenn Sie ein Klassifizierungsmodell ausgewählt haben, wird zunächst ein schneller, kostengünstiger LLM-Aufruf ausgeführt, um zu prüfen, ob die Entität dem Schema-Typ entspricht. Dadurch wird vermieden, dass Tokens für die Anreicherung verschwendet werden, wenn die Entität nicht passt. Mehr dazu in der Klassifizierungs-Dokumentation.
Jedes ausgewählte Modell verarbeitet die Entität mit der von Ihnen angegebenen Strategie — oder standardmäßig mit derjenigen, die automatisch anhand der Struktur Ihres Schemas gewählt und beim Start des Laufs ausgewiesen wird. Sind mehrere Modelle ausgewählt, laufen sie parallel über Anbieter hinweg (Claude und GPT-4 laufen gleichzeitig), während Modelle desselben Anbieters nacheinander ausgeführt werden, um Ratenbegrenzungen einzuhalten.
Jede LLM-Antwort wird in Echtzeit gegen Ihr Schema validiert. Wenn die Ausgabe nicht mit den erwarteten Typen oder Einschränkungen übereinstimmt, sendet das System die Fehler automatisch zur Korrektur an das LLM zurück.
Bis zu 5 automatische Wiederholungsversuche pro LLM-Aufruf. Jeder Versuch enthält den konkreten Validierungsfehler, damit das LLM genau weiß, was zu korrigieren ist – und die Reparatur erfolgt gezielt: Nur die Blätter, die falsch zurückkamen, werden erneut abgefragt, nicht die gesamte Antwort.
Beachten Sie, was nicht auf dieser Liste steht: Ein Wert, den das Modell nicht ermitteln konnte, ist kein Fehler, der einen erneuten Versuch erfordert. Jedes Feld kann fehlen, und das Modell gibt an, was es nicht finden konnte — „unbekannt“ ist also eine Antwort und kein Fehlschlag. Ob ein fehlender Wert akzeptabel ist, wird später entschieden, wenn die Entität in Ihre Datenbank aufgenommen wird — nicht dadurch, dass das Modell raten muss.
Zwei optionale Schalter bitten den Anbieter, die Ausgabe zu beschränken, bevor sie zurückkommt, sodass von vornherein weniger Antworten korrigiert werden müssen. Beide gelten nur für Modelle, die sie unterstützen; alles greift weiterhin auf die oben beschriebene Validierungs- und Wiederholungsschleife zurück.
Entity Enricher nutzt Server-Sent Events (SSE), um den Fortschritt in Echtzeit zu streamen. Sie müssen nicht warten, bis alle Modelle fertig sind – Ergebnisse erscheinen nach und nach, sobald jeder Expertisebereich oder jedes Modell abgeschlossen ist.
Jedes Modell erhält ein eigenes Ergebnisfeld, das die strukturierte JSON-Ausgabe, Fortschrittsabzeichen pro Expertise-Domäne, Token-Verbrauch, Kosten und Verarbeitungszeit anzeigt. Bei Verwendung der Mehrfach-Expertise-Strategie werden die Expertise-Abzeichen in Echtzeit aktualisiert, sobald eine Domäne abgeschlossen ist.
Bei Verwendung der Multi-Expertise-Strategie können einige Expertisen fehlschlagen, während andere erfolgreich sind. Anstatt alles zu verwerfen, gibt Entity Enricher die zusammengeführte Ausgabe der erfolgreichen Expertisen mit dem Status „Teilweise“ zurück. Sie können dann nur die fehlgeschlagenen Expertisen erneut ausführen, ohne das gesamte Enrichment neu durchzuführen.
Nach Abschluss der Anreicherung werden Ihre Ergebnisse für die spätere Verwendung auf der History-Seite gespeichert. Wenn Sie mehrere Modelle verwendet haben, können Sie die Ergebnisse mit Multi-Model Fusion zusammenführen.