Seite „Semantische IDs“ — Kuratieren Sie Ihr Konzeptvokabular - Entity Enricher Dokumentation

Die Seite „Semantische IDs“

Jede Anreicherung, die eine semantische ID auflöst, verwendet entweder ein Konzept wieder, das Ihre Organisation bereits kennt, oder erzeugt ein neues. Auf der Seite Semantische IDs wird dieses wachsende Vokabular zu etwas, das Sie ansehen können: Durchsuchen Sie es, messen Sie, wie nah zwei Einträge einander wirklich sind, fügen Sie Begriffe von Hand hinzu, spüren Sie Beinahe-Duplikate auf, die unter den Schwellenwert gerutscht sind, mustern Sie aus, was Sie nicht mehr brauchen, und ziehen Sie das Ganze auf ein anderes Embedding-Modell um.

Die Seite öffnen

Sie finden sie in der Seitenleiste unter /semantic-ids, und sie ist erst dann nützlich, wenn Ihre Organisation über ein Embedding-Modell und mindestens ein Schema mit einer semantischen ID verfügt — Konzepte werden durch Anreicherungen erzeugt, nicht durch die Seite.

Wer was tun darf

  • Editor — durchsuchen, vergleichen, exportieren, einen Text prüfen, ein Konzept hinzufügen, Konzepte löschen.
  • Inhaber / Admin – zusätzlich Konzepte per Import anlegen, ganze Konzepttypen leeren und das Embedding-Modell migrieren.

Die Konzepttabelle lesen

Jede Zeile ist ein Konzept: sein kanonischer Text (der Identitätstext, der es ursprünglich erzeugt hat), sein Konzepttyp (der Space, in dem es liegt – standardmäßig der Name des Entitätstyps), wie viele Datensätze es verwenden und wann es erstellt wurde. Filtern Sie nach Text, nach beliebig vielen Konzepttypen oder nach einer Mindestnutzung, um die für Sie relevanten Einträge zu finden; Ansicht exportieren lädt genau das herunter, was die Filter gerade anzeigen.

Die Seite „Semantische IDs“: Konzepttabelle links, ausgewähltes Konzept rechts
Wenn Sie eine Zeile auswählen, misst die Spalte „Ähnlichkeit“ alles an dieser Zeile, und das Konzept wird rechts geöffnet.

Ähnlichkeit wird nur innerhalb eines Raums gemessen. Vektoren sind nur innerhalb desselben Konzepttyps und Embedding-Modells vergleichbar. Zeilen außerhalb des Raums des ausgewählten Konzepts zeigen , was „nicht vergleichbar“ bedeutet — niemals „0 %“.

Begriffe hinzufügen: der Kuratierungszyklus

Manchmal kennen Sie das Vokabular schon, bevor die Daten eintreffen – eine Liste von Gerichten, Status oder Produktfamilien. Die Leiste Kuratieren ist genau dafür gemacht, eine solche Liste einzutippen: Legen Sie den Bereich einmal auf einen Konzepttyp fest – der Bereich wandert in die Seitenadresse, sodass /semantic-ids/<concept type> ein direkter Link zu genau diesem Ausschnitt ist – und wiederholen Sie dann Wert eintippen → Prüfen → Hinzufügen. Enter prüft, ein zweites Enter fügt hinzu, und das Feld leert sich und behält den Fokus – ein Vokabular mit fünfzig Begriffen ist so in wenigen Minuten getippt, ganz ohne Maus.

Die Kuratieren-Leiste meldet, dass ein eingegebener Wert keinen Treffer hat und hinzugefügt werden kann
Nichts löst diesen Text oberhalb des Schwellenwerts auf, daher ist Konzept hinzufügen aktiv. Die Tabelle sortiert nun alle Konzepte nach ihrer Ähnlichkeit zu Ihrer Eingabe.

Die Prüfung ist ein Testlauf der echten Auflösungskette — derselben, die auch eine Anreicherung durchläuft — ihr Urteil ist also keine Schätzung. Und da Sie für dieses Urteil bereits bezahlt haben, dient es zugleich als Duplikatsperre: Wenn ein vorhandenes Konzept Ihren Text auf oder über dem Schwellenwert abdeckt, bleibt Konzept hinzufügen deaktiviert.

Die Kuratieren-Leiste meldet, dass ein eingegebener Wert bereits bekannt ist; Hinzufügen ist deaktiviert
Ein exakter Treffer kostet überhaupt nichts — kein Modellaufruf. Bei einem Beinahe-Treffer werden stattdessen das bestehende Konzept und sein Wert gemeldet.

Diese Ablehnung ist Absicht: Ein Zwilling oberhalb des Schwellenwerts könnte eine Auflösung nie gewinnen und würde künftige Treffer unvorhersehbar auf die beiden Einträge verteilen. Der Schieberegler Schwellenwert neben dem Feld legt fest, wo diese Grenze für Ihre Prüfungen liegt — höher für strengere Prüfungen, niedriger, um aggressiver zusammenzuführen.

Das Vokabular muss auch nicht bei einer Anreicherung beginnen: Mit Neuer Konzepttyp… (in der Symbolleiste der Seite, ab Editor aufwärts) benennen Sie einen Typ und wählen das Embedding-Modell, in dem seine Konzepte liegen werden — standardmäßig das Modell Ihrer Organisation. Die Kuratierungsleiste ist sofort darauf eingegrenzt, und der Typ wird mit dem ersten Konzept, das Sie hinzufügen, Teil des Vokabulars; ein bereits vorhandener Typ behält sein Modell, denn für das Verschieben eines Vokabulars zwischen Modellen ist die Migration da.

Duplikate unterhalb des Schwellenwerts aufspüren

Alles oberhalb des Schwellenwerts wurde bereits für Sie zusammengeführt. Interessant sind die Fälle knapp darunter — nah genug, um verdächtig zu sein, aber nicht nah genug, um zusammengeführt worden zu sein. Die Ansicht Duplikate listet genau dieses Band auf, und der Schieberegler macht es breiter oder schmaler.

Die Duplikatansicht listet Konzeptpaare auf, deren Ähnlichkeit knapp unter dem Schwellenwert liegt
Gleicher Bereich, zwei sehr unterschiedliche Urteile: zwei Namen für ein Steinbuttgericht und zwei tatsächlich verschiedene Schokoladendesserts. Die Seite findet die Kandidaten; Sie entscheiden.

Vergleichen → springt zurück zur Tabelle mit diesem ausgewählten Konzept, sodass Sie sehen, was sonst noch in seiner Nähe liegt, bevor Sie entscheiden. Ein Paar, das Sie für ein echtes Duplikat halten, ist ein Hinweis auf den Schwellenwert der Eigenschaft, die es erzeugt: Senken Sie ihn im Schema-Editor, und künftige Anreicherungen führen das Paar von selbst zusammen. Die Nutzungszahlen zeigen Ihnen, welches der beiden die Daten tatsächlich bevorzugen.

Ein einzelnes Konzept untersuchen

Im rechten Bereich sehen Sie die ID des Konzepts (kopierbar — darüber verknüpft Ihre Datenbank), seinen normalisierten Text, das dahinterliegende Embedding-Modell sowie die Datensätze, die darauf aufgelöst wurden. Das ausgewählte Konzept ist Teil der Seitenadresse: Die URL in Ihrer Adressleiste führt also direkt dorthin zurück — teilbar mit Kolleginnen und Kollegen oder gut in einem Ticket aufgehoben. Zwei Ansichten zeigen es im Kontext seiner Nachbarn.

Die Orbit-Ansicht: benachbarte Konzepte in einem Radius entsprechend ihrer Ähnlichkeit, der Schwellenwert als gestrichelter Kreis
Orbit — der Abstand zum Mittelpunkt ist die Ähnlichkeit; der gestrichelte Ring ist also der Schwellenwert selbst: Alles innerhalb davon würde auf dieses Konzept aufgelöst.
Die 3D-Konzeptkarte: ein UMAP-Layout des gesamten Konzeptraums, eingefärbt nach gemessener Ähnlichkeit
Konzeptkarte (3D) — eine optionale Darstellung des gesamten Raums. Die Farbe ist der Messwert; die Position deutet nur die Clusterform an — deshalb wird keine Schwellenwert-Kugel gezeichnet.

Warum Position nicht gleich Wahrheit ist

Werden 1536 Dimensionen auf 3 zusammengedrückt, können die Abstände nicht erhalten bleiben, und die Darstellung übertreibt, wie dicht die Cluster sind. Beide Ansichten färben jeden Punkt nach derselben Ähnlichkeitsskala — lesen Sie also die Farbe, nicht den Abstand. Die erste Karte einer Sitzung braucht einige Sekunden für den Aufbau, alle weiteren erscheinen sofort.

Verknüpfte Datensätze

Jeder verknüpfte Datensatz zeigt den Wert, mit dem er hier aufgelöst wurde. Ein bedeutet, dass die ID bereits in der Eingabe vorlag und durchgereicht wurde, es also nie einen Vergleich gab — der kostenlose, eindeutige Weg, der im Leitfaden zu semantischen IDs beschrieben ist.

Ein Vokabular importieren und exportieren

Importieren & auflösen führt eine ganze CSV-Spalte durch dieselbe Kaskade und vermerkt bei jeder Zeile, was mit ihr geschehen würde – es gibt keine Beschränkung der Dateigröße; große Dateien werden in Batches zu je 1000 aufgelöst, mit Live-Fortschritt. Die Datei wird in Ihrem Browser geparst – gesendet werden nur die Werte selbst.

Der Importdialog meldet zeilenweise Ergebnisse für eine CSV-Datei mit Werten: exakt, zugeordnet, würde angelegt
Ein reiner Abgleichlauf schreibt nichts und ist deshalb eine getreue Vorschau darauf, was Ihre nächste Anreicherung mit denselben Werten tun würde.
ErgebnisWas das bedeutet
exactDerselbe Text existiert normalisiert bereits — kostenlos, ohne Modellaufruf.
matchedEine andere Formulierung wurde oberhalb des Schwellenwerts auf ein vorhandenes Konzept aufgelöst.
would_mintNichts war nah genug; eine Anreicherung würde hier ein neues Konzept anlegen.
mintedDerselbe Fall mit aktivierter Erstellung — das Konzept existiert nun (nur für Eigentümer).

Die aufgelösten Zeilen lassen sich als eigene CSV-Datei herunterladen, sodass ein Import auch rein als Prüfung dienen kann: Welche unserer 900 Lieferantennamen sind bereits bekannt, und welche würden eine neue Identität eröffnen? Exporte funktionieren umgekehrt und benennen die Datei nach den verwendeten Filtern, sodass ein ganzer Ordner davon selbsterklärend bleibt.

Konzepte löschen

Löschen ist hier auf eine Weise sicher, wie es die meisten Datenlöschungen nicht sind: Das Vokabular baut sich selbst wieder auf, denn die nächste Anreicherung erzeugt einfach neu, was sie braucht. Was nicht zurückkehrt, ist die Konvergenz mit den bereits gespeicherten IDs — und der Dialog sagt Ihnen das mit konkreten Zahlen, bevor Sie bestätigen.

Der Löschbestätigungsdialog zeigt, wie viele Datensätze, Schemas und synchronisierte Datenbanken betroffen sind
Datensätze behalten die ID, die sie bereits tragen; neue Anreicherungen derselben Sache erzeugen eine andere. Nachgelagerte Datenbanken sehen das als neue Zeile.

Nach einer solchen Änderung ist es die riskante Wahl, die alten Konzepte zu behalten, nicht die vorsichtige: Identitäten, die aus den neuen Schlüsseln gebildet werden, können weiterhin innerhalb des Schwellenwerts der alten Vektoren landen und still von ihnen aufgesogen werden — zurück bleiben IDs, die weder das eine noch das andere bedeuten.

Das Embedding-Modell wechseln

Vektoren aus zwei verschiedenen Modellen sind nicht vergleichbar – ein Modellwechsel bedeutet daher, dass jedes Konzept neu eingebettet werden muss. Sobald Konzepte vorhanden sind, ist diese Migration der einzige zulässige Weg dafür — und genau deshalb ändert sich die Embedding-Modell-Einstellung der Organisation nicht von selbst.

Der Dialog zur Migration des Embedding-Modells zeigt das Quellmodell, dessen Konzeptanzahl und eine Auswahl für das Zielmodell
Ein Embedding-Raum nach dem anderen. Konzept-IDs ändern sich nie, daher bleiben Datensätze, Entitäten, Exporte und Database Syncs durchgehend gültig.

Erst ein Testlauf

Die Vorschau meldet, was die Neuberechnung der Embeddings kostet und welche Konzeptpaare voraussichtlich kollidieren — also im neuen Raum innerhalb des Schwellenwerts zueinander landen und fortan gemeinsam aufgelöst werden. Sie misst die realistischen Kandidaten statt jedes einzelne Paar und weist darauf hin.

Keine Pause, kein Fenster, das überwacht werden muss

Anreicherungen werden weiterhin im alten Raum aufgelöst, während daneben die neuen Vektoren aufgebaut werden; zwischenzeitlich erzeugte Konzepte erfasst ein späterer Durchlauf. Die Umstellung erfolgt am Ende in einem einzigen Schritt, der zugleich das Standard-Embedding-Modell Ihrer Organisation umschaltet. Ein Abbruch ist unbedenklich — ein erneuter Start setzt dort fort, wo er aufgehört hat.

Was die Seite kostet

Prüfungen, Hinzufügungen und Importe werden wie jede andere Embedding-Nutzung abgerechnet, und exakte Treffer kosten nichts, weil sie nie ein Modell erreichen. Durchsuchen, Vergleichen, der Orbit, die 3D-Karte, Exportieren und Löschen sind kostenlos. Die interaktiven Ausgaben eines Tages werden zu einer einzigen Zeile in Ihrer Credit-Historie zusammengefasst, damit das Journal lesbar bleibt, statt sich mit Bruchteilen von Cents zu füllen.