Entity Enricher は、LLM 呼び出しのオーケストレーション方法を制御する 2 つのエンリッチメント戦略を提供します。適切な戦略を選択することで、精度、速度、コストに影響します。
最もシンプルなものから最も強力なものまでの構成です。それぞれが前の構成を土台にしています。
1つのモデル、1回の呼び出し。スキーマ全体が単一のプロンプトで送信されます。高速かつ低コストで、シンプルなスキーマや素早い反復に最適です。
Aspirin
あらゆるエンティティ：企業、医薬品、訴訟案件、研究論文など。
独自のAPIキーで任意のLLMプロバイダーを使用できます。
1 回の呼び出しで完全なスキーマを取得します。検証に失敗すると自動的に再試行します。
Aspirin
同じ戦略ですが、複数のモデルにわたって並列で実行します。結果はフィールドごとに比較・アービトレーションされ、単一の高信頼度出力が生成されます。
Aspirin
あらゆるエンティティ：企業、医薬品、訴訟案件、研究論文など。
一致 — Pharmaceutical Compound
LLM credit を無駄にする前に型の不一致を検出します。
独自のAPIキーを持ち込む — あらゆるLLMプロバイダーで利用できます。
1 回の呼び出しで完全なスキーマを取得します。検証に失敗すると自動的に再試行します。
Aspirin
アービトレーション済みフィールド単位での論理的な競合解決により、最終的な信頼できる結果が生成されます。
schema は expertise domain ごとに分割されます。各モデルは domain ごとに焦点を絞ったサブ prompt を受け取ります。結果はモデルごとにディープマージされ、その後モデル間で arbitration されます。複雑でマルチ domain の schema に対して最大の精度を実現します。
Aspirin
あらゆるエンティティ：企業、医薬品、訴訟案件、研究論文など。
一致 — Pharmaceutical Compound
LLM credit を無駄にする前に型の不一致を検出します。
独自のAPIキーを持ち込む — あらゆるLLMプロバイダーで利用できます。
スキーマはドメインごとに分割され、自己修正型プロンプトが検証失敗時にリトライします。
モデルごとの専門領域レスポンスのディープマージ。
Aspirin
アービトレーション済みフィールド単位での論理的な競合解決により、最終的な信頼できる結果が生成されます。
| アスペクト | シングルパス | マルチ専門領域 |
|---|---|---|
| LLM呼び出し | モデルごとに1件 | モデルごとにN件（専門領域ごとに1件） |
| スキーマを送信しました | 1 つのプロンプトで完全なスキーマ | expertise domainごとのサブセット |
| 実行 | 順次（1回の呼び出し） | 並列（すべての専門領域が同時に実行されます） |
| 精度 | シンプルなスキーマに適しています | 高め — 焦点を絞ったプロンプトほど良い結果が得られます |
| 速度 | 小規模なschemaではより高速です | 並列実行は大きなスキーマでは高速になる場合があります |
| コスト | 低い（単一コールのオーバーヘッド） | 高い（呼び出しごとのオーバーヘッドを伴う複数回の呼び出し） |
| ストリーミング | オールオアナッシングの結果 | 段階的 — 各expertise domainの完了に合わせて結果がストリーミングされます |
| 部分的な成功 | いいえ — 呼び出し全体が成功または失敗します | はい — 成功したエキスパティーズは保持され、失敗したものは再試行できます |
マルチエキスパートティ戦略は、各モデルに対して 4 つのステップからなるプロセスに従います。
schema は再帰的に走査されます。expertise domain タグを持つ各プロパティは、同じ domain を共有する他のプロパティとグループ化されます。たとえば、revenue と market_cap は「financial」グループに、gmp_status は「regulatory」に振り分けられます。
各 expertise グループは、そのプロパティのみを含む最小限のサブ schema になります。これにより、LLM はより小さく焦点を絞った prompt を受け取り、専門とするフィールドのみを入力すればよくなります。
すべての専門領域の呼び出しは同時に実行されます。5つの専門領域を持つスキーマでは、5つのLLM呼び出しが同時に開始されます。各呼び出しが完了するたびに、その結果は蓄積された出力にディープマージされ、リアルタイムでUIにストリーミングされます。
一部の専門分野が失敗した場合、システムは成功した専門分野からのマージ済み出力を「部分的」ステータスで返します。失敗した専門分野のみを再試行でき、新しい結果は、すでに成功した処理を繰り返すことなく既存の出力にマージされます。
どちらの戦略もマルチモデルエンリッチメントと組み合わせられます。複数のモデルを選択すると、各モデルが選択した戦略を独立して実行します。その結果はマルチモデルフュージョンを使ってマージし、単一の高信頼度の出力を生成できます。