Skip to main content
Pioneer speichert jeden Inferenzaufruf und lässt Sie Ergebnisse per ID oder gesammelt abrufen. Sie können außerdem Korrektur-Feedback zu einzelnen Inferenzen einreichen. Dieses Feedback signalisiert, was das Modell falsch gemacht hat, und treibt Adaptive Inference an, das Ihr Modell automatisch mit korrigierten Beispielen aus dem Live-Traffic nachtrainiert.

Endpunkte

Vergangene Inferenzen auflisten

GET /inferences gibt eine paginierte Liste vergangener Inferenzaufrufe zurück. Verwenden Sie die folgenden Query-Parameter, um die Ergebnisse zu filtern.

Query-Parameter

number
Maximale Anzahl an Ergebnissen, die pro Seite zurückgegeben werden.
number
Anzahl der Ergebnisse, die vor der Rückgabe übersprungen werden. Verwenden Sie diesen Parameter zusammen mit limit, um durch die Ergebnisse zu paginieren.
string
Nach Modell-ID filtern. Akzeptiert eine Trainingsjob-ID oder eine Basismodell-ID.
string
Nach Aufgabentyp filtern (z. B. ner, classification, generate).
string
Nach Projekt-ID filtern, um nur Inferenzen zu sehen, die einem bestimmten Projekt zugeordnet sind.
string
Nach Trainingsjob-ID filtern, um nur Inferenzen zu sehen, die gegen ein bestimmtes feinabgestimmtes Modell ausgeführt wurden.
number
Minimale End-to-End-Latenz in Millisekunden (inklusive). Muss >= 0 sein.
number
Maximale End-to-End-Latenz in Millisekunden (inklusive). Muss >= 0 sein und >= latency_min, wenn beide gesetzt sind.
number
Minimaler LLM-as-Judge-Score (inklusive), im Bereich 0.01.0.
number
Maximaler LLM-as-Judge-Score (inklusive), im Bereich 0.01.0. Muss >= llmaj_score_min sein, wenn beide gesetzt sind.
string
Inklusive Untergrenze für created_at, als ISO-8601-UTC-Zeitstempel.
string
Exklusive Obergrenze für created_at, als ISO-8601-UTC-Zeitstempel.
latency_min/latency_max und llmaj_score_min/llmaj_score_max geben jeweils 422 zurück, wenn der min-Wert größer als der zugehörige max-Wert ist.

Beispiel

Inferenzdetails abrufen

GET /inferences/:id gibt den vollständigen Record für eine einzelne vergangene Inferenz zurück, einschließlich Eingabetext, Schema, Modellantwort und Zeitstempel.

Feedback einreichen

Mit POST /inferences/:id/feedback können Sie eine vergangene Inferenz als korrekt oder inkorrekt markieren und optional die korrigierte Ausgabe anhängen. Inkorrekt-Verdicts mit einer Korrektur werden als gelabelte Trainingsbeispiele für Adaptive Inference verwendet.
Das hier eingereichte Feedback treibt Adaptive Inference an. Das ist Pioneers kontinuierliche Verbesserungsschleife, die Ihr Modell automatisch mit Korrekturen nachtrainiert, die aus dem Live-Traffic gesammelt wurden. Details zur Funktionsweise finden Sie im Adaptive-Inference-Leitfaden.

Request-Parameter

string
erforderlich
Menschliches Urteil über die Inferenz: correct oder incorrect.
object
Die erwartete Ausgabe, in derselben Form wie die Ausgabe der ursprünglichen Inferenz (zum Beispiel eine korrigierte entities-Liste für eine NER-Inferenz). Erforderlich, wenn verdict incorrect ist; muss weggelassen oder null sein, wenn verdict correct ist. Das Senden einer inkorrekten Kombination gibt 422 zurück.
string
Optionale Freitext-Notizen des Reviewers. Maximal 5000 Zeichen.

Beispiel

Antwort
string
Die Inferenz, die annotiert wurde.
string
Das gespeicherte Verdict.
string
ISO-8601-Zeitstempel des Zeitpunkts, zu dem das Feedback eingereicht wurde.

Feedback abrufen

GET /inferences/:id/feedback gibt das Feedback zurück, das zuvor für eine bestimmte Inferenz eingereicht wurde. Gibt 404 zurück, wenn noch kein Feedback eingereicht wurde.
Antwort: dieselbe Form wie die oben beschriebene Antwort von Feedback einreichen.

Verwandte Themen