Endpunkte
Vergangene Inferenzen auflisten
GET /inferences gibt eine paginierte Liste vergangener Inferenzaufrufe zurück. Verwenden Sie die folgenden Query-Parameter, um die Ergebnisse zu filtern.
Query-Parameter
number
Maximale Anzahl an Ergebnissen, die pro Seite zurückgegeben werden.
number
Anzahl der Ergebnisse, die vor der Rückgabe übersprungen werden. Verwenden Sie diesen Parameter zusammen mit
limit, um durch die Ergebnisse zu paginieren.string
Nach Modell-ID filtern. Akzeptiert eine Trainingsjob-ID oder eine Basismodell-ID.
string
Nach Aufgabentyp filtern (z. B.
ner, classification, generate).string
Nach Projekt-ID filtern, um nur Inferenzen zu sehen, die einem bestimmten Projekt zugeordnet sind.
string
Nach Trainingsjob-ID filtern, um nur Inferenzen zu sehen, die gegen ein bestimmtes feinabgestimmtes Modell ausgeführt wurden.
number
Minimale End-to-End-Latenz in Millisekunden (inklusive). Muss >= 0 sein.
number
Maximale End-to-End-Latenz in Millisekunden (inklusive). Muss >= 0 sein und >=
latency_min, wenn beide gesetzt sind.number
Minimaler LLM-as-Judge-Score (inklusive), im Bereich
0.0–1.0.number
Maximaler LLM-as-Judge-Score (inklusive), im Bereich
0.0–1.0. Muss >= llmaj_score_min sein, wenn beide gesetzt sind.string
Inklusive Untergrenze für
created_at, als ISO-8601-UTC-Zeitstempel.string
Exklusive Obergrenze für
created_at, als ISO-8601-UTC-Zeitstempel.latency_min/latency_max und llmaj_score_min/llmaj_score_max geben jeweils 422 zurück, wenn der min-Wert größer als der zugehörige max-Wert ist.Beispiel
Inferenzdetails abrufen
GET /inferences/:id gibt den vollständigen Record für eine einzelne vergangene Inferenz zurück, einschließlich Eingabetext, Schema, Modellantwort und Zeitstempel.
Feedback einreichen
MitPOST /inferences/:id/feedback können Sie eine vergangene Inferenz als korrekt oder inkorrekt markieren und optional die korrigierte Ausgabe anhängen. Inkorrekt-Verdicts mit einer Korrektur werden als gelabelte Trainingsbeispiele für Adaptive Inference verwendet.
Das hier eingereichte Feedback treibt Adaptive Inference an. Das ist Pioneers kontinuierliche Verbesserungsschleife, die Ihr Modell automatisch mit Korrekturen nachtrainiert, die aus dem Live-Traffic gesammelt wurden. Details zur Funktionsweise finden Sie im Adaptive-Inference-Leitfaden.
Request-Parameter
string
erforderlich
Menschliches Urteil über die Inferenz:
correct oder incorrect.object
Die erwartete Ausgabe, in derselben Form wie die Ausgabe der ursprünglichen Inferenz (zum Beispiel eine korrigierte
entities-Liste für eine NER-Inferenz). Erforderlich, wenn verdict incorrect ist; muss weggelassen oder null sein, wenn verdict correct ist. Das Senden einer inkorrekten Kombination gibt 422 zurück.string
Optionale Freitext-Notizen des Reviewers. Maximal 5000 Zeichen.
Beispiel
string
Die Inferenz, die annotiert wurde.
string
Das gespeicherte Verdict.
string
ISO-8601-Zeitstempel des Zeitpunkts, zu dem das Feedback eingereicht wurde.
Feedback abrufen
GET /inferences/:id/feedback gibt das Feedback zurück, das zuvor für eine bestimmte Inferenz eingereicht wurde. Gibt 404 zurück, wenn noch kein Feedback eingereicht wurde.
Verwandte Themen
- Pioneer native Inferenz: neue Inferenzen ausführen
- Adaptive-Inference-Leitfaden: kontinuierliche Modellverbesserung aus Live-Traffic