GET /base-models, um die Live-Liste abzufragen, die immer die aktuelle Verfügbarkeit und Fähigkeiten widerspiegelt.
Einige Modelle in Rollout-Phasen sind funktions-gated. Sie erscheinen im Live-Katalog nur für Workspaces, für die der entsprechende Rollout aktiviert ist.
Encoder-Modelle (GLiNER)
GLiNER-Modelle führen Named Entity Recognition und strukturierte Extraktion durch. Die meisten GLiNER-Basismodelle unterstützen sowohl Training als auch On-Demand-Inferenz nach dem Training. Preise sind pro 1 Mio. Tokens.fastino/gliner2-multi-v1 und fastino/gliner2-multi-large-v1 sind mehrsprachige Varianten, die für nicht-englische Texte geeignet sind.
Decoder-Modelle — Training
LoRA-Fine-Tuning überPOST /felix/training-jobs ist auf die Nemotron-3.5-Lightning-Familie begrenzt:
Für neue Trainingsjobs stehen die Nemotron-3.5-Lightning-Familie sowie die trainierbaren GLiNER-Basismodelle zur Verfügung. Die oben aufgeführten PII- und GLiGuard-Varianten sind reine Serverless-Inferenzziele. Fragen Sie vor dem Absenden eines Jobs
GET /base-models?supports_training=true ab; dies ist die Live-Quelle für die Verfügbarkeit.
Decoder-Modelle — Serverless-Inferenz
Dies sind die unterstützten vorab bereitgestellten Inferenzfamilien. Fragen SieGET /base-models?supports_inference=true für Live-Verfügbarkeit, Kontextlimits und Preise ab.
Nemotron 3.5 Lightning
Anthropic
OpenAI
DeepSeek
Z.ai
Modelle außerhalb dieser Familien werden nicht als Inferenzziele unterstützt. Verwenden Sie vor der Integration
GET /base-models für den Live-Katalog und den Lifecycle-Status.Prompt-Caching
Viele Serverless-Modelle rechnen gecachte Input-Tokens mit einem Rabatt ab, und einige Anbieter berechnen einen einmaligen Aufpreis, um Tokens in den Cache zu schreiben. Pioneer reicht die veröffentlichten Cache-Raten jedes Anbieters direkt durch – dies sind dieselben Raten, dieGET /base-models als cache_read_price_per_million und cache_write_price_per_million zurückgibt, und dieselben Raten, die Pioneer Ihnen berechnet.
Cache-Raten werden aus der Input-Rate jedes Modells anhand der folgenden Multiplikatoren abgeleitet. Wo ein Anbieter keine separate Cache-Write-Position hat, werden Cache-Writes zur regulären Input-Rate abgerechnet.
Fragen Sie den Live-Katalog für exakte Cache-Raten ab. Jedes Modell ohne expliziten Cache-Rabatt rechnet gecachten Input zur regulären Input-Rate ab.
On-Demand vs. Serverless-Inferenz
Pioneer bietet zwei Möglichkeiten, Vorhersagen zu bedienen, und die richtige Wahl hängt von Ihrem Workflow ab. Serverless-Inferenz verwendet vorab bereitgestellte Basismodell-Endpunkte. Es gibt keine Startverzögerung und Sie werden pro Token abgerechnet. Dies ist ideal, wenn Sie ein Spitzenmodell aufrufen möchten, ohne Fine-Tuning durchzuführen. On-Demand-Inferenz stellt nach Abschluss des Fine-Tunings eine dedizierte GPU bereit. Ihr LoRA-Adapter wird auf die GPU geladen und exklusiv für Ihre Anfragen bereitgestellt. Pioneer leitet Inferenzaufrufe automatisch an ein On-Demand-Deployment weiter, wenn Sie eine Trainingsjob-ID alsmodel_id übergeben.
Abfrage des Live-Katalogs
Die obigen Tabellen können neu hinzugefügten Modellen hinterherhinken. Verwenden SieGET /base-models, um den aktuellen Katalog zur Laufzeit abzurufen.
input_price_per_million, output_price_per_million, cache_read_price_per_million, cache_write_price_per_million) sowie Boolean-Flags für supports_training und supports_inference. Verwenden Sie den Modell-ID-Wert direkt in Trainingsjob-Anfragen und Inferenzaufrufen.
Um jedes Modell zusammen mit seinen Input-, Output- und Cache-Raten aufzulisten: