Llama 3.1 8B Instruct
Meta🇺🇸
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct is Meta's small open-weight instruction-tuned model, designed for fast, low-cost chat and general text tasks with a 128K context window. It suits lightweight applications and resource-constrained self-hosted deployments.
Kostenfaktor
0.1x
Kontext
131K
Veröffentlicht
23. Juli 2024
Eingabe
Text
Ausgabe
Text
Unterstützung
SchlussfolgernTool-AufrufeStrukturierte Ausgaben
Worin es am besten ist
Die Kategorien, in denen dieses Modell am besten abschneidet.
Medizin & Gesundheitswesen
#325 · Top 85%
Recht & Staat
#327 · Top 85%
Software & IT-Dienstleistungen
#334 · Top 81%
Wirtschaft, Management & Finanzen
#334 · Top 82%
Leistung
Mittlere Latenz und Durchsatz, gemessen anhand aktueller Anfragen.
Durchsatz141 tok/s
Latenz