Llama 3.1 70B Instruct
Meta🇺🇸
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct is Meta's open-weight instruction-tuned model, offering strong general reasoning, chat, and coding performance with a 128K context window. It is a popular, well-balanced choice for self-hosted deployments needing near-frontier quality at open-weight cost.
Kostenfaktor
0.1x
Kontext
131K
Veröffentlicht
23. Juli 2024
Eingabe
Text
Ausgabe
Text
Unterstützung
SchlussfolgernTool-AufrufeStrukturierte Ausgaben
Worin es am besten ist
Die Kategorien, in denen dieses Modell am besten abschneidet.
Recht & Staat
#258 · Top 67%
Medizin & Gesundheitswesen
#273 · Top 71%
Lebens-, Natur- und Sozialwissenschaften
#277 · Top 67%
Mathematik
#278 · Top 71%
Leistung
Mittlere Latenz und Durchsatz, gemessen anhand aktueller Anfragen.
Durchsatz41 tok/s
Latenz