Llama 3.1 70B Instruct is Meta's open-weight instruction-tuned model, offering strong general reasoning, chat, and coding performance with a 128K context window. It is a popular, well-balanced choice for self-hosted deployments needing near-frontier quality at open-weight cost.
Taux de coût
0.2x
Contexte
131K
Date de sortie
23 juil. 2024
Entrée
Text
Sortie
Text
Prise en charge
RaisonnementAppel d'outilsSorties structurées
Meilleur en
Les catégories où ce modèle se classe le mieux.
Juridique et administration publique
#265 · top 67 %
Médecine et santé
#280 · top 72 %
Sciences de la vie, sciences physiques et sciences sociales
#285 · top 68 %
Divertissement, sport et médias
#287 · top 68 %
Performances
Latence et débit médians mesurés sur les requêtes récentes.
Débit20 tok/s
Latence2.22s