Llama 3.1 70B Instruct
Meta🇺🇸
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct is Meta's open-weight instruction-tuned model, offering strong general reasoning, chat, and coding performance with a 128K context window. It is a popular, well-balanced choice for self-hosted deployments needing near-frontier quality at open-weight cost.
Taux de coût
0.1x
Contexte
131K
Date de sortie
23 juil. 2024
Entrée
Text
Sortie
Text
Prise en charge
RaisonnementAppel d'outilsSorties structurées
Meilleur en
Les catégories où ce modèle se classe le mieux.
Juridique et administration publique
#258 · top 67 %
Médecine et santé
#273 · top 71 %
Sciences de la vie, sciences physiques et sciences sociales
#277 · top 67 %
Mathématiques
#278 · top 71 %
Performances
Latence et débit médians mesurés sur les requêtes récentes.
Débit41 tok/s
Latence