Llama 3.1 70B Instruct

Llama 3.1 70B Instruct

Meta🇺🇸meta-llama/llama-3.1-70b-instruct
Comparer

Llama 3.1 70B Instruct is Meta's open-weight instruction-tuned model, offering strong general reasoning, chat, and coding performance with a 128K context window. It is a popular, well-balanced choice for self-hosted deployments needing near-frontier quality at open-weight cost.

Date de sortie
23 juil. 2024
Entrée
Text
Sortie
Text
Prise en charge
RaisonnementAppel d'outilsSorties structurées

Meilleur en

Les catégories où ce modèle se classe le mieux.

Juridique et administration publique

#265 · top 67 %

Médecine et santé

#280 · top 72 %

Sciences de la vie, sciences physiques et sciences sociales

#285 · top 68 %

Divertissement, sport et médias

#287 · top 68 %

Performances

Latence et débit médians mesurés sur les requêtes récentes.

Débit20 tok/s
Latence2.22s