Llama 3.3 70B Instruct is Meta's open-weight model that delivers performance close to Llama 3.1 405B at a fraction of the size and cost, with a 128K context window. It is well suited for general chat, reasoning, and coding in self-hosted deployments.
Taux de coût
0.2x
Contexte
131K
Date de sortie
6 déc. 2024
Entrée
Text
Sortie
Text
Prise en charge
RaisonnementAppel d'outilsSorties structurées
Meilleur en
Les catégories où ce modèle se classe le mieux.
Juridique et administration publique
#241 · top 61 %
Médecine et santé
#246 · top 63 %
Sciences de la vie, sciences physiques et sciences sociales
#256 · top 61 %
Divertissement, sport et médias
#261 · top 62 %
Performances
Latence et débit médians mesurés sur les requêtes récentes.
Débit92 tok/s
Latence1.7s