Llama 3.1 8B Instruct
Meta🇺🇸
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct is Meta's small open-weight instruction-tuned model, designed for fast, low-cost chat and general text tasks with a 128K context window. It suits lightweight applications and resource-constrained self-hosted deployments.
Taux de coût
0.1x
Contexte
131K
Date de sortie
23 juil. 2024
Entrée
Text
Sortie
Text
Prise en charge
RaisonnementAppel d'outilsSorties structurées
Meilleur en
Les catégories où ce modèle se classe le mieux.
Médecine et santé
#325 · top 85 %
Juridique et administration publique
#327 · top 85 %
Logiciels et services informatiques
#334 · top 81 %
Affaires, gestion et finance
#334 · top 82 %
Performances
Latence et débit médians mesurés sur les requêtes récentes.
Débit135 tok/s
Latence