Llama 3.1 8B Instruct

Llama 3.1 8B Instruct

Meta🇺🇸meta-llama/llama-3.1-8b-instruct
Comparer

Llama 3.1 8B Instruct is Meta's small open-weight instruction-tuned model, designed for fast, low-cost chat and general text tasks with a 128K context window. It suits lightweight applications and resource-constrained self-hosted deployments.

Date de sortie
23 juil. 2024
Entrée
Text
Sortie
Text
Prise en charge
RaisonnementAppel d'outilsSorties structurées

Meilleur en

Les catégories où ce modèle se classe le mieux.

Médecine et santé

#333 · top 85 %

Juridique et administration publique

#334 · top 85 %

Logiciels et services informatiques

#342 · top 81 %

Affaires, gestion et finance

#342 · top 83 %

Performances

Latence et débit médians mesurés sur les requêtes récentes.

Débit141 tok/s
Latence0.86s