Llama 3.1 8B Instruct
Meta🇺🇸
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct is Meta's small open-weight instruction-tuned model, designed for fast, low-cost chat and general text tasks with a 128K context window. It suits lightweight applications and resource-constrained self-hosted deployments.
Tarifa de coste
0.1x
Contexto
131K
Lanzamiento
23 jul 2024
Entrada
Text
Salida
Text
Compatibilidad
RazonamientoLlamada a herramientasSalidas estructuradas
En qué destaca
Las categorías en las que este modelo obtiene la mejor clasificación.
Medicina y salud
#325 · top 85%
Legal y gobierno
#327 · top 85%
Software y servicios de TI
#334 · top 81%
Negocios, gestión y finanzas
#334 · top 82%
Rendimiento
Latencia y rendimiento medianos medidos en solicitudes recientes.
Rendimiento138 tok/s
Latencia