Llama 3.1 8B Instruct
Meta🇺🇸
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct is Meta's small open-weight instruction-tuned model, designed for fast, low-cost chat and general text tasks with a 128K context window. It suits lightweight applications and resource-constrained self-hosted deployments.
Taxa de custo
0.1x
Contexto
131K
Lançamento
23 de jul. de 2024
Entrada
Text
Saída
Text
Suporte
RaciocínioChamada de ferramentasSaídas estruturadas
Melhor em
As categorias em que este modelo tem o melhor desempenho.
Medicina e Saúde
#325 · top 85%
Jurídico e Governo
#327 · top 85%
Software e Serviços de TI
#334 · top 81%
Negócios, Gestão e Finanças
#334 · top 82%
Desempenho
Latência e vazão medianas medidas em solicitações recentes.
Vazão140 tok/s
Latência