Llama 3.1 70B Instruct
Meta🇺🇸
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct is Meta's open-weight instruction-tuned model, offering strong general reasoning, chat, and coding performance with a 128K context window. It is a popular, well-balanced choice for self-hosted deployments needing near-frontier quality at open-weight cost.
Taxa de custo
0.1x
Contexto
131K
Lançamento
23 de jul. de 2024
Entrada
Text
Saída
Text
Suporte
RaciocínioChamada de ferramentasSaídas estruturadas
Melhor em
As categorias em que este modelo tem o melhor desempenho.
Jurídico e Governo
#258 · top 67%
Medicina e Saúde
#273 · top 71%
Ciências da Vida, Físicas e Sociais
#277 · top 67%
Matemática
#278 · top 71%
Desempenho
Latência e vazão medianas medidas em solicitações recentes.
Vazão41 tok/s
Latência