Llama 3.1 70B Instruct

Llama 3.1 70B Instruct

Meta🇺🇸meta-llama/llama-3.1-70b-instruct

Llama 3.1 70B Instruct is Meta's open-weight instruction-tuned model, offering strong general reasoning, chat, and coding performance with a 128K context window. It is a popular, well-balanced choice for self-hosted deployments needing near-frontier quality at open-weight cost.

Выпуск
23 июл. 2024 г.
Ввод
Text
Вывод
Text
Поддержка
РассуждениеВызов инструментовСтруктурированный вывод

Сильные стороны

Категории, в которых эта модель показывает лучшие результаты.

Право и государственное управление

#265 · топ 67%

Медицина и здравоохранение

#280 · топ 72%

Науки о жизни, физические и социальные науки

#285 · топ 68%

Развлечения, спорт и медиа

#287 · топ 68%

Производительность

Медианные задержка и пропускная способность, измеренные по недавним запросам.

Пропускная способность20 tok/s
Задержка2.22s