Llama 3.1 8B Instruct
Meta🇺🇸
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct is Meta's small open-weight instruction-tuned model, designed for fast, low-cost chat and general text tasks with a 128K context window. It suits lightweight applications and resource-constrained self-hosted deployments.
Тариф стоимости
0.1x
Контекст
131K
Выпуск
23 июл. 2024 г.
Ввод
Text
Вывод
Text
Поддержка
РассуждениеВызов инструментовСтруктурированный вывод
Сильные стороны
Категории, в которых эта модель показывает лучшие результаты.
Медицина и здравоохранение
#325 · топ 85%
Право и государственное управление
#327 · топ 85%
Программное обеспечение и ИТ-услуги
#334 · топ 81%
Бизнес, менеджмент и финансы
#334 · топ 82%
Производительность
Медианные задержка и пропускная способность, измеренные по недавним запросам.
Пропускная способность141 tok/s
Задержка