Llama 3.3 70B Instruct
Meta🇺🇸
meta-llama/llama-3.3-70b-instructLlama 3.3 70B Instruct is Meta's open-weight model that delivers performance close to Llama 3.1 405B at a fraction of the size and cost, with a 128K context window. It is well suited for general chat, reasoning, and coding in self-hosted deployments.
Тариф стоимости
0.1x
Контекст
131K
Выпуск
6 дек. 2024 г.
Ввод
Text
Вывод
Text
Поддержка
РассуждениеВызов инструментовСтруктурированный вывод
Сильные стороны
Категории, в которых эта модель показывает лучшие результаты.
Право и государственное управление
#235 · топ 61%
Медицина и здравоохранение
#240 · топ 63%
Науки о жизни, физические и социальные науки
#249 · топ 61%
Развлечения, спорт и медиа
#253 · топ 62%
Производительность
Медианные задержка и пропускная способность, измеренные по недавним запросам.
Пропускная способность83 tok/s
Задержка