Llama 3.3 70B Instruct
Meta🇺🇸
meta-llama/llama-3.3-70b-instructLlama 3.3 70B Instruct is Meta's open-weight model that delivers performance close to Llama 3.1 405B at a fraction of the size and cost, with a 128K context window. It is well suited for general chat, reasoning, and coding in self-hosted deployments.
费用比率
0.1x
上下文
131K
发布日期
2024年12月6日
输入
Text
输出
Text
支持
推理工具调用结构化输出
最擅长
该模型排名最高的类别。
法律与政府
#235 · 前 61%
医学与医疗保健
#240 · 前 63%
生命科学、自然科学与社会科学
#249 · 前 61%
娱乐、体育与媒体
#253 · 前 62%
性能
根据近期请求测得的中位延迟和吞吐量。
吞吐量83 tok/s
延迟1.72s