Llama 3.1 70B Instruct
Meta🇺🇸
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct is Meta's open-weight instruction-tuned model, offering strong general reasoning, chat, and coding performance with a 128K context window. It is a popular, well-balanced choice for self-hosted deployments needing near-frontier quality at open-weight cost.
コスト率
0.1x
コンテキスト
131K
リリース
2024年7月23日
入力
Text
出力
Text
対応
推論ツール呼び出し構造化出力
得意なこと
このモデルが最も高くランクされているカテゴリーです。
法律・行政
#258 · 上位67%
医療・ヘルスケア
#273 · 上位71%
生命科学・物理科学・社会科学
#277 · 上位67%
数学
#278 · 上位71%
パフォーマンス
最近のリクエストで測定したレイテンシとスループットの中央値。
スループット41 tok/s
レイテンシ1.86s