Llama 3.3 70B Instruct
Meta🇺🇸
meta-llama/llama-3.3-70b-instructLlama 3.3 70B Instruct is Meta's open-weight model that delivers performance close to Llama 3.1 405B at a fraction of the size and cost, with a 128K context window. It is well suited for general chat, reasoning, and coding in self-hosted deployments.
コスト率
0.1x
コンテキスト
131K
リリース
2024年12月6日
入力
Text
出力
Text
対応
推論ツール呼び出し構造化出力
得意なこと
このモデルが最も高くランクされているカテゴリーです。
法律・行政
#235 · 上位61%
医療・ヘルスケア
#239 · 上位62%
生命科学・物理科学・社会科学
#249 · 上位60%
エンターテインメント・スポーツ・メディア
#254 · 上位62%
パフォーマンス
最近のリクエストで測定したレイテンシとスループットの中央値。
スループット90 tok/s
レイテンシ1.8s