Llama 3.1 8B Instruct
Meta🇺🇸
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct is Meta's small open-weight instruction-tuned model, designed for fast, low-cost chat and general text tasks with a 128K context window. It suits lightweight applications and resource-constrained self-hosted deployments.
コスト率
0.1x
コンテキスト
131K
リリース
2024年7月23日
入力
Text
出力
Text
対応
推論ツール呼び出し構造化出力
得意なこと
このモデルが最も高くランクされているカテゴリーです。
医療・ヘルスケア
#325 · 上位85%
法律・行政
#327 · 上位85%
ソフトウェア・ITサービス
#334 · 上位81%
ビジネス・経営・金融
#334 · 上位82%
パフォーマンス
最近のリクエストで測定したレイテンシとスループットの中央値。
スループット138 tok/s
レイテンシ0.86s