Llama 3.1 8B Instruct
Meta🇺🇸
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct is Meta's small open-weight instruction-tuned model, designed for fast, low-cost chat and general text tasks with a 128K context window. It suits lightweight applications and resource-constrained self-hosted deployments.
Mức chi phí
0.1x
Ngữ cảnh
131K
Phát hành
23 thg 7, 2024
Đầu vào
Text
Đầu ra
Text
Hỗ trợ
Suy luậnGọi công cụĐầu ra có cấu trúc
Thế mạnh
Các danh mục mà mô hình này xếp hạng cao nhất.
Y học & Chăm sóc sức khỏe
#325 · top 85%
Pháp lý & Chính phủ
#327 · top 85%
Phần mềm & Dịch vụ CNTT
#334 · top 81%
Kinh doanh, Quản lý & Tài chính
#334 · top 82%
Hiệu năng
Độ trễ và thông lượng trung vị được đo trên các yêu cầu gần đây.
Thông lượng138 tok/s
Độ trễ