Llama 3.1 70B Instruct
Meta🇺🇸
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct is Meta's open-weight instruction-tuned model, offering strong general reasoning, chat, and coding performance with a 128K context window. It is a popular, well-balanced choice for self-hosted deployments needing near-frontier quality at open-weight cost.
Mức chi phí
0.1x
Ngữ cảnh
131K
Phát hành
23 thg 7, 2024
Đầu vào
Text
Đầu ra
Text
Hỗ trợ
Suy luậnGọi công cụĐầu ra có cấu trúc
Thế mạnh
Các danh mục mà mô hình này xếp hạng cao nhất.
Pháp lý & Chính phủ
#258 · top 67%
Y học & Chăm sóc sức khỏe
#273 · top 71%
Khoa học Sự sống, Vật lý & Xã hội
#277 · top 67%
Toán học
#278 · top 71%
Hiệu năng
Độ trễ và thông lượng trung vị được đo trên các yêu cầu gần đây.
Thông lượng41 tok/s
Độ trễ