Llama 3.3 70B Instruct
Meta🇺🇸
meta-llama/llama-3.3-70b-instructLlama 3.3 70B Instruct is Meta's open-weight model that delivers performance close to Llama 3.1 405B at a fraction of the size and cost, with a 128K context window. It is well suited for general chat, reasoning, and coding in self-hosted deployments.
Mức chi phí
0.1x
Ngữ cảnh
131K
Phát hành
6 thg 12, 2024
Đầu vào
Text
Đầu ra
Text
Hỗ trợ
Suy luậnGọi công cụĐầu ra có cấu trúc
Thế mạnh
Các danh mục mà mô hình này xếp hạng cao nhất.
Pháp lý & Chính phủ
#235 · top 61%
Y học & Chăm sóc sức khỏe
#240 · top 63%
Khoa học Sự sống, Vật lý & Xã hội
#249 · top 61%
Giải trí, Thể thao & Truyền thông
#253 · top 62%
Hiệu năng
Độ trễ và thông lượng trung vị được đo trên các yêu cầu gần đây.
Thông lượng83 tok/s
Độ trễ