Llama 3.1 70B Instruct
Meta🇺🇸
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct is Meta's open-weight instruction-tuned model, offering strong general reasoning, chat, and coding performance with a 128K context window. It is a popular, well-balanced choice for self-hosted deployments needing near-frontier quality at open-weight cost.
비용 비율
0.1x
컨텍스트
131K
출시일
2024년 7월 23일
입력
Text
출력
Text
지원
추론도구 호출구조화된 출력
강점 분야
이 모델이 가장 높은 순위를 차지하는 카테고리입니다.
법률 및 행정
#258 · 상위 67%
의료 및 헬스케어
#273 · 상위 71%
생명과학, 물리과학 및 사회과학
#277 · 상위 67%
수학
#278 · 상위 71%
성능
최근 요청 전반에서 측정한 중앙 지연 시간과 처리량입니다.
처리량41 tok/s
지연 시간1.86s