Llama 3.3 70B Instruct
Meta🇺🇸
meta-llama/llama-3.3-70b-instructLlama 3.3 70B Instruct is Meta's open-weight model that delivers performance close to Llama 3.1 405B at a fraction of the size and cost, with a 128K context window. It is well suited for general chat, reasoning, and coding in self-hosted deployments.
비용 비율
0.1x
컨텍스트
131K
출시일
2024년 12월 6일
입력
Text
출력
Text
지원
추론도구 호출구조화된 출력
강점 분야
이 모델이 가장 높은 순위를 차지하는 카테고리입니다.
법률 및 행정
#235 · 상위 61%
의료 및 헬스케어
#240 · 상위 63%
생명과학, 물리과학 및 사회과학
#249 · 상위 61%
엔터테인먼트, 스포츠 및 미디어
#253 · 상위 62%
성능
최근 요청 전반에서 측정한 중앙 지연 시간과 처리량입니다.
처리량81 tok/s
지연 시간1.74s