Llama 3.2 Instruct 3B
MetaLlamaOpen WeightLlama 3.2 Community License
설명
Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.
출시일
2024-09-25
파라미터
3.2B
컨텍스트 길이
131K
모달리티
text
능력 레이더
17
general
8
coding
13
reasoning
14
science추정
50
agents
0
multimodal
전용 과학 벤치마크가 없을 때 Science는 추론 프록시를 사용하여 추정합니다.
랭킹
| 도메인 | #순위 | 점수 | 소스 |
|---|---|---|---|
| Code Ranking | 450 | 6.0 | AA |
| General Ranking | 440 | 19.0 | AA |
| Math Reasoning | 332 | 12.0 | AA |
| Reasoning | 45 | 70.0 | LS |
| Science | 466 | 12.0 | AA |
벤치마크 점수 (LLM Stats)
Biology
GPQA
32.8%자체 보고
Finance
MMLU
63.4%자체 보고
General
ARC-C
78.6%자체 보고
IFEval
77.4%자체 보고
BFCL v2
67.0%자체 보고
Nexus
34.3%자체 보고
Language
Open-rewrite
40.1%자체 보고
TLDR9+ (test)
19.0%자체 보고
Long Context
NIH/Multi-needle
84.7%자체 보고
InfiniteBench/En.MC
63.3%자체 보고
InfiniteBench/En.QA
19.8%자체 보고
Math
GSM8k
77.7%자체 보고
MGSM
58.2%자체 보고
MATH
48.0%자체 보고
Reasoning
HellaSwag
69.8%자체 보고
AA 평가 지수
Intelligence Index9.7
Math Index3.3
Math 5000.5
Mmlu Pro0.3
Ifbench0.3
Gpqa0.3
Tau20.2
Livecodebench0.1
Aime0.1
Hle0.1
Scicode0.1
Aime 250.0
Lcr0.0
LLM Stats 카테고리 점수
Structured Output80
Instruction Following80
Finance60
General60
Healthcare60
Language60
Legal60
Math60
Reasoning60
Tool Calling50
Biology30
Chemistry30
Physics30
가격
입력 가격$0.15 / 1M tokens
출력 가격$0.15 / 1M tokens
혼합 가격 (3:1)$0.15 / 1M tokens
속도
토큰/초52.1 tokens/s
첫 토큰 지연0.68s
첫 응답 지연0.68s
사용 가능한 프로바이더
(LS 내부 단위)프로바이더 데이터가 없습니다