Llama 3.2 Instruct 3B
MetaLlama오픈 웨이트Llama 3.2 Community License
설명
Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.
출시일
2024-09-25
파라미터
3.2B
컨텍스트 길이
131K
모달리티
text
능력 레이더
13
general
8
coding
13
reasoning
14
science추정
50
agents
0
multimodal
전용 과학 벤치마크가 없을 때 Science는 추론 프록시를 사용하여 추정합니다.
랭킹
벤치마크 점수 (LLM Stats)
Biology
GPQA
32.8%자체 보고
Finance
MMLU
63.4%자체 보고
General
ARC-C
78.6%자체 보고
IFEval
77.4%자체 보고
BFCL v2
67.0%자체 보고
Nexus
34.3%자체 보고
Language
Open-rewrite
40.1%자체 보고
TLDR9+ (test)
19.0%자체 보고
Long Context
NIH/Multi-needle
84.7%자체 보고
InfiniteBench/En.MC
63.3%자체 보고
InfiniteBench/En.QA
19.8%자체 보고
Math
GSM8k
77.7%자체 보고
MGSM
58.2%자체 보고
MATH
48.0%자체 보고
Reasoning
HellaSwag
69.8%자체 보고
AA 평가 지수
Intelligence Index4.2
Math Index3.3
Math 5000.5
Mmlu Pro0.3
Ifbench0.3
Gpqa0.3
Tau20.2
Livecodebench0.1
Aime0.1
Hle0.1
Scicode0.1
Aime 250.0
Lcr0.0
LLM Stats 카테고리 점수
Instruction Following80
Structured Output80
Language60
Legal60
Math60
Reasoning60
Finance60
General60
Healthcare60
Tool Calling50
Physics30
Biology30
Chemistry30
가격
입력 가격$0.15 / 1M 토큰
출력 가격$0.15 / 1M 토큰
혼합 가격 (3:1)$0.15 / 1M 토큰
속도
토큰/초52.3
첫 토큰 지연0.59s
첫 응답 지연0.59s
공급자 가격 순위
공급자 가격 순위
11개 공급자
최저가: Chutes최고가: Vercel AI Gateway
공급자입력출력
1Chutes최저가
$0.01
$0.0136
2Inference
$0.02
$0.02
3NovitaAI
$0.03
$0.05
4LLM Gateway
$0.03
$0.05
5NanoGPT
$0.0306
$0.0493
6Cloudflare Workers AI
$0.0509
$0.335
7Kilo Gateway
$0.051
$0.34
8Cloudflare AI Gateway
$0.051
$0.34
9Meta주요
$0.15
$0.15
10Venice AI
$0.15
$0.6
11Vercel AI Gateway
$0.15
$0.15
이 모델의 다양한 API 공급자 간 가격 비교.