Llama 3.2 Instruct 3B
MetaLlamaOpen WeightLlama 3.2 Community License
Description
Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.
Date de sortie
2024-09-25
Paramètres
3.2B
Longueur du contexte
131K
Modalités
text
Radar de capacités
17
general
8
coding
13
reasoning
14
scienceest.
50
agents
0
multimodal
Science utilise un proxy de raisonnement lorsque les benchmarks scientifiques dédiés ne sont pas disponibles.
Classements
| Domaine | #Rang | Score | Source |
|---|---|---|---|
| Code Ranking | 450 | 6.0 | AA |
| General Ranking | 440 | 19.0 | AA |
| Math Reasoning | 332 | 12.0 | AA |
| Reasoning | 45 | 70.0 | LS |
| Science | 466 | 12.0 | AA |
Scores de benchmarks (LLM Stats)
Biology
GPQA
32.8%Aut.
Finance
MMLU
63.4%Aut.
General
ARC-C
78.6%Aut.
IFEval
77.4%Aut.
BFCL v2
67.0%Aut.
Nexus
34.3%Aut.
Language
Open-rewrite
40.1%Aut.
TLDR9+ (test)
19.0%Aut.
Long Context
NIH/Multi-needle
84.7%Aut.
InfiniteBench/En.MC
63.3%Aut.
InfiniteBench/En.QA
19.8%Aut.
Math
GSM8k
77.7%Aut.
MGSM
58.2%Aut.
MATH
48.0%Aut.
Reasoning
HellaSwag
69.8%Aut.
Indices d'évaluation AA
Intelligence Index9.7
Math Index3.3
Math 5000.5
Mmlu Pro0.3
Ifbench0.3
Gpqa0.3
Tau20.2
Livecodebench0.1
Aime0.1
Hle0.1
Scicode0.1
Aime 250.0
Lcr0.0
Scores par catégorie LLM Stats
Structured Output80
Instruction Following80
Finance60
General60
Healthcare60
Language60
Legal60
Math60
Reasoning60
Tool Calling50
Biology30
Chemistry30
Physics30
Tarification
Prix d'entrée$0.15 / 1M tokens
Prix de sortie$0.15 / 1M tokens
Prix mixte (3:1)$0.15 / 1M tokens
Vitesse
Tokens/sec52.1 tokens/s
Délai du premier token0.68s
Temps de réponse0.68s
Fournisseurs disponibles
(Unités internes LS)Aucune donnée de fournisseur disponible