Llama 3.2 Instruct 3B
MetaLlamaOpen WeightLlama 3.2 Community License
Description
Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.
Date de sortie
2024-09-25
Paramètres
3.2B
Longueur du contexte
131K
Modalités
text
Radar de capacités
13
general
8
coding
13
reasoning
14
scienceest.
50
agents
0
multimodal
Science utilise un proxy de raisonnement lorsque les benchmarks scientifiques dédiés ne sont pas disponibles.
Classements
| Domaine | #Rang | Score | Source |
|---|---|---|---|
| Classement codage | 469 | 6.0 | AA |
| Classement général | 467 | 17.0 | AA |
| Raisonnement mathématique | 332 | 12.0 | AA |
| Raisonnement | 49 | 70.0 | LS |
| Science | 490 | 12.0 | AA |
Scores de benchmarks (LLM Stats)
Biology
GPQA
32.8%Aut.
Finance
MMLU
63.4%Aut.
General
ARC-C
78.6%Aut.
IFEval
77.4%Aut.
BFCL v2
67.0%Aut.
Nexus
34.3%Aut.
Language
Open-rewrite
40.1%Aut.
TLDR9+ (test)
19.0%Aut.
Long Context
NIH/Multi-needle
84.7%Aut.
InfiniteBench/En.MC
63.3%Aut.
InfiniteBench/En.QA
19.8%Aut.
Math
GSM8k
77.7%Aut.
MGSM
58.2%Aut.
MATH
48.0%Aut.
Reasoning
HellaSwag
69.8%Aut.
Indices d'évaluation AA
Intelligence Index4.2
Math Index3.3
Math 5000.5
Mmlu Pro0.3
Ifbench0.3
Gpqa0.3
Tau20.2
Livecodebench0.1
Aime0.1
Hle0.1
Scicode0.1
Aime 250.0
Lcr0.0
Scores par catégorie LLM Stats
Instruction Following80
Structured Output80
Language60
Legal60
Math60
Reasoning60
Finance60
General60
Healthcare60
Tool Calling50
Physics30
Biology30
Chemistry30
Tarification
Prix d'entrée$0.15 / 1M tokens
Prix de sortie$0.15 / 1M tokens
Prix mixte (3:1)$0.15 / 1M tokens
Vitesse
Tokens/sec52.3
Délai du premier token0.59s
Temps de réponse0.59s
Classement des Prix par Fournisseur
Classement des Prix par Fournisseur
11 fournisseurs
Moins cher: ChutesPlus cher: Vercel AI Gateway
FournisseurEntréeSortie
1ChutesMoins cher
$0.01
$0.0136
2Inference
$0.02
$0.02
3NovitaAI
$0.03
$0.05
4LLM Gateway
$0.03
$0.05
5NanoGPT
$0.0306
$0.0493
6Cloudflare Workers AI
$0.0509
$0.335
7Kilo Gateway
$0.051
$0.34
8Cloudflare AI Gateway
$0.051
$0.34
9MetaPRINCIPAL
$0.15
$0.15
10Venice AI
$0.15
$0.6
11Vercel AI Gateway
$0.15
$0.15
Comparer les prix entre différents fournisseurs API pour ce modèle.