Llama 3.2 Instruct 3B
MetaLlamaOpen WeightLlama 3.2 Community License
Descripción
Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.
Fecha de lanzamiento
2024-09-25
Parámetros
3.2B
Longitud del contexto
131K
Modalidades
text
Radar de capacidades
17
general
8
coding
13
reasoning
14
scienceest.
50
agents
0
multimodal
Science usa un proxy de razonamiento cuando los benchmarks científicos dedicados no están disponibles.
Rankings
| Dominio | #Posición | Puntuación | Fuente |
|---|---|---|---|
| Code Ranking | 450 | 6.0 | AA |
| General Ranking | 440 | 19.0 | AA |
| Math Reasoning | 332 | 12.0 | AA |
| Reasoning | 45 | 70.0 | LS |
| Science | 466 | 12.0 | AA |
Puntuaciones de benchmarks (LLM Stats)
Biology
GPQA
32.8%Aut.
Finance
MMLU
63.4%Aut.
General
ARC-C
78.6%Aut.
IFEval
77.4%Aut.
BFCL v2
67.0%Aut.
Nexus
34.3%Aut.
Language
Open-rewrite
40.1%Aut.
TLDR9+ (test)
19.0%Aut.
Long Context
NIH/Multi-needle
84.7%Aut.
InfiniteBench/En.MC
63.3%Aut.
InfiniteBench/En.QA
19.8%Aut.
Math
GSM8k
77.7%Aut.
MGSM
58.2%Aut.
MATH
48.0%Aut.
Reasoning
HellaSwag
69.8%Aut.
Índices de evaluación AA
Intelligence Index9.7
Math Index3.3
Math 5000.5
Mmlu Pro0.3
Ifbench0.3
Gpqa0.3
Tau20.2
Livecodebench0.1
Aime0.1
Hle0.1
Scicode0.1
Aime 250.0
Lcr0.0
Puntuaciones por categoría LLM Stats
Structured Output80
Instruction Following80
Finance60
General60
Healthcare60
Language60
Legal60
Math60
Reasoning60
Tool Calling50
Biology30
Chemistry30
Physics30
Precios
Precio de entrada$0.15 / 1M tokens
Precio de salida$0.15 / 1M tokens
Precio mixto (3:1)$0.15 / 1M tokens
Velocidad
Tokens/seg52.1 tokens/s
Retraso del primer token0.68s
Tiempo hasta la respuesta0.68s
Proveedores disponibles
(Unidades internas LS)No hay datos de proveedores disponibles