Saltar al contenido principal
AITier

Llama 3.2 Instruct 3B

MetaLlamaOpen WeightLlama 3.2 Community License

Descripción

Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.

Fecha de lanzamiento
2024-09-25
Parámetros
3.2B
Longitud del contexto
131K
Modalidades
text

Radar de capacidades

13
general
8
coding
13
reasoning
14
scienceest.
50
agents
0
multimodal

Science usa un proxy de razonamiento cuando los benchmarks científicos dedicados no están disponibles.

Rankings

Dominio#PosiciónPuntuaciónFuente
Ranking de codificación469
6.0
AA
Ranking general467
17.0
AA
Razonamiento matemático332
12.0
AA
Razonamiento49
70.0
LS
Ciencia490
12.0
AA

Puntuaciones de benchmarks (LLM Stats)

Biology

GPQA32.8%Aut.

Finance

MMLU63.4%Aut.

General

ARC-C78.6%Aut.
IFEval77.4%Aut.
BFCL v267.0%Aut.
Nexus34.3%Aut.

Language

Open-rewrite40.1%Aut.
TLDR9+ (test)19.0%Aut.

Long Context

NIH/Multi-needle84.7%Aut.
InfiniteBench/En.MC63.3%Aut.
InfiniteBench/En.QA19.8%Aut.

Math

GSM8k77.7%Aut.
MGSM58.2%Aut.
MATH48.0%Aut.

Reasoning

HellaSwag69.8%Aut.

Índices de evaluación AA

Intelligence Index
4.2
Math Index
3.3
Math 500
0.5
Mmlu Pro
0.3
Ifbench
0.3
Gpqa
0.3
Tau2
0.2
Livecodebench
0.1
Aime
0.1
Hle
0.1
Scicode
0.1
Aime 25
0.0
Lcr
0.0

Puntuaciones por categoría LLM Stats

Structured Output
80
Instruction Following
80
Language
60
Legal
60
Math
60
Reasoning
60
Finance
60
General
60
Healthcare
60
Tool Calling
50
Physics
30
Biology
30
Chemistry
30

Precios

Precio de entrada$0.15 / 1M tokens
Precio de salida$0.15 / 1M tokens
Precio mixto (3:1)$0.15 / 1M tokens

Velocidad

Tokens/seg52.0
Retraso del primer token0.61s
Tiempo hasta la respuesta0.61s

Ranking de Precios por Proveedor

Ranking de Precios por Proveedor

11 proveedores

Más barato: ChutesMás caro: Vercel AI Gateway
ProveedorEntradaSalida
1ChutesMás barato
$0.01
$0.0136
2Inference
$0.02
$0.02
3NovitaAI
$0.03
$0.05
4LLM Gateway
$0.03
$0.05
5NanoGPT
$0.0306
$0.0493
6Cloudflare Workers AI
$0.0509
$0.335
7Kilo Gateway
$0.051
$0.34
8Cloudflare AI Gateway
$0.051
$0.34
9MetaPRINCIPAL
$0.15
$0.15
10Venice AI
$0.15
$0.6
11Vercel AI Gateway
$0.15
$0.15

Comparar precios entre diferentes proveedores de API para este modelo.

Fuentes externas

LLM StatsArtificial Analysis