Saltar al contenido principal

Llama 3.1 Instruct 8B

MetaLlamaOpen WeightLlama 3.1 Community License

Descripción

Llama 3.1 8B Instruct is a multilingual large language model optimized for dialogue use cases. It features a 128K context length, state-of-the-art tool use, and strong reasoning capabilities.

Fecha de lanzamiento
2024-07-23
Parámetros
8.0B
Longitud del contexto
16K
Modalidades
text

Radar de capacidades

22
general
8
coding
14
reasoning
17
scienceest.
50
agents
0
multimodal

Science usa un proxy de razonamiento cuando los benchmarks científicos dedicados no están disponibles.

Rankings

Dominio#PosiciónPuntuaciónFuente
Code Ranking420
10.0
AA
General Ranking418
23.0
AA
Math Reasoning324
14.0
AA
Reasoning26
83.0
LS
Science435
17.0
AA

Puntuaciones de benchmarks (LLM Stats)

Biology

GPQA30.4%Aut.

Code

HumanEval72.6%Aut.
Gorilla Benchmark API Bench8.2%Aut.

Finance

MMLU (CoT)73.0%Aut.
MMLU69.4%Aut.
MMLU-Pro48.3%Aut.

General

ARC-C83.4%Aut.
IFEval80.4%Aut.
BFCL76.1%Aut.
MBPP EvalPlus (base)72.8%Aut.
Multipl-E MBPP52.4%Aut.
Multipl-E HumanEval50.8%Aut.
Nexus38.5%Aut.

Math

GSM-8K (CoT)84.5%Aut.
Multilingual MGSM (CoT)68.9%Aut.
DROP59.5%Aut.
MATH (CoT)51.9%Aut.

Reasoning

API-Bank82.6%Aut.

Índices de evaluación AA

Intelligence Index
11.8
Coding Index
4.9
Math Index
4.3
Math 500
0.5
Mmlu Pro
0.5
Ifbench
0.3
Gpqa
0.3
Tau2
0.2
Lcr
0.2
Scicode
0.1
Livecodebench
0.1
Aime
0.1
Hle
0.1
Aime 25
0.0
Terminalbench Hard
0.0

Puntuaciones por categoría LLM Stats

Structured Output
80
Instruction Following
80
Finance
60
General
60
Healthcare
60
Language
60
Legal
60
Math
60
Reasoning
60
Tool Calling
50
Code
40
Biology
30
Chemistry
30
Physics
30

Precios

Precio de entrada$0.1 / 1M tokens
Precio de salida$0.1 / 1M tokens
Precio mixto (3:1)$0.1 / 1M tokens

Velocidad

Tokens/seg188.5 tokens/s
Retraso del primer token0.47s
Tiempo hasta la respuesta0.47s

Proveedores disponibles

(Unidades internas LS)

No hay datos de proveedores disponibles

Fuentes externas