Saltar al contenido principal
AITier

Llama 3.1 Instruct 70B

MetaLlamaOpen WeightLlama 3.1 Community License

Descripción

Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.

Fecha de lanzamiento
2024-07-23
Parámetros
70.0B
Longitud del contexto
131K
Modalidades
text

Radar de capacidades

28
general
17
coding
20
reasoning
29
scienceest.
70
agents
0
multimodal

Science usa un proxy de razonamiento cuando los benchmarks científicos dedicados no están disponibles.

Rankings

Dominio#PosiciónPuntuaciónFuente
Code Ranking385
15.0
AA
General Ranking367
30.0
AA
Math Reasoning306
19.0
AA
Reasoning10
90.0
LS
Science357
30.0
AA

Puntuaciones de benchmarks (LLM Stats)

Biology

GPQA41.7%Aut.

Code

HumanEval80.5%Aut.
Gorilla Benchmark API Bench29.7%Aut.

Finance

MMLU (CoT)86.0%Aut.
MMLU83.6%Aut.
MMLU-Pro66.4%Aut.

General

ARC-C94.8%Aut.
IFEval87.5%Aut.
MBPP ++ base version86.0%Aut.
BFCL84.8%Aut.
Multipl-E HumanEval65.5%Aut.
Multipl-E MBPP62.0%Aut.
Nexus56.7%Aut.

Math

GSM-8K (CoT)95.1%Aut.
Multilingual MGSM (CoT)86.9%Aut.
DROP79.6%Aut.
MATH (CoT)68.0%Aut.

Reasoning

API-Bank90.0%Aut.

Índices de evaluación AA

Intelligence Index
12.5
Coding Index
10.9
Math Index
4.0
Mmlu Pro
0.7
Math 500
0.6
Gpqa
0.4
Ifbench
0.3
Scicode
0.3
Livecodebench
0.2
Aime
0.2
Tau2
0.2
Lcr
0.1
Hle
0.0
Aime 25
0.0
Terminalbench Hard
0.0

Puntuaciones por categoría LLM Stats

Structured Output
90
Instruction Following
90
Finance
80
Healthcare
80
Language
80
Legal
80
Math
80
Tool Calling
70
General
70
Reasoning
70
Code
60
Biology
40
Chemistry
40
Physics
40

Precios

Precio de entrada$0.56 / 1M tokens
Precio de salida$0.56 / 1M tokens
Precio mixto (3:1)$0.56 / 1M tokens

Velocidad

Tokens/seg33.0 tokens/s
Retraso del primer token0.62s
Tiempo hasta la respuesta0.62s

Proveedores disponibles

(Unidades internas LS)

No hay datos de proveedores disponibles

Fuentes externas

LLM Stats