Saltar al contenido principal
AITier

Llama 3.1 Instruct 70B

MetaLlamaOpen WeightLlama 3.1 Community License

Descripción

Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.

Fecha de lanzamiento
2024-07-23
Parámetros
70.0B
Longitud del contexto
131K
Modalidades
text

Radar de capacidades

25
general
24
coding
20
reasoning
29
scienceest.
70
agents
0
multimodal

Science usa un proxy de razonamiento cuando los benchmarks científicos dedicados no están disponibles.

Rankings

Dominio#PosiciónPuntuaciónFuente
Ranking de codificación422
13.0
AA
Ranking general393
28.0
AA
Razonamiento matemático306
19.0
AA
Razonamiento10
90.0
LS
Ciencia381
29.0
AA

Puntuaciones de benchmarks (LLM Stats)

Biology

GPQA41.7%Aut.

Code

HumanEval80.5%Aut.
Gorilla Benchmark API Bench29.7%Aut.

Finance

MMLU (CoT)86.0%Aut.
MMLU83.6%Aut.
MMLU-Pro66.4%Aut.

General

ARC-C94.8%Aut.
IFEval87.5%Aut.
MBPP ++ base version86.0%Aut.
BFCL84.8%Aut.
Multipl-E HumanEval65.5%Aut.
Multipl-E MBPP62.0%Aut.
Nexus56.7%Aut.

Math

GSM-8K (CoT)95.1%Aut.
Multilingual MGSM (CoT)86.9%Aut.
DROP79.6%Aut.
MATH (CoT)68.0%Aut.

Reasoning

API-Bank90.0%Aut.

Índices de evaluación AA

Intelligence Index
6.8
Math Index
4.0
Mmlu Pro
0.7
Math 500
0.6
Gpqa
0.4
Ifbench
0.3
Scicode
0.3
Livecodebench
0.2
Aime
0.2
Tau2
0.2
Lcr
0.1
Hle
0.0
Aime 25
0.0
Terminalbench Hard
0.0

Puntuaciones por categoría LLM Stats

Instruction Following
90
Structured Output
90
Language
80
Legal
80
Math
80
Finance
80
Healthcare
80
Reasoning
70
General
70
Tool Calling
70
Code
60
Physics
40
Biology
40
Chemistry
40

Precios

Precio de entrada$0.56 / 1M tokens
Precio de salida$0.56 / 1M tokens
Precio mixto (3:1)$0.56 / 1M tokens

Velocidad

Tokens/seg36.8
Retraso del primer token0.57s
Tiempo hasta la respuesta0.57s

Ranking de Precios por Proveedor

Ranking de Precios por Proveedor

9 proveedores

Más barato: OpenRouterMás caro: Azure
ProveedorEntradaSalida
1OpenRouterMás barato
$0.4
$0.4
2Kilo Gateway
$0.4
$0.4
3MetaPRINCIPAL
$0.56
$0.56
4Vercel AI Gateway
$0.72
$0.72
5LLM Gateway
$0.72
$0.72
6Weights & Biases
$0.8
$0.8
7Synthetic
$0.9
$0.9
8Azure Cognitive Services
$2.68
$3.54
9Azure
$2.68
$3.54

Comparar precios entre diferentes proveedores de API para este modelo.

Fuentes externas

LLM StatsArtificial Analysis