Saltar al contenido principal
AITier

Llama 3.1 Instruct 8B

MetaLlamaOpen WeightLlama 3.1 Community License

Descripción

Llama 3.1 8B Instruct is a multilingual large language model optimized for dialogue use cases. It features a 128K context length, state-of-the-art tool use, and strong reasoning capabilities.

Fecha de lanzamiento
2024-07-23
Parámetros
8.0B
Longitud del contexto
131K
Modalidades
text

Radar de capacidades

18
general
12
coding
14
reasoning
17
scienceest.
50
agents
0
multimodal

Science usa un proxy de razonamiento cuando los benchmarks científicos dedicados no están disponibles.

Rankings

Dominio#PosiciónPuntuaciónFuente
Ranking de codificación440
11.0
AA
Ranking general435
22.0
AA
Razonamiento matemático324
14.0
AA
Razonamiento28
83.0
LS
Ciencia464
16.0
AA

Puntuaciones de benchmarks (LLM Stats)

Biology

GPQA30.4%Aut.

Code

HumanEval72.6%Aut.
Gorilla Benchmark API Bench8.2%Aut.

Finance

MMLU (CoT)73.0%Aut.
MMLU69.4%Aut.
MMLU-Pro48.3%Aut.

General

ARC-C83.4%Aut.
IFEval80.4%Aut.
BFCL76.1%Aut.
MBPP EvalPlus (base)72.8%Aut.
Multipl-E MBPP52.4%Aut.
Multipl-E HumanEval50.8%Aut.
Nexus38.5%Aut.

Math

GSM-8K (CoT)84.5%Aut.
Multilingual MGSM (CoT)68.9%Aut.
DROP59.5%Aut.
MATH (CoT)51.9%Aut.

Reasoning

API-Bank82.6%Aut.

Índices de evaluación AA

Intelligence Index
6.1
Math Index
4.3
Math 500
0.5
Mmlu Pro
0.5
Ifbench
0.3
Gpqa
0.3
Tau2
0.2
Lcr
0.2
Scicode
0.1
Livecodebench
0.1
Aime
0.1
Hle
0.1
Aime 25
0.0
Terminalbench Hard
0.0

Puntuaciones por categoría LLM Stats

Instruction Following
80
Structured Output
80
Language
60
Legal
60
Math
60
Reasoning
60
Finance
60
General
60
Healthcare
60
Tool Calling
50
Code
40
Physics
30
Biology
30
Chemistry
30

Precios

Precio de entrada$0.1 / 1M tokens
Precio de salida$0.1 / 1M tokens
Precio mixto (3:1)$0.1 / 1M tokens

Velocidad

Tokens/seg201.0
Retraso del primer token0.51s
Tiempo hasta la respuesta0.51s

Ranking de Precios por Proveedor

Ranking de Precios por Proveedor

23 proveedores

Más barato: NanoGPTMás caro: Azure
ProveedorEntradaSalida
1NanoGPTMás barato
$0.02
$0.03
2Abacus
$0.02
$0.05
3OpenRouter
$0.02
$0.03
4NovitaAI
$0.02
$0.05
5Kilo Gateway
$0.02
$0.05
6Helicone
$0.02
$0.05
7Inference
$0.025
$0.025
8Groq
$0.05
$0.08
9Regolo AI
$0.05
$0.25
10MetaPRINCIPAL
$0.1
$0.1
11Poe
$0.1
$0.1
12Friendli
$0.1
$0.1
13OVHcloud AI Endpoints
$0.11
$0.11
14Cloudflare Workers AI
$0.152
$0.287
15STACKIT
$0.16
$0.27
16Synthetic
$0.2
$0.2
17Weights & Biases
$0.22
$0.22
18Amazon Bedrock
$0.22
$0.22
19Vercel AI Gateway
$0.22
$0.22
20LLM Gateway
$0.22
$0.22
21Cloudflare AI Gateway
$0.28
$0.83
22Azure Cognitive Services
$0.3
$0.61
23Azure
$0.3
$0.61

Comparar precios entre diferentes proveedores de API para este modelo.

Fuentes externas

LLM StatsArtificial Analysis