Saltar al contenido principal

Llama 3.1 Instruct 70B

MetaLlamaOpen WeightLlama 3.1 Community License

Descripción

Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.

Fecha de lanzamiento
2024-07-23
Parámetros
70.0B
Longitud del contexto
131K
Modalidades
text

Radar de capacidades

70
general
60
coding
80
reasoning
34
scienceest.
70
agents
0
multimodal

Science se estima a partir de las puntuaciones científicas de LLM Stats o del razonamiento cuando no hay benchmarks científicos dedicados.

Rankings

No hay datos de ranking disponibles

Puntuaciones de benchmarks (LLM Stats)

(LLM Stats (zeroeval))

Chat

IFEvalGoogle Research (2023)87.5%Aut.

General

BFCL84.8%Aut.
MMLU83.6%Aut.
Multipl-E MBPP62.0%Aut.
Nexus56.7%Aut.

Language

MMLU (CoT)86.0%Aut.
MMLU-Pro66.4%Aut.
Multipl-E HumanEval65.5%Aut.

Math

GSM-8K (CoT)95.1%Aut.
Multilingual MGSM (CoT)86.9%Aut.
MATH (CoT)68.0%Aut.

Reasoning

ARC-C94.8%Aut.
API-Bank90.0%Aut.
MBPP ++ base version86.0%Aut.
HumanEvalOpenAI (2021)80.5%Aut.
DROP79.6%Aut.
GPQANYU + Cohere + Anthropic (2023)41.7%Aut.
Gorilla Benchmark API Bench29.7%Aut.

Índices de evaluación AA

(Artificial Analysis)

No hay datos de evaluación AA disponibles

Puntuaciones por categoría LLM Stats

(LLM Stats (zeroeval))
Chat
90
Instruction Following
90
Structured Output
90
Language
80
Legal
80
Math
80
Finance
80
Healthcare
80
Reasoning
70
General
70
Tool Calling
70
Code
60
Physics
40
Biology
40
Chemistry
40

Precios

Precio de entrada$0.56 / 1M tokens
Precio de salida$0.56 / 1M tokens
Precio mixto (3:1)$0.4 / 1M tokens

Velocidad

Tokens/seg18.5
Retraso del primer token2.26s
Tiempo hasta la respuesta2.26s

Ranking de Precios por Proveedor

Ranking de Precios por Proveedor

4 proveedores

Más barato: DeepInfraMás caro: Kilo Gateway
ProveedorEntradaSalida
1DeepInfraMás barato
$0.4
$0.4
2MetaPRINCIPAL
$0.56
$0.56
3OpenRouter
$0.72
$0.72
4Kilo Gateway
$0.72
$0.72

Comparar precios entre diferentes proveedores de API para este modelo.

Fuentes externas