Llama 3.1 Instruct 70B
MetaLlamaOpen WeightLlama 3.1 Community License
Descripción
Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.
Fecha de lanzamiento
2024-07-23
Parámetros
70.0B
Longitud del contexto
131K
Modalidades
text
Radar de capacidades
70
general
60
coding
80
reasoning
34
scienceest.
70
agents
0
multimodal
Science se estima a partir de las puntuaciones científicas de LLM Stats o del razonamiento cuando no hay benchmarks científicos dedicados.
Rankings
No hay datos de ranking disponibles
Puntuaciones de benchmarks (LLM Stats)
(LLM Stats (zeroeval))Chat
IFEvalGoogle Research (2023)
87.5%Aut.
General
BFCL
84.8%Aut.
MMLU
83.6%Aut.
Multipl-E MBPP
62.0%Aut.
Nexus
56.7%Aut.
Language
MMLU (CoT)
86.0%Aut.
MMLU-Pro
66.4%Aut.
Multipl-E HumanEval
65.5%Aut.
Math
GSM-8K (CoT)
95.1%Aut.
Multilingual MGSM (CoT)
86.9%Aut.
MATH (CoT)
68.0%Aut.
Reasoning
ARC-C
94.8%Aut.
API-Bank
90.0%Aut.
MBPP ++ base version
86.0%Aut.
HumanEvalOpenAI (2021)
80.5%Aut.
DROP
79.6%Aut.
GPQANYU + Cohere + Anthropic (2023)
41.7%Aut.
Gorilla Benchmark API Bench
29.7%Aut.
Índices de evaluación AA
(Artificial Analysis)No hay datos de evaluación AA disponibles
Puntuaciones por categoría LLM Stats
(LLM Stats (zeroeval))Chat90
Instruction Following90
Structured Output90
Language80
Legal80
Math80
Finance80
Healthcare80
Reasoning70
General70
Tool Calling70
Code60
Physics40
Biology40
Chemistry40
Precios
Precio de entrada$0.56 / 1M tokens
Precio de salida$0.56 / 1M tokens
Precio mixto (3:1)$0.4 / 1M tokens
Velocidad
Tokens/seg18.5
Retraso del primer token2.26s
Tiempo hasta la respuesta2.26s
Ranking de Precios por Proveedor
Ranking de Precios por Proveedor
4 proveedores
Más barato: DeepInfraMás caro: Kilo Gateway
ProveedorEntradaSalida
1DeepInfraMás barato
$0.4
$0.4
2MetaPRINCIPAL
$0.56
$0.56
3OpenRouter
$0.72
$0.72
4Kilo Gateway
$0.72
$0.72
Comparar precios entre diferentes proveedores de API para este modelo.