Saltar al contenido principal

Llama 3.1 Instruct 8B

MetaLlamaOpen WeightLlama 3.1 Community License

Descripción

Llama 3.1 8B Instruct is a multilingual large language model optimized for dialogue use cases. It features a 128K context length, state-of-the-art tool use, and strong reasoning capabilities.

Fecha de lanzamiento
2024-07-23
Parámetros
8.0B
Longitud del contexto
131K
Modalidades
text

Radar de capacidades

60
general
40
coding
60
reasoning
26
scienceest.
50
agents
0
multimodal

Science se estima a partir de las puntuaciones científicas de LLM Stats o del razonamiento cuando no hay benchmarks científicos dedicados.

Rankings

No hay datos de ranking disponibles

Puntuaciones de benchmarks (LLM Stats)

(LLM Stats (zeroeval))

Chat

IFEvalGoogle Research (2023)80.4%Aut.

General

BFCL76.1%Aut.
MMLU69.4%Aut.
Multipl-E MBPP52.4%Aut.
Nexus38.5%Aut.

Language

MMLU (CoT)73.0%Aut.
Multipl-E HumanEval50.8%Aut.
MMLU-Pro48.3%Aut.

Math

GSM-8K (CoT)84.5%Aut.
Multilingual MGSM (CoT)68.9%Aut.
MATH (CoT)51.9%Aut.

Reasoning

ARC-C83.4%Aut.
API-Bank82.6%Aut.
MBPP EvalPlus (base)72.8%Aut.
HumanEvalOpenAI (2021)72.6%Aut.
DROP59.5%Aut.
GPQANYU + Cohere + Anthropic (2023)30.4%Aut.
Gorilla Benchmark API Bench8.2%Aut.

Índices de evaluación AA

(Artificial Analysis)

No hay datos de evaluación AA disponibles

Puntuaciones por categoría LLM Stats

(LLM Stats (zeroeval))
Chat
80
Instruction Following
80
Structured Output
80
Language
60
Legal
60
Math
60
Reasoning
60
Finance
60
General
60
Healthcare
60
Tool Calling
50
Code
40
Physics
30
Biology
30
Chemistry
30

Precios

Precio de entrada$0.035 / 1M tokens
Precio de salida$0.065 / 1M tokens
Precio mixto (3:1)$0.025 / 1M tokens

Velocidad

Tokens/seg141.3
Retraso del primer token0.87s
Tiempo hasta la respuesta0.87s

Ranking de Precios por Proveedor

Ranking de Precios por Proveedor

2 proveedores

Más barato: DeepInfraMás caro: Meta
ProveedorEntradaSalida
1DeepInfraMás barato
$0.02
$0.04
2MetaPRINCIPAL
$0.035
$0.065

Comparar precios entre diferentes proveedores de API para este modelo.

Fuentes externas