Passer au contenu principal
AITier

Llama 3.1 Instruct 8B

MetaLlamaOpen WeightLlama 3.1 Community License

Description

Llama 3.1 8B Instruct is a multilingual large language model optimized for dialogue use cases. It features a 128K context length, state-of-the-art tool use, and strong reasoning capabilities.

Date de sortie
2024-07-23
Paramètres
8.0B
Longueur du contexte
16K
Modalités
text

Radar de capacités

22
general
8
coding
14
reasoning
17
scienceest.
50
agents
0
multimodal

Science utilise un proxy de raisonnement lorsque les benchmarks scientifiques dédiés ne sont pas disponibles.

Classements

Domaine#RangScoreSource
Code Ranking420
10.0
AA
General Ranking418
23.0
AA
Math Reasoning324
14.0
AA
Reasoning26
83.0
LS
Science435
17.0
AA

Scores de benchmarks (LLM Stats)

Biology

GPQA30.4%Aut.

Code

HumanEval72.6%Aut.
Gorilla Benchmark API Bench8.2%Aut.

Finance

MMLU (CoT)73.0%Aut.
MMLU69.4%Aut.
MMLU-Pro48.3%Aut.

General

ARC-C83.4%Aut.
IFEval80.4%Aut.
BFCL76.1%Aut.
MBPP EvalPlus (base)72.8%Aut.
Multipl-E MBPP52.4%Aut.
Multipl-E HumanEval50.8%Aut.
Nexus38.5%Aut.

Math

GSM-8K (CoT)84.5%Aut.
Multilingual MGSM (CoT)68.9%Aut.
DROP59.5%Aut.
MATH (CoT)51.9%Aut.

Reasoning

API-Bank82.6%Aut.

Indices d'évaluation AA

Intelligence Index
11.8
Coding Index
4.9
Math Index
4.3
Math 500
0.5
Mmlu Pro
0.5
Ifbench
0.3
Gpqa
0.3
Tau2
0.2
Lcr
0.2
Scicode
0.1
Livecodebench
0.1
Aime
0.1
Hle
0.1
Aime 25
0.0
Terminalbench Hard
0.0

Scores par catégorie LLM Stats

Structured Output
80
Instruction Following
80
Finance
60
General
60
Healthcare
60
Language
60
Legal
60
Math
60
Reasoning
60
Tool Calling
50
Code
40
Biology
30
Chemistry
30
Physics
30

Tarification

Prix d'entrée$0.1 / 1M tokens
Prix de sortie$0.1 / 1M tokens
Prix mixte (3:1)$0.1 / 1M tokens

Vitesse

Tokens/sec188.5 tokens/s
Délai du premier token0.47s
Temps de réponse0.47s

Fournisseurs disponibles

(Unités internes LS)

Aucune donnée de fournisseur disponible

Sources externes

LLM Stats