Llama 3.1 Instruct 8B
MetaLlamaOpen WeightLlama 3.1 Community License
Description
Llama 3.1 8B Instruct is a multilingual large language model optimized for dialogue use cases. It features a 128K context length, state-of-the-art tool use, and strong reasoning capabilities.
Date de sortie
2024-07-23
Paramètres
8.0B
Longueur du contexte
131K
Modalités
text
Radar de capacités
18
general
12
coding
14
reasoning
17
scienceest.
50
agents
0
multimodal
Science utilise un proxy de raisonnement lorsque les benchmarks scientifiques dédiés ne sont pas disponibles.
Classements
| Domaine | #Rang | Score | Source |
|---|---|---|---|
| Classement codage | 440 | 11.0 | AA |
| Classement général | 435 | 22.0 | AA |
| Raisonnement mathématique | 324 | 14.0 | AA |
| Raisonnement | 28 | 83.0 | LS |
| Science | 464 | 16.0 | AA |
Scores de benchmarks (LLM Stats)
Biology
GPQA
30.4%Aut.
Code
HumanEval
72.6%Aut.
Gorilla Benchmark API Bench
8.2%Aut.
Finance
MMLU (CoT)
73.0%Aut.
MMLU
69.4%Aut.
MMLU-Pro
48.3%Aut.
General
ARC-C
83.4%Aut.
IFEval
80.4%Aut.
BFCL
76.1%Aut.
MBPP EvalPlus (base)
72.8%Aut.
Multipl-E MBPP
52.4%Aut.
Multipl-E HumanEval
50.8%Aut.
Nexus
38.5%Aut.
Math
GSM-8K (CoT)
84.5%Aut.
Multilingual MGSM (CoT)
68.9%Aut.
DROP
59.5%Aut.
MATH (CoT)
51.9%Aut.
Reasoning
API-Bank
82.6%Aut.
Indices d'évaluation AA
Intelligence Index6.1
Math Index4.3
Math 5000.5
Mmlu Pro0.5
Ifbench0.3
Gpqa0.3
Tau20.2
Lcr0.2
Scicode0.1
Livecodebench0.1
Aime0.1
Hle0.1
Aime 250.0
Terminalbench Hard0.0
Scores par catégorie LLM Stats
Instruction Following80
Structured Output80
Language60
Legal60
Math60
Reasoning60
Finance60
General60
Healthcare60
Tool Calling50
Code40
Physics30
Biology30
Chemistry30
Tarification
Prix d'entrée$0.1 / 1M tokens
Prix de sortie$0.1 / 1M tokens
Prix mixte (3:1)$0.1 / 1M tokens
Vitesse
Tokens/sec201.0
Délai du premier token0.51s
Temps de réponse0.51s
Classement des Prix par Fournisseur
Classement des Prix par Fournisseur
23 fournisseurs
Moins cher: NanoGPTPlus cher: Azure
FournisseurEntréeSortie
1NanoGPTMoins cher
$0.02
$0.03
2Abacus
$0.02
$0.05
3OpenRouter
$0.02
$0.03
4NovitaAI
$0.02
$0.05
5Kilo Gateway
$0.02
$0.05
6Helicone
$0.02
$0.05
7Inference
$0.025
$0.025
8Groq
$0.05
$0.08
9Regolo AI
$0.05
$0.25
10MetaPRINCIPAL
$0.1
$0.1
11Poe
$0.1
$0.1
12Friendli
$0.1
$0.1
13OVHcloud AI Endpoints
$0.11
$0.11
14Cloudflare Workers AI
$0.152
$0.287
15STACKIT
$0.16
$0.27
16Synthetic
$0.2
$0.2
17Weights & Biases
$0.22
$0.22
18Amazon Bedrock
$0.22
$0.22
19Vercel AI Gateway
$0.22
$0.22
20LLM Gateway
$0.22
$0.22
21Cloudflare AI Gateway
$0.28
$0.83
22Azure Cognitive Services
$0.3
$0.61
23Azure
$0.3
$0.61
Comparer les prix entre différents fournisseurs API pour ce modèle.