Passer au contenu principal

Llama 3.1 Instruct 70B

MetaLlamaOpen WeightLlama 3.1 Community License

Description

Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.

Date de sortie
2024-07-23
Paramètres
70.0B
Longueur du contexte
131K
Modalités
text

Radar de capacités

70
general
60
coding
80
reasoning
34
scienceest.
70
agents
0
multimodal

Science est estimé à partir des scores scientifiques de LLM Stats ou du raisonnement lorsque les benchmarks scientifiques dédiés ne sont pas disponibles.

Classements

Aucune donnée de classement disponible

Scores de benchmarks (LLM Stats)

(LLM Stats (zeroeval))

Chat

IFEvalGoogle Research (2023)87.5%Aut.

General

BFCL84.8%Aut.
MMLU83.6%Aut.
Multipl-E MBPP62.0%Aut.
Nexus56.7%Aut.

Language

MMLU (CoT)86.0%Aut.
MMLU-Pro66.4%Aut.
Multipl-E HumanEval65.5%Aut.

Math

GSM-8K (CoT)95.1%Aut.
Multilingual MGSM (CoT)86.9%Aut.
MATH (CoT)68.0%Aut.

Reasoning

ARC-C94.8%Aut.
API-Bank90.0%Aut.
MBPP ++ base version86.0%Aut.
HumanEvalOpenAI (2021)80.5%Aut.
DROP79.6%Aut.
GPQANYU + Cohere + Anthropic (2023)41.7%Aut.
Gorilla Benchmark API Bench29.7%Aut.

Indices d'évaluation AA

(Artificial Analysis)

Aucune donnée d'évaluation AA disponible

Scores par catégorie LLM Stats

(LLM Stats (zeroeval))
Chat
90
Instruction Following
90
Structured Output
90
Language
80
Legal
80
Math
80
Finance
80
Healthcare
80
Reasoning
70
General
70
Tool Calling
70
Code
60
Physics
40
Biology
40
Chemistry
40

Tarification

Prix d'entrée$0.56 / 1M tokens
Prix de sortie$0.56 / 1M tokens
Prix mixte (3:1)$0.4 / 1M tokens

Vitesse

Tokens/sec18.5
Délai du premier token2.26s
Temps de réponse2.26s

Classement des Prix par Fournisseur

Classement des Prix par Fournisseur

4 fournisseurs

Moins cher: DeepInfraPlus cher: Kilo Gateway
FournisseurEntréeSortie
1DeepInfraMoins cher
$0.4
$0.4
2MetaPRINCIPAL
$0.56
$0.56
3OpenRouter
$0.72
$0.72
4Kilo Gateway
$0.72
$0.72

Comparer les prix entre différents fournisseurs API pour ce modèle.

Sources externes