Llama 3.1 Instruct 70B
MetaLlamaOpen WeightLlama 3.1 Community License
Description
Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.
Date de sortie
2024-07-23
Paramètres
70.0B
Longueur du contexte
131K
Modalités
text
Radar de capacités
70
general
60
coding
80
reasoning
34
scienceest.
70
agents
0
multimodal
Science est estimé à partir des scores scientifiques de LLM Stats ou du raisonnement lorsque les benchmarks scientifiques dédiés ne sont pas disponibles.
Classements
Aucune donnée de classement disponible
Scores de benchmarks (LLM Stats)
(LLM Stats (zeroeval))Chat
IFEvalGoogle Research (2023)
87.5%Aut.
General
BFCL
84.8%Aut.
MMLU
83.6%Aut.
Multipl-E MBPP
62.0%Aut.
Nexus
56.7%Aut.
Language
MMLU (CoT)
86.0%Aut.
MMLU-Pro
66.4%Aut.
Multipl-E HumanEval
65.5%Aut.
Math
GSM-8K (CoT)
95.1%Aut.
Multilingual MGSM (CoT)
86.9%Aut.
MATH (CoT)
68.0%Aut.
Reasoning
ARC-C
94.8%Aut.
API-Bank
90.0%Aut.
MBPP ++ base version
86.0%Aut.
HumanEvalOpenAI (2021)
80.5%Aut.
DROP
79.6%Aut.
GPQANYU + Cohere + Anthropic (2023)
41.7%Aut.
Gorilla Benchmark API Bench
29.7%Aut.
Indices d'évaluation AA
(Artificial Analysis)Aucune donnée d'évaluation AA disponible
Scores par catégorie LLM Stats
(LLM Stats (zeroeval))Chat90
Instruction Following90
Structured Output90
Language80
Legal80
Math80
Finance80
Healthcare80
Reasoning70
General70
Tool Calling70
Code60
Physics40
Biology40
Chemistry40
Tarification
Prix d'entrée$0.56 / 1M tokens
Prix de sortie$0.56 / 1M tokens
Prix mixte (3:1)$0.4 / 1M tokens
Vitesse
Tokens/sec18.5
Délai du premier token2.26s
Temps de réponse2.26s
Classement des Prix par Fournisseur
Classement des Prix par Fournisseur
4 fournisseurs
Moins cher: DeepInfraPlus cher: Kilo Gateway
FournisseurEntréeSortie
1DeepInfraMoins cher
$0.4
$0.4
2MetaPRINCIPAL
$0.56
$0.56
3OpenRouter
$0.72
$0.72
4Kilo Gateway
$0.72
$0.72
Comparer les prix entre différents fournisseurs API pour ce modèle.