मुख्य सामग्री पर जाएं

Llama 3.1 Instruct 70B

MetaLlamaओपन वेटLlama 3.1 Community License

विवरण

Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.

रिलीज़ तिथि
2024-07-23
पैरामीटर
70.0B
संदर्भ लंबाई
131K
मोडैलिटीज़
text

क्षमता रडार

25
general
24
coding
20
reasoning
29
scienceअनुमानित
70
agents
0
multimodal

समर्पित विज्ञान बेंचमार्क उपलब्ध न होने पर Science तर्क प्रॉक्सी का उपयोग करके अनुमान लगाता है।

रैंकिंग

डोमेन#रैंकस्कोरस्रोत
कोडिंग रैंकिंग422
13.0
AA
सामान्य रैंकिंग393
28.0
AA
गणितीय तर्क306
19.0
AA
तर्क10
90.0
LS
विज्ञान381
29.0
AA

बेंचमार्क स्कोर (LLM Stats)

Biology

GPQA41.7%स्वयं

Code

HumanEval80.5%स्वयं
Gorilla Benchmark API Bench29.7%स्वयं

Finance

MMLU (CoT)86.0%स्वयं
MMLU83.6%स्वयं
MMLU-Pro66.4%स्वयं

General

ARC-C94.8%स्वयं
IFEval87.5%स्वयं
MBPP ++ base version86.0%स्वयं
BFCL84.8%स्वयं
Multipl-E HumanEval65.5%स्वयं
Multipl-E MBPP62.0%स्वयं
Nexus56.7%स्वयं

Math

GSM-8K (CoT)95.1%स्वयं
Multilingual MGSM (CoT)86.9%स्वयं
DROP79.6%स्वयं
MATH (CoT)68.0%स्वयं

Reasoning

API-Bank90.0%स्वयं

AA मूल्यांकन सूचकांक

Intelligence Index
6.8
Math Index
4.0
Mmlu Pro
0.7
Math 500
0.6
Gpqa
0.4
Ifbench
0.3
Scicode
0.3
Livecodebench
0.2
Aime
0.2
Tau2
0.2
Lcr
0.1
Hle
0.0
Aime 25
0.0
Terminalbench Hard
0.0

LLM Stats श्रेणी स्कोर

Instruction Following
90
Structured Output
90
Language
80
Legal
80
Math
80
Finance
80
Healthcare
80
Reasoning
70
General
70
Tool Calling
70
Code
60
Physics
40
Biology
40
Chemistry
40

मूल्य निर्धारण

इनपुट मूल्य$0.56 / 1M टोकन
आउटपुट मूल्य$0.56 / 1M टोकन
मिश्रित मूल्य (3:1)$0.56 / 1M टोकन

गति

टोकन/सेकंड36.8
पहले टोकन में देरी0.57s
पहले उत्तर में देरी0.57s

प्रदाता मूल्य रैंकिंग

प्रदाता मूल्य रैंकिंग

9 प्रदाता

सबसे सस्ता: OpenRouterसबसे महंगा: Azure
प्रदाताइनपुटआउटपुट
1OpenRouterसबसे सस्ता
$0.4
$0.4
2Kilo Gateway
$0.4
$0.4
3Metaप्राथमिक
$0.56
$0.56
4Vercel AI Gateway
$0.72
$0.72
5LLM Gateway
$0.72
$0.72
6Weights & Biases
$0.8
$0.8
7Synthetic
$0.9
$0.9
8Azure Cognitive Services
$2.68
$3.54
9Azure
$2.68
$3.54

इस मॉडल के लिए विभिन्न API प्रदाताओं के मूल्य निर्धारण की तुलना करें।

बाहरी लिंक