Llama 3.1 Instruct 405B
MetaLlamaओपन वेटLlama 3.1 Community License
विवरण
Llama 3.1 405B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks. The model supports 8 languages and has a 128K token context length.
रिलीज़ तिथि
2024-07-23
पैरामीटर
405.0B
संदर्भ लंबाई
—
मोडैलिटीज़
text
क्षमता रडार
27
general
30
coding
23
reasoning
34
scienceअनुमानित
70
agents
0
multimodal
समर्पित विज्ञान बेंचमार्क उपलब्ध न होने पर Science तर्क प्रॉक्सी का उपयोग करके अनुमान लगाता है।
रैंकिंग
| डोमेन | #रैंक | स्कोर | स्रोत |
|---|---|---|---|
| कोडिंग रैंकिंग | 323 | 25.0 | AA |
| सामान्य रैंकिंग | 327 | 33.0 | AA |
| गणितीय तर्क | 303 | 20.0 | AA |
| तर्क | 5 | 92.0 | LS |
| विज्ञान | 318 | 35.0 | AA |
बेंचमार्क स्कोर (LLM Stats)
Biology
GPQA
50.7%स्वयं
Code
HumanEval
89.0%स्वयं
Gorilla Benchmark API Bench
35.3%स्वयं
Finance
MMLU (CoT)
88.6%स्वयं
MMLU
87.3%स्वयं
MMLU-Pro
73.3%स्वयं
General
ARC-C
96.9%स्वयं
MBPP EvalPlus
88.6%स्वयं
IFEval
88.6%स्वयं
BFCL
88.5%स्वयं
Multipl-E HumanEval
75.2%स्वयं
Multipl-E MBPP
65.7%स्वयं
Nexus
58.7%स्वयं
Math
GSM8k
96.8%स्वयं
Multilingual MGSM (CoT)
91.6%स्वयं
DROP
84.8%स्वयं
MATH
73.8%स्वयं
Reasoning
API-Bank
92.0%स्वयं
AA मूल्यांकन सूचकांक
Intelligence Index8.5
Math Index3.0
Mmlu Pro0.7
Math 5000.7
Gpqa0.5
Ifbench0.4
Livecodebench0.3
Scicode0.3
Lcr0.2
Aime0.2
Tau20.2
Terminalbench Hard0.1
Hle0.0
Aime 250.0
LLM Stats श्रेणी स्कोर
Instruction Following90
Math90
Structured Output90
Language80
Legal80
Reasoning80
Finance80
General80
Healthcare80
Tool Calling70
Code60
Physics50
Biology50
Chemistry50
मूल्य निर्धारण
इनपुट मूल्य$2.75 / 1M टोकन
आउटपुट मूल्य$6.5 / 1M टोकन
मिश्रित मूल्य (3:1)$3.688 / 1M टोकन
गति
टोकन/सेकंड60.6
पहले टोकन में देरी0.68s
पहले उत्तर में देरी0.68s
प्रदाता मूल्य रैंकिंग
प्रदाता मूल्य रैंकिंग
7 प्रदाता
सबसे सस्ता: Kilo Gatewayसबसे महंगा: Azure
प्रदाताइनपुटआउटपुट
1Kilo Gatewayसबसे सस्ता
$1
$1
2Venice AI
$1.1
$3
3Metaप्राथमिक
$2.75
$6.5
4Synthetic
$3
$3
5Abacus
$3.5
$3.5
6Azure Cognitive Services
$5.33
$16
7Azure
$5.33
$16
इस मॉडल के लिए विभिन्न API प्रदाताओं के मूल्य निर्धारण की तुलना करें।