मुख्य सामग्री पर जाएं

Llama 3.1 Instruct 405B

MetaLlamaओपन वेटLlama 3.1 Community License

विवरण

Llama 3.1 405B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks. The model supports 8 languages and has a 128K token context length.

रिलीज़ तिथि
2024-07-23
पैरामीटर
405.0B
संदर्भ लंबाई
मोडैलिटीज़
text

क्षमता रडार

27
general
30
coding
23
reasoning
34
scienceअनुमानित
70
agents
0
multimodal

समर्पित विज्ञान बेंचमार्क उपलब्ध न होने पर Science तर्क प्रॉक्सी का उपयोग करके अनुमान लगाता है।

रैंकिंग

डोमेन#रैंकस्कोरस्रोत
कोडिंग रैंकिंग323
25.0
AA
सामान्य रैंकिंग327
33.0
AA
गणितीय तर्क303
20.0
AA
तर्क5
92.0
LS
विज्ञान318
35.0
AA

बेंचमार्क स्कोर (LLM Stats)

Biology

GPQA50.7%स्वयं

Code

HumanEval89.0%स्वयं
Gorilla Benchmark API Bench35.3%स्वयं

Finance

MMLU (CoT)88.6%स्वयं
MMLU87.3%स्वयं
MMLU-Pro73.3%स्वयं

General

ARC-C96.9%स्वयं
MBPP EvalPlus88.6%स्वयं
IFEval88.6%स्वयं
BFCL88.5%स्वयं
Multipl-E HumanEval75.2%स्वयं
Multipl-E MBPP65.7%स्वयं
Nexus58.7%स्वयं

Math

GSM8k96.8%स्वयं
Multilingual MGSM (CoT)91.6%स्वयं
DROP84.8%स्वयं
MATH73.8%स्वयं

Reasoning

API-Bank92.0%स्वयं

AA मूल्यांकन सूचकांक

Intelligence Index
8.5
Math Index
3.0
Mmlu Pro
0.7
Math 500
0.7
Gpqa
0.5
Ifbench
0.4
Livecodebench
0.3
Scicode
0.3
Lcr
0.2
Aime
0.2
Tau2
0.2
Terminalbench Hard
0.1
Hle
0.0
Aime 25
0.0

LLM Stats श्रेणी स्कोर

Instruction Following
90
Math
90
Structured Output
90
Language
80
Legal
80
Reasoning
80
Finance
80
General
80
Healthcare
80
Tool Calling
70
Code
60
Physics
50
Biology
50
Chemistry
50

मूल्य निर्धारण

इनपुट मूल्य$2.75 / 1M टोकन
आउटपुट मूल्य$6.5 / 1M टोकन
मिश्रित मूल्य (3:1)$3.688 / 1M टोकन

गति

टोकन/सेकंड60.6
पहले टोकन में देरी0.68s
पहले उत्तर में देरी0.68s

प्रदाता मूल्य रैंकिंग

प्रदाता मूल्य रैंकिंग

7 प्रदाता

सबसे सस्ता: Kilo Gatewayसबसे महंगा: Azure
प्रदाताइनपुटआउटपुट
1Kilo Gatewayसबसे सस्ता
$1
$1
2Venice AI
$1.1
$3
3Metaप्राथमिक
$2.75
$6.5
4Synthetic
$3
$3
5Abacus
$3.5
$3.5
6Azure Cognitive Services
$5.33
$16
7Azure
$5.33
$16

इस मॉडल के लिए विभिन्न API प्रदाताओं के मूल्य निर्धारण की तुलना करें।

बाहरी लिंक