Llama 3.1 Instruct 8B
MetaLlamaओपन वेटLlama 3.1 Community License
विवरण
Llama 3.1 8B Instruct is a multilingual large language model optimized for dialogue use cases. It features a 128K context length, state-of-the-art tool use, and strong reasoning capabilities.
रिलीज़ तिथि
2024-07-23
पैरामीटर
8.0B
संदर्भ लंबाई
131K
मोडैलिटीज़
text
क्षमता रडार
18
general
12
coding
14
reasoning
17
scienceअनुमानित
50
agents
0
multimodal
समर्पित विज्ञान बेंचमार्क उपलब्ध न होने पर Science तर्क प्रॉक्सी का उपयोग करके अनुमान लगाता है।
रैंकिंग
| डोमेन | #रैंक | स्कोर | स्रोत |
|---|---|---|---|
| कोडिंग रैंकिंग | 440 | 11.0 | AA |
| सामान्य रैंकिंग | 435 | 22.0 | AA |
| गणितीय तर्क | 324 | 14.0 | AA |
| तर्क | 28 | 83.0 | LS |
| विज्ञान | 464 | 16.0 | AA |
बेंचमार्क स्कोर (LLM Stats)
Biology
GPQA
30.4%स्वयं
Code
HumanEval
72.6%स्वयं
Gorilla Benchmark API Bench
8.2%स्वयं
Finance
MMLU (CoT)
73.0%स्वयं
MMLU
69.4%स्वयं
MMLU-Pro
48.3%स्वयं
General
ARC-C
83.4%स्वयं
IFEval
80.4%स्वयं
BFCL
76.1%स्वयं
MBPP EvalPlus (base)
72.8%स्वयं
Multipl-E MBPP
52.4%स्वयं
Multipl-E HumanEval
50.8%स्वयं
Nexus
38.5%स्वयं
Math
GSM-8K (CoT)
84.5%स्वयं
Multilingual MGSM (CoT)
68.9%स्वयं
DROP
59.5%स्वयं
MATH (CoT)
51.9%स्वयं
Reasoning
API-Bank
82.6%स्वयं
AA मूल्यांकन सूचकांक
Intelligence Index6.1
Math Index4.3
Math 5000.5
Mmlu Pro0.5
Ifbench0.3
Gpqa0.3
Tau20.2
Lcr0.2
Scicode0.1
Livecodebench0.1
Aime0.1
Hle0.1
Aime 250.0
Terminalbench Hard0.0
LLM Stats श्रेणी स्कोर
Instruction Following80
Structured Output80
Language60
Legal60
Math60
Reasoning60
Finance60
General60
Healthcare60
Tool Calling50
Code40
Physics30
Biology30
Chemistry30
मूल्य निर्धारण
इनपुट मूल्य$0.1 / 1M टोकन
आउटपुट मूल्य$0.1 / 1M टोकन
मिश्रित मूल्य (3:1)$0.1 / 1M टोकन
गति
टोकन/सेकंड201.0
पहले टोकन में देरी0.51s
पहले उत्तर में देरी0.51s
प्रदाता मूल्य रैंकिंग
प्रदाता मूल्य रैंकिंग
23 प्रदाता
सबसे सस्ता: NanoGPTसबसे महंगा: Azure
प्रदाताइनपुटआउटपुट
1NanoGPTसबसे सस्ता
$0.02
$0.03
2Abacus
$0.02
$0.05
3OpenRouter
$0.02
$0.03
4NovitaAI
$0.02
$0.05
5Kilo Gateway
$0.02
$0.05
6Helicone
$0.02
$0.05
7Inference
$0.025
$0.025
8Groq
$0.05
$0.08
9Regolo AI
$0.05
$0.25
10Metaप्राथमिक
$0.1
$0.1
11Poe
$0.1
$0.1
12Friendli
$0.1
$0.1
13OVHcloud AI Endpoints
$0.11
$0.11
14Cloudflare Workers AI
$0.152
$0.287
15STACKIT
$0.16
$0.27
16Synthetic
$0.2
$0.2
17Weights & Biases
$0.22
$0.22
18Amazon Bedrock
$0.22
$0.22
19Vercel AI Gateway
$0.22
$0.22
20LLM Gateway
$0.22
$0.22
21Cloudflare AI Gateway
$0.28
$0.83
22Azure Cognitive Services
$0.3
$0.61
23Azure
$0.3
$0.61
इस मॉडल के लिए विभिन्न API प्रदाताओं के मूल्य निर्धारण की तुलना करें।