Llama 3.1 Nemotron Instruct 70B
NVIDIALlamaओपन वेटLlama 3.1 Community License
विवरण
A large language model customized by NVIDIA to improve the helpfulness of LLM generated responses. It is a fine-tuned version of Llama 3.1 70B Instruct. The model was trained using RLHF (REINFORCE) with HelpSteer2-Preference prompts.
रिलीज़ तिथि
2024-10-15
पैरामीटर
70.0B
संदर्भ लंबाई
—
मोडैलिटीज़
—
क्षमता रडार
26
general
18
coding
27
reasoning
30
scienceअनुमानित
24
agents
0
multimodal
समर्पित विज्ञान बेंचमार्क उपलब्ध न होने पर Science तर्क प्रॉक्सी का उपयोग करके अनुमान लगाता है।
रैंकिंग
| डोमेन | #रैंक | स्कोर | स्रोत |
|---|---|---|---|
| कोडिंग रैंकिंग | 436 | 11.0 | AA |
| सामान्य रैंकिंग | 378 | 29.0 | AA |
| गणितीय तर्क | 282 | 26.0 | AA |
| तर्क | 18 | 86.0 | LS |
| विज्ञान | 373 | 30.0 | AA |
बेंचमार्क स्कोर (LLM Stats)
Communication
MT-Bench
0.09 / 100स्वयं
Finance
MMLU Chat
80.6%स्वयं
MMLU
80.2%स्वयं
TruthfulQA
58.6%स्वयं
General
Instruct HumanEval
73.8%स्वयं
ARC-C
69.2%स्वयं
Language
Winogrande
84.5%स्वयं
XLSum English
31.6%स्वयं
Math
GSM8k
91.4%स्वयं
GSM8K Chat
81.9%स्वयं
Reasoning
HellaSwag
85.6%स्वयं
AA मूल्यांकन सूचकांक
Math Index11.0
Intelligence Index7.6
Math 5000.7
Mmlu Pro0.7
Gpqa0.5
Ifbench0.3
Aime0.2
Scicode0.2
Tau20.2
Livecodebench0.2
Aime 250.1
Lcr0.1
Hle0.0
Terminalbench Hard0.0
LLM Stats श्रेणी स्कोर
Math90
Language80
Legal70
Reasoning70
Finance70
Healthcare70
General50
Roleplay10
Communication10
Creativity10
मूल्य निर्धारण
इनपुट मूल्य$1.2 / 1M टोकन
आउटपुट मूल्य$1.2 / 1M टोकन
मिश्रित मूल्य (3:1)$1.2 / 1M टोकन
गति
टोकन/सेकंड295.6
पहले टोकन में देरी4.91s
पहले उत्तर में देरी4.91s
प्रदाता मूल्य रैंकिंग
प्रदाता मूल्य रैंकिंग
2 प्रदाता
सबसे सस्ता: NanoGPTसबसे महंगा: NVIDIA
प्रदाताइनपुटआउटपुट
1NanoGPTसबसे सस्ता
$0.357
$0.408
2NVIDIAप्राथमिक
$1.2
$1.2
इस मॉडल के लिए विभिन्न API प्रदाताओं के मूल्य निर्धारण की तुलना करें।