Llama 3.1 Nemotron Instruct 70B
NVIDIALlama開源權重Llama 3.1 Community License
描述
A large language model customized by NVIDIA to improve the helpfulness of LLM generated responses. It is a fine-tuned version of Llama 3.1 70B Instruct. The model was trained using RLHF (REINFORCE) with HelpSteer2-Preference prompts.
發布日期
2024-10-15
參數規模
70.0B
上下文長度
—
支援模態
—
能力雷達圖
26
general
18
coding
27
reasoning
30
science估算
24
agents
0
multimodal
Science 在缺少專門科學評測時使用推理能力代理估算。
排行榜排名
基準測試分數 (LLM Stats)
Communication
MT-Bench
0.09 / 100自報
Finance
MMLU Chat
80.6%自報
MMLU
80.2%自報
TruthfulQA
58.6%自報
General
Instruct HumanEval
73.8%自報
ARC-C
69.2%自報
Language
Winogrande
84.5%自報
XLSum English
31.6%自報
Math
GSM8k
91.4%自報
GSM8K Chat
81.9%自報
Reasoning
HellaSwag
85.6%自報
AA 評測指數
Math Index11.0
Intelligence Index7.6
Math 5000.7
Mmlu Pro0.7
Gpqa0.5
Ifbench0.3
Aime0.2
Scicode0.2
Tau20.2
Livecodebench0.2
Aime 250.1
Lcr0.1
Hle0.0
Terminalbench Hard0.0
LLM Stats 分類評分
Math90
Language80
Legal70
Reasoning70
Finance70
Healthcare70
General50
Roleplay10
Communication10
Creativity10
定價
輸入價格$1.2 / 1M tokens
輸出價格$1.2 / 1M tokens
混合價格(3:1)$1.2 / 1M tokens
速度
Tokens/秒295.6
首Token延遲4.91s
首回答延遲4.91s
供應商價格排行
供應商價格排行
2 個供應商
最便宜: NanoGPT最貴: NVIDIA
供應商輸入輸出
1NanoGPT最便宜
$0.357
$0.408
2NVIDIA主要
$1.2
$1.2
比較該模型在不同 API 供應商之間的定價。