跳轉到主要內容
AITier

Llama 3.1 Nemotron Instruct 70B

NVIDIALlamaOpen WeightLlama 3.1 Community License

描述

A large language model customized by NVIDIA to improve the helpfulness of LLM generated responses. It is a fine-tuned version of Llama 3.1 70B Instruct. The model was trained using RLHF (REINFORCE) with HelpSteer2-Preference prompts.

發布日期
2024-10-15
參數規模
70.0B
上下文長度
131K
支援模態
text

能力雷達圖

29
general
14
coding
27
reasoning
30
science估算
0
agents
0
multimodal

Science 在缺少專門科學評測時使用推理能力代理估算。

排行榜排名

領域#排名分數來源
代码能力榜391
14.0
AA
通用能力榜355
31.0
AA
数学推理282
26.0
AA
推理能力18
86.0
LS
科学能力346
31.0
AA

基準測試分數 (LLM Stats)

Communication

MT-Bench0.09 / 100自報

Finance

MMLU Chat80.6%自報
MMLU80.2%自報
TruthfulQA58.6%自報

General

Instruct HumanEval73.8%自報
ARC-C69.2%自報

Language

Winogrande84.5%自報
XLSum English31.6%自報

Math

GSM8k91.4%自報
GSM8K Chat81.9%自報

Reasoning

HellaSwag85.6%自報

AA 評測指數

Intelligence Index
13.4
Math Index
11.0
Coding Index
10.8
Math 500
0.7
Mmlu Pro
0.7
Gpqa
0.5
Ifbench
0.3
Aime
0.2
Scicode
0.2
Tau2
0.2
Livecodebench
0.2
Aime 25
0.1
Lcr
0.1
Hle
0.0
Terminalbench Hard
0.0

LLM Stats 分類評分

Math
90
Language
80
Finance
70
Healthcare
70
Legal
70
Reasoning
70
General
50
Communication
10
Creativity
10
Roleplay
10

定價

輸入價格$1.2 / 1M tokens
輸出價格$1.2 / 1M tokens
混合價格(3:1)$1.2 / 1M tokens

速度

Tokens/秒38.1 tokens/s
首Token延遲0.34s
首回答延遲0.34s

可用提供商

(LS 內部計價單位)

暫無提供商資料

外部連結

LLM Stats