Llama 3.1 Nemotron Instruct 70B
NVIDIALlamaОткрытые весаLlama 3.1 Community License
Описание
A large language model customized by NVIDIA to improve the helpfulness of LLM generated responses. It is a fine-tuned version of Llama 3.1 70B Instruct. The model was trained using RLHF (REINFORCE) with HelpSteer2-Preference prompts.
Дата выхода
2024-10-15
Параметры
70.0B
Длина контекста
128K
Модальности
text
Радар способностей
25
general
18
coding
27
reasoning
30
science
24
agents
0
multimodal
Рейтинги
| Домен | #Место | Оценка | Источник |
|---|---|---|---|
| Рейтинг кодинга | 494 | 11.0 | AA |
| Общий рейтинг | 429 | 29.0 | AA |
| Наука | 436 | 29.0 | AA |
Оценки бенчмарков (LLM Stats)
(LLM Stats (zeroeval))Communication
MT-Bench
0.09 / 100Сам.
Finance
MMLU Chat
80.6%Сам.
MMLU
80.2%Сам.
TruthfulQA
58.6%Сам.
General
Instruct HumanEval
73.8%Сам.
ARC-C
69.2%Сам.
Language
Winogrande
84.5%Сам.
XLSum English
31.6%Сам.
Math
GSM8k
91.4%Сам.
GSM8K Chat
81.9%Сам.
Reasoning
HellaSwagAI2 (2019)
85.6%Сам.
Индексы оценки AA
(Artificial Analysis)Math Index(Artificial Analysis)11.0
Intelligence Index(Artificial Analysis)7.4
Math 500(OpenAI (2024), subset of Hendrycks et al. MATH (2021))0.7
Mmlu Pro(TIGER-Lab (Univ. of Waterloo, Toronto, CMU, 2024))0.7
Gpqa(NYU + Cohere + Anthropic (2023))0.5
Ifbench(Google Research (2023))0.3
Aime(MAA (Mathematical Association of America))0.2
Scicode(UIUC + Argonne National Lab (2024))0.2
Tau2(Sierra + U Toronto + Vector Institute (2025))0.2
Livecodebench(UC Berkeley + MIT + Cornell (2024))0.2
Aime 25(MAA (Mathematical Association of America))0.1
Lcr(Artificial Analysis)0.1
Terminalbench Hard(Stanford × Laude Institute (2026))0.0
Hle(Center for AI Safety + Scale AI (2025))0.0
Оценки категорий LLM Stats
(LLM Stats (zeroeval))Math90
Language80
Legal70
Reasoning70
Finance70
General70
Healthcare70
Roleplay10
Communication10
Creativity10
Цены
Цена ввода$1.2 / 1M токенов
Цена вывода$1.2 / 1M токенов
Смешанная цена (3:1)$1.2 / 1M токенов
Скорость
Токенов/сек80.6
Задержка первого токена4.82s
Время до первого ответа4.82s
Рейтинг цен провайдеров
Рейтинг цен провайдеров
1 провайдеров
ПровайдерВводВывод
1NVIDIAОсновной
$1.2
$1.2
Сравнение цен разных API-провайдеров для этой модели.