메인 콘텐츠로 건너뛰기

Llama 3.1 Nemotron Instruct 70B

NVIDIALlama오픈 웨이트Llama 3.1 Community License

설명

A large language model customized by NVIDIA to improve the helpfulness of LLM generated responses. It is a fine-tuned version of Llama 3.1 70B Instruct. The model was trained using RLHF (REINFORCE) with HelpSteer2-Preference prompts.

출시일
2024-10-15
파라미터
70.0B
컨텍스트 길이
모달리티

능력 레이더

26
general
18
coding
27
reasoning
30
science추정
24
agents
0
multimodal

전용 과학 벤치마크가 없을 때 Science는 추론 프록시를 사용하여 추정합니다.

랭킹

도메인#순위점수소스
코딩 랭킹436
11.0
AA
종합 랭킹378
29.0
AA
수학 추론282
26.0
AA
추론18
86.0
LS
과학373
30.0
AA

벤치마크 점수 (LLM Stats)

Communication

MT-Bench0.09 / 100자체 보고

Finance

MMLU Chat80.6%자체 보고
MMLU80.2%자체 보고
TruthfulQA58.6%자체 보고

General

Instruct HumanEval73.8%자체 보고
ARC-C69.2%자체 보고

Language

Winogrande84.5%자체 보고
XLSum English31.6%자체 보고

Math

GSM8k91.4%자체 보고
GSM8K Chat81.9%자체 보고

Reasoning

HellaSwag85.6%자체 보고

AA 평가 지수

Math Index
11.0
Intelligence Index
7.6
Math 500
0.7
Mmlu Pro
0.7
Gpqa
0.5
Ifbench
0.3
Aime
0.2
Scicode
0.2
Tau2
0.2
Livecodebench
0.2
Aime 25
0.1
Lcr
0.1
Hle
0.0
Terminalbench Hard
0.0

LLM Stats 카테고리 점수

Math
90
Language
80
Legal
70
Reasoning
70
Finance
70
Healthcare
70
General
50
Roleplay
10
Communication
10
Creativity
10

가격

입력 가격$1.2 / 1M 토큰
출력 가격$1.2 / 1M 토큰
혼합 가격 (3:1)$1.2 / 1M 토큰

속도

토큰/초295.6
첫 토큰 지연4.91s
첫 응답 지연4.91s

공급자 가격 순위

공급자 가격 순위

2개 공급자

최저가: NanoGPT최고가: NVIDIA
공급자입력출력
1NanoGPT최저가
$0.357
$0.408
2NVIDIA주요
$1.2
$1.2

이 모델의 다양한 API 공급자 간 가격 비교.

외부 링크