메인 콘텐츠로 건너뛰기
AITier

Llama 3.1 Instruct 405B

MetaLlamaOpen WeightLlama 3.1 Community License

설명

Llama 3.1 405B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks. The model supports 8 languages and has a 128K token context length.

출시일
2024-07-23
파라미터
405.0B
컨텍스트 길이
—
모달리티
text

능력 레이더

32
general
22
coding
23
reasoning
34
science추정
70
agents
0
multimodal

전용 과학 벤치마크가 없을 때 Science는 추론 프록시를 사용하여 추정합니다.

랭킹

도메인#순위점수소스
Code Ranking296
25.0
AA
General Ranking289
37.0
AA
Math Reasoning303
20.0
AA
Reasoning5
92.0
LS
Science293
36.0
AA

벤치마크 점수 (LLM Stats)

Biology

GPQA50.7%자체 보고

Code

HumanEval89.0%자체 보고
Gorilla Benchmark API Bench35.3%자체 보고

Finance

MMLU (CoT)88.6%자체 보고
MMLU87.3%자체 보고
MMLU-Pro73.3%자체 보고

General

ARC-C96.9%자체 보고
MBPP EvalPlus88.6%자체 보고
IFEval88.6%자체 보고
BFCL88.5%자체 보고
Multipl-E HumanEval75.2%자체 보고
Multipl-E MBPP65.7%자체 보고
Nexus58.7%자체 보고

Math

GSM8k96.8%자체 보고
Multilingual MGSM (CoT)91.6%자체 보고
DROP84.8%자체 보고
MATH73.8%자체 보고

Reasoning

API-Bank92.0%자체 보고

AA 평가 지수

Intelligence Index
17.4
Coding Index
14.5
Math Index
3.0
Mmlu Pro
0.7
Math 500
0.7
Gpqa
0.5
Ifbench
0.4
Livecodebench
0.3
Scicode
0.3
Lcr
0.2
Aime
0.2
Tau2
0.2
Terminalbench Hard
0.1
Hle
0.0
Aime 25
0.0

LLM Stats 카테고리 점수

Structured Output
90
Instruction Following
90
Math
90
Finance
80
General
80
Healthcare
80
Language
80
Legal
80
Reasoning
80
Tool Calling
70
Code
60
Biology
50
Chemistry
50
Physics
50

가격

입력 가격$2.75 / 1M tokens
출력 가격$6.5 / 1M tokens
혼합 가격 (3:1)$3.688 / 1M tokens

속도

토큰/초31.5 tokens/s
첫 토큰 지연0.69s
첫 응답 지연0.69s

사용 가능한 프로바이더

(LS 내부 단위)

프로바이더 데이터가 없습니다

외부 링크

LLM Stats