跳转到主要内容

Llama 3.1 Instruct 70B

MetaLlamaOpen WeightLlama 3.1 Community License

描述

Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.

发布日期
2024-07-23
参数规模
70.0B
上下文长度
131K
支持模态
text

能力雷达图

28
general
17
coding
20
reasoning
29
science估算
70
agents
0
multimodal

Science 在缺少专门科学评测时使用推理能力代理估算。

排行榜排名

领域#排名分数来源
代码能力榜385
15.0
AA
通用能力榜367
30.0
AA
数学推理306
19.0
AA
推理能力10
90.0
LS
科学能力357
30.0
AA

基准测试分数 (LLM Stats)

Biology

GPQA41.7%自报

Code

HumanEval80.5%自报
Gorilla Benchmark API Bench29.7%自报

Finance

MMLU (CoT)86.0%自报
MMLU83.6%自报
MMLU-Pro66.4%自报

General

ARC-C94.8%自报
IFEval87.5%自报
MBPP ++ base version86.0%自报
BFCL84.8%自报
Multipl-E HumanEval65.5%自报
Multipl-E MBPP62.0%自报
Nexus56.7%自报

Math

GSM-8K (CoT)95.1%自报
Multilingual MGSM (CoT)86.9%自报
DROP79.6%自报
MATH (CoT)68.0%自报

Reasoning

API-Bank90.0%自报

AA 评测指数

Intelligence Index
12.5
Coding Index
10.9
Math Index
4.0
Mmlu Pro
0.7
Math 500
0.6
Gpqa
0.4
Ifbench
0.3
Scicode
0.3
Livecodebench
0.2
Aime
0.2
Tau2
0.2
Lcr
0.1
Hle
0.0
Aime 25
0.0
Terminalbench Hard
0.0

LLM Stats 分类评分

Structured Output
90
Instruction Following
90
Finance
80
Healthcare
80
Language
80
Legal
80
Math
80
Tool Calling
70
General
70
Reasoning
70
Code
60
Biology
40
Chemistry
40
Physics
40

定价

输入价格$0.56 / 1M tokens
输出价格$0.56 / 1M tokens
混合价格(3:1)$0.56 / 1M tokens

速度

Tokens/秒33.0 tokens/s
首Token延迟0.62s
首回答延迟0.62s

可用提供商

(LS 内部计价单位)

暂无提供商数据

外部链接