Llama 3.1 Instruct 70B
MetaLlama開源權重Llama 3.1 Community License
描述
Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.
發布日期
2024-07-23
參數規模
70.0B
上下文長度
131K
支援模態
text
能力雷達圖
25
general
24
coding
20
reasoning
29
science估算
70
agents
0
multimodal
Science 在缺少專門科學評測時使用推理能力代理估算。
排行榜排名
基準測試分數 (LLM Stats)
Biology
GPQA
41.7%自報
Code
HumanEval
80.5%自報
Gorilla Benchmark API Bench
29.7%自報
Finance
MMLU (CoT)
86.0%自報
MMLU
83.6%自報
MMLU-Pro
66.4%自報
General
ARC-C
94.8%自報
IFEval
87.5%自報
MBPP ++ base version
86.0%自報
BFCL
84.8%自報
Multipl-E HumanEval
65.5%自報
Multipl-E MBPP
62.0%自報
Nexus
56.7%自報
Math
GSM-8K (CoT)
95.1%自報
Multilingual MGSM (CoT)
86.9%自報
DROP
79.6%自報
MATH (CoT)
68.0%自報
Reasoning
API-Bank
90.0%自報
AA 評測指數
Intelligence Index6.8
Math Index4.0
Mmlu Pro0.7
Math 5000.6
Gpqa0.4
Ifbench0.3
Scicode0.3
Livecodebench0.2
Aime0.2
Tau20.2
Lcr0.1
Hle0.0
Aime 250.0
Terminalbench Hard0.0
LLM Stats 分類評分
Instruction Following90
Structured Output90
Language80
Legal80
Math80
Finance80
Healthcare80
Reasoning70
General70
Tool Calling70
Code60
Physics40
Biology40
Chemistry40
定價
輸入價格$0.56 / 1M tokens
輸出價格$0.56 / 1M tokens
混合價格(3:1)$0.56 / 1M tokens
速度
Tokens/秒36.8
首Token延遲0.57s
首回答延遲0.57s
供應商價格排行
供應商價格排行
9 個供應商
最便宜: OpenRouter最貴: Azure
供應商輸入輸出
1OpenRouter最便宜
$0.4
$0.4
2Kilo Gateway
$0.4
$0.4
3Meta主要
$0.56
$0.56
4Vercel AI Gateway
$0.72
$0.72
5LLM Gateway
$0.72
$0.72
6Weights & Biases
$0.8
$0.8
7Synthetic
$0.9
$0.9
8Azure Cognitive Services
$2.68
$3.54
9Azure
$2.68
$3.54
比較該模型在不同 API 供應商之間的定價。