跳轉到主要內容

Llama 3.1 Instruct 70B

MetaLlama開源權重Llama 3.1 Community License

描述

Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.

發布日期
2024-07-23
參數規模
70.0B
上下文長度
131K
支援模態
text

能力雷達圖

70
general
60
coding
80
reasoning
34
science估算
70
agents
0
multimodal

缺少專門科學評測時,Science 由 LLM Stats 科學得分或推理能力估算。

排行榜排名

暫無排名資料

基準測試分數 (LLM Stats)

(LLM Stats (zeroeval))

Chat

IFEvalGoogle Research (2023)87.5%自報

General

BFCL84.8%自報
MMLU83.6%自報
Multipl-E MBPP62.0%自報
Nexus56.7%自報

Language

MMLU (CoT)86.0%自報
MMLU-Pro66.4%自報
Multipl-E HumanEval65.5%自報

Math

GSM-8K (CoT)95.1%自報
Multilingual MGSM (CoT)86.9%自報
MATH (CoT)68.0%自報

Reasoning

ARC-C94.8%自報
API-Bank90.0%自報
MBPP ++ base version86.0%自報
HumanEvalOpenAI (2021)80.5%自報
DROP79.6%自報
GPQANYU + Cohere + Anthropic (2023)41.7%自報
Gorilla Benchmark API Bench29.7%自報

AA 評測指數

(Artificial Analysis)

暫無 AA 評測資料

LLM Stats 分類評分

(LLM Stats (zeroeval))
Chat
90
Instruction Following
90
Structured Output
90
Language
80
Legal
80
Math
80
Finance
80
Healthcare
80
Reasoning
70
General
70
Tool Calling
70
Code
60
Physics
40
Biology
40
Chemistry
40

定價

輸入價格$0.56 / 1M tokens
輸出價格$0.56 / 1M tokens
混合價格(3:1)$0.4 / 1M tokens

速度

Tokens/秒18.5
首Token延遲2.26s
首回答延遲2.26s

供應商價格排行

供應商價格排行

4 個供應商

最便宜: DeepInfra最貴: Kilo Gateway
供應商輸入輸出
1DeepInfra最便宜
$0.4
$0.4
2Meta主要
$0.56
$0.56
3OpenRouter
$0.72
$0.72
4Kilo Gateway
$0.72
$0.72

比較該模型在不同 API 供應商之間的定價。

外部連結