跳轉到主要內容

Llama 3.2 Instruct 3B

MetaLlamaOpen WeightLlama 3.2 Community License

描述

Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.

發布日期
2024-09-25
參數規模
3.2B
上下文長度
131K
支援模態
text

能力雷達圖

17
general
8
coding
13
reasoning
14
science估算
50
agents
0
multimodal

Science 在缺少專門科學評測時使用推理能力代理估算。

排行榜排名

領域#排名分數來源
代码能力榜450
6.0
AA
通用能力榜440
19.0
AA
数学推理332
12.0
AA
推理能力45
70.0
LS
科学能力466
12.0
AA

基準測試分數 (LLM Stats)

Biology

GPQA32.8%自報

Finance

MMLU63.4%自報

General

ARC-C78.6%自報
IFEval77.4%自報
BFCL v267.0%自報
Nexus34.3%自報

Language

Open-rewrite40.1%自報
TLDR9+ (test)19.0%自報

Long Context

NIH/Multi-needle84.7%自報
InfiniteBench/En.MC63.3%自報
InfiniteBench/En.QA19.8%自報

Math

GSM8k77.7%自報
MGSM58.2%自報
MATH48.0%自報

Reasoning

HellaSwag69.8%自報

AA 評測指數

Intelligence Index
9.7
Math Index
3.3
Math 500
0.5
Mmlu Pro
0.3
Ifbench
0.3
Gpqa
0.3
Tau2
0.2
Livecodebench
0.1
Aime
0.1
Hle
0.1
Scicode
0.1
Aime 25
0.0
Lcr
0.0

LLM Stats 分類評分

Structured Output
80
Instruction Following
80
Finance
60
General
60
Healthcare
60
Language
60
Legal
60
Math
60
Reasoning
60
Tool Calling
50
Biology
30
Chemistry
30
Physics
30

定價

輸入價格$0.15 / 1M tokens
輸出價格$0.15 / 1M tokens
混合價格(3:1)$0.15 / 1M tokens

速度

Tokens/秒52.1 tokens/s
首Token延遲0.68s
首回答延遲0.68s

可用提供商

(LS 內部計價單位)

暫無提供商資料

外部連結