मुख्य सामग्री पर जाएं

Llama 3.2 Instruct 3B

MetaLlamaOpen WeightLlama 3.2 Community License

विवरण

Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.

रिलीज़ तिथि
2024-09-25
पैरामीटर
3.2B
संदर्भ लंबाई
131K
मोडैलिटीज़
text

क्षमता रडार

17
general
8
coding
13
reasoning
14
scienceअनुमानित
50
agents
0
multimodal

समर्पित विज्ञान बेंचमार्क उपलब्ध न होने पर Science तर्क प्रॉक्सी का उपयोग करके अनुमान लगाता है।

रैंकिंग

डोमेन#रैंकस्कोरस्रोत
Code Ranking450
6.0
AA
General Ranking440
19.0
AA
Math Reasoning332
12.0
AA
Reasoning45
70.0
LS
Science466
12.0
AA

बेंचमार्क स्कोर (LLM Stats)

Biology

GPQA32.8%स्वयं

Finance

MMLU63.4%स्वयं

General

ARC-C78.6%स्वयं
IFEval77.4%स्वयं
BFCL v267.0%स्वयं
Nexus34.3%स्वयं

Language

Open-rewrite40.1%स्वयं
TLDR9+ (test)19.0%स्वयं

Long Context

NIH/Multi-needle84.7%स्वयं
InfiniteBench/En.MC63.3%स्वयं
InfiniteBench/En.QA19.8%स्वयं

Math

GSM8k77.7%स्वयं
MGSM58.2%स्वयं
MATH48.0%स्वयं

Reasoning

HellaSwag69.8%स्वयं

AA मूल्यांकन सूचकांक

Intelligence Index
9.7
Math Index
3.3
Math 500
0.5
Mmlu Pro
0.3
Ifbench
0.3
Gpqa
0.3
Tau2
0.2
Livecodebench
0.1
Aime
0.1
Hle
0.1
Scicode
0.1
Aime 25
0.0
Lcr
0.0

LLM Stats श्रेणी स्कोर

Structured Output
80
Instruction Following
80
Finance
60
General
60
Healthcare
60
Language
60
Legal
60
Math
60
Reasoning
60
Tool Calling
50
Biology
30
Chemistry
30
Physics
30

मूल्य निर्धारण

इनपुट मूल्य$0.15 / 1M tokens
आउटपुट मूल्य$0.15 / 1M tokens
मिश्रित मूल्य (3:1)$0.15 / 1M tokens

गति

टोकन/सेकंड52.1 tokens/s
पहले टोकन में देरी0.68s
पहले उत्तर में देरी0.68s

उपलब्ध प्रदाता

(LS आंतरिक इकाइयाँ)

कोई प्रदाता डेटा उपलब्ध नहीं

बाहरी लिंक