Llama 3.2 Instruct 3B
MetaLlamaओपन वेटLlama 3.2 Community License
विवरण
Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.
रिलीज़ तिथि
2024-09-25
पैरामीटर
3.2B
संदर्भ लंबाई
131K
मोडैलिटीज़
text
क्षमता रडार
13
general
8
coding
13
reasoning
14
scienceअनुमानित
50
agents
0
multimodal
समर्पित विज्ञान बेंचमार्क उपलब्ध न होने पर Science तर्क प्रॉक्सी का उपयोग करके अनुमान लगाता है।
रैंकिंग
| डोमेन | #रैंक | स्कोर | स्रोत |
|---|---|---|---|
| कोडिंग रैंकिंग | 469 | 6.0 | AA |
| सामान्य रैंकिंग | 467 | 17.0 | AA |
| गणितीय तर्क | 332 | 12.0 | AA |
| तर्क | 49 | 70.0 | LS |
| विज्ञान | 490 | 12.0 | AA |
बेंचमार्क स्कोर (LLM Stats)
Biology
GPQA
32.8%स्वयं
Finance
MMLU
63.4%स्वयं
General
ARC-C
78.6%स्वयं
IFEval
77.4%स्वयं
BFCL v2
67.0%स्वयं
Nexus
34.3%स्वयं
Language
Open-rewrite
40.1%स्वयं
TLDR9+ (test)
19.0%स्वयं
Long Context
NIH/Multi-needle
84.7%स्वयं
InfiniteBench/En.MC
63.3%स्वयं
InfiniteBench/En.QA
19.8%स्वयं
Math
GSM8k
77.7%स्वयं
MGSM
58.2%स्वयं
MATH
48.0%स्वयं
Reasoning
HellaSwag
69.8%स्वयं
AA मूल्यांकन सूचकांक
Intelligence Index4.2
Math Index3.3
Math 5000.5
Mmlu Pro0.3
Ifbench0.3
Gpqa0.3
Tau20.2
Livecodebench0.1
Aime0.1
Hle0.1
Scicode0.1
Aime 250.0
Lcr0.0
LLM Stats श्रेणी स्कोर
Instruction Following80
Structured Output80
Language60
Legal60
Math60
Reasoning60
Finance60
General60
Healthcare60
Tool Calling50
Physics30
Biology30
Chemistry30
मूल्य निर्धारण
इनपुट मूल्य$0.15 / 1M टोकन
आउटपुट मूल्य$0.15 / 1M टोकन
मिश्रित मूल्य (3:1)$0.15 / 1M टोकन
गति
टोकन/सेकंड52.3
पहले टोकन में देरी0.59s
पहले उत्तर में देरी0.59s
प्रदाता मूल्य रैंकिंग
प्रदाता मूल्य रैंकिंग
11 प्रदाता
सबसे सस्ता: Chutesसबसे महंगा: Vercel AI Gateway
प्रदाताइनपुटआउटपुट
1Chutesसबसे सस्ता
$0.01
$0.0136
2Inference
$0.02
$0.02
3NovitaAI
$0.03
$0.05
4LLM Gateway
$0.03
$0.05
5NanoGPT
$0.0306
$0.0493
6Cloudflare Workers AI
$0.0509
$0.335
7Kilo Gateway
$0.051
$0.34
8Cloudflare AI Gateway
$0.051
$0.34
9Metaप्राथमिक
$0.15
$0.15
10Venice AI
$0.15
$0.6
11Vercel AI Gateway
$0.15
$0.15
इस मॉडल के लिए विभिन्न API प्रदाताओं के मूल्य निर्धारण की तुलना करें।