मुख्य सामग्री पर जाएं

Llama 3.2 Instruct 3B

MetaLlamaओपन वेटLlama 3.2 Community License

विवरण

Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.

रिलीज़ तिथि
2024-09-25
पैरामीटर
3.2B
संदर्भ लंबाई
131K
मोडैलिटीज़
text

क्षमता रडार

13
general
8
coding
13
reasoning
14
scienceअनुमानित
50
agents
0
multimodal

समर्पित विज्ञान बेंचमार्क उपलब्ध न होने पर Science तर्क प्रॉक्सी का उपयोग करके अनुमान लगाता है।

रैंकिंग

डोमेन#रैंकस्कोरस्रोत
कोडिंग रैंकिंग469
6.0
AA
सामान्य रैंकिंग467
17.0
AA
गणितीय तर्क332
12.0
AA
तर्क49
70.0
LS
विज्ञान490
12.0
AA

बेंचमार्क स्कोर (LLM Stats)

Biology

GPQA32.8%स्वयं

Finance

MMLU63.4%स्वयं

General

ARC-C78.6%स्वयं
IFEval77.4%स्वयं
BFCL v267.0%स्वयं
Nexus34.3%स्वयं

Language

Open-rewrite40.1%स्वयं
TLDR9+ (test)19.0%स्वयं

Long Context

NIH/Multi-needle84.7%स्वयं
InfiniteBench/En.MC63.3%स्वयं
InfiniteBench/En.QA19.8%स्वयं

Math

GSM8k77.7%स्वयं
MGSM58.2%स्वयं
MATH48.0%स्वयं

Reasoning

HellaSwag69.8%स्वयं

AA मूल्यांकन सूचकांक

Intelligence Index
4.2
Math Index
3.3
Math 500
0.5
Mmlu Pro
0.3
Ifbench
0.3
Gpqa
0.3
Tau2
0.2
Livecodebench
0.1
Aime
0.1
Hle
0.1
Scicode
0.1
Aime 25
0.0
Lcr
0.0

LLM Stats श्रेणी स्कोर

Instruction Following
80
Structured Output
80
Language
60
Legal
60
Math
60
Reasoning
60
Finance
60
General
60
Healthcare
60
Tool Calling
50
Physics
30
Biology
30
Chemistry
30

मूल्य निर्धारण

इनपुट मूल्य$0.15 / 1M टोकन
आउटपुट मूल्य$0.15 / 1M टोकन
मिश्रित मूल्य (3:1)$0.15 / 1M टोकन

गति

टोकन/सेकंड52.3
पहले टोकन में देरी0.59s
पहले उत्तर में देरी0.59s

प्रदाता मूल्य रैंकिंग

प्रदाता मूल्य रैंकिंग

11 प्रदाता

सबसे सस्ता: Chutesसबसे महंगा: Vercel AI Gateway
प्रदाताइनपुटआउटपुट
1Chutesसबसे सस्ता
$0.01
$0.0136
2Inference
$0.02
$0.02
3NovitaAI
$0.03
$0.05
4LLM Gateway
$0.03
$0.05
5NanoGPT
$0.0306
$0.0493
6Cloudflare Workers AI
$0.0509
$0.335
7Kilo Gateway
$0.051
$0.34
8Cloudflare AI Gateway
$0.051
$0.34
9Metaप्राथमिक
$0.15
$0.15
10Venice AI
$0.15
$0.6
11Vercel AI Gateway
$0.15
$0.15

इस मॉडल के लिए विभिन्न API प्रदाताओं के मूल्य निर्धारण की तुलना करें।

बाहरी लिंक