Passer au contenu principal

Llama 3.2 Instruct 3B

MetaLlamaOpen WeightLlama 3.2 Community License

Description

Llama 3.2 3B Instruct is a large language model that supports a context length of 128K tokens and are state-of-the-art in their class for on-device use cases like summarization, instruction following, and rewriting tasks running locally at the edge.

Date de sortie
2024-09-25
Paramètres
3.2B
Longueur du contexte
131K
Modalités
text

Radar de capacités

60
general
0
coding
60
reasoning
26
scienceest.
50
agents
0
multimodal

Science est estimé à partir des scores scientifiques de LLM Stats ou du raisonnement lorsque les benchmarks scientifiques dédiés ne sont pas disponibles.

Classements

Aucune donnée de classement disponible

Scores de benchmarks (LLM Stats)

(LLM Stats (zeroeval))

Chat

IFEvalGoogle Research (2023)77.4%Aut.

General

BFCL v267.0%Aut.
MMLU63.4%Aut.
Nexus34.3%Aut.

Language

Open-rewrite40.1%Aut.

Long Context

NIH/Multi-needle84.7%Aut.
InfiniteBench/En.MC63.3%Aut.
InfiniteBench/En.QA19.8%Aut.

Math

GSM8k77.7%Aut.
MGSM58.2%Aut.
MATH48.0%Aut.

Reasoning

ARC-C78.6%Aut.
HellaSwagAI2 (2019)69.8%Aut.
GPQANYU + Cohere + Anthropic (2023)32.8%Aut.

Summarization

TLDR9+ (test)19.0%Aut.

Indices d'évaluation AA

(Artificial Analysis)

Aucune donnée d'évaluation AA disponible

Scores par catégorie LLM Stats

(LLM Stats (zeroeval))
Chat
80
Instruction Following
80
Structured Output
80
Language
60
Legal
60
Math
60
Reasoning
60
Finance
60
General
60
Healthcare
60
Tool Calling
50
Physics
30
Biology
30
Chemistry
30

Tarification

Prix d'entrée$0.0509 / 1M tokens
Prix de sortie$0.335 / 1M tokens
Prix mixte (3:1)$0.12193 / 1M tokens

Vitesse

Aucune donnée de vitesse disponible

Classement des Prix par Fournisseur

Classement des Prix par Fournisseur

4 fournisseurs

Moins cher: NanoGPTPlus cher: OpenRouter
FournisseurEntréeSortie
1NanoGPTMoins cher
$0.05
$0.33
2Kilo Gateway
$0.05
$0.33
3MetaPRINCIPAL
$0.0509
$0.335
4OpenRouter
$0.0509
$0.335

Comparer les prix entre différents fournisseurs API pour ce modèle.

Sources externes