Llama 3.3 Instruct 70B
MetaLlamaОткрытые весаLlama 3.3 Community License Agreement
Описание
Llama 3.3 is a multilingual large language model optimized for dialogue use cases across multiple languages. It is a pretrained and instruction-tuned generative model with 70 billion parameters, outperforming many open-source and closed chat models on common industry benchmarks. Llama 3.3 supports a context length of 128,000 tokens and is designed for commercial and research use in multiple languages.
Дата выхода
2024-12-06
Параметры
70.0B
Длина контекста
131K
Модальности
text
Радар способностей
27
general
28
coding
28
reasoning
32
scienceоцен.
80
agents
0
multimodal
Science использует прокси на основе рассуждений, когда специализированные научные бенчмарки недоступны.
Рейтинги
| Домен | #Место | Оценка | Источник |
|---|---|---|---|
| Рейтинг кодинга | 375 | 19.0 | AA |
| Общий рейтинг | 299 | 36.0 | AA |
| Математическое мышление | 280 | 26.0 | AA |
| Наука | 353 | 32.0 | AA |
Оценки бенчмарков (LLM Stats)
Biology
GPQA
50.5%Сам.
Code
HumanEval
88.4%Сам.
Finance
MMLU
86.0%Сам.
MMLU-Pro
68.9%Сам.
General
IFEval
92.1%Сам.
MBPP EvalPlus
87.6%Сам.
BFCL v2
77.3%Сам.
Math
MGSM
91.1%Сам.
MATH
77.0%Сам.
Индексы оценки AA
Intelligence Index8.6
Math Index7.7
Math 5000.8
Mmlu Pro0.7
Gpqa0.5
Ifbench0.5
Aime0.3
Livecodebench0.3
Tau20.3
Scicode0.3
Lcr0.1
Aime 250.1
Hle0.0
Terminalbench Hard0.0
Оценки категорий LLM Stats
Instruction Following90
Structured Output90
Code90
Language80
Legal80
Math80
Reasoning80
Finance80
Healthcare80
Tool Calling80
General70
Physics50
Biology50
Chemistry50
Цены
Цена ввода$0.58 / 1M токенов
Цена вывода$0.71 / 1M токенов
Смешанная цена (3:1)$0.612 / 1M токенов
Скорость
Токенов/сек93.6
Задержка первого токена0.61s
Время до первого ответа0.61s
Рейтинг цен провайдеров
Рейтинг цен провайдеров
31 провайдеров
Самый дешевый: CortecsСамый дорогой: CloudFerro Sherlock
ПровайдерВводВывод
1CortecsСамый дешевый
$0.089
$0.275
2Deep Infra
$0.1
$0.32
3Meganova
$0.1
$0.3
4Inceptron
$0.12
$0.38
5IO.NET
$0.13
$0.38
6Nebius Token Factory
$0.13
$0.4
7Cloudflare AI Gateway
$0.29
$2.25
8Cloudflare Workers AI
$0.293
$2.253
9STACKIT
$0.49
$0.71
10MetaОсновной
$0.58
$0.71
11Abacus
$0.59
$0.79
12Hugging Face
$0.59
$0.79
13Helicone
$0.59
$0.79
14Groq
$0.59
$0.79
15Friendli
$0.6
$0.6
16Regolo AI
$0.6
$2.7
17DigitalOcean
$0.65
$0.65
18NanoGPT
$0.7
$0.7
19Venice AI
$0.7
$2.8
20Weights & Biases
$0.71
$0.71
21Azure Cognitive Services
$0.71
$0.71
22Azure
$0.71
$0.71
23Amazon Bedrock
$0.72
$0.72
24Vertex
$0.72
$0.72
25OVHcloud AI Endpoints
$0.74
$0.74
26Together AI
$0.88
$0.88
27Scaleway
$0.9
$0.9
28Synthetic
$0.9
$0.9
29Berget.AI
$0.99
$0.99
30evroc
$1.18
$1.18
31CloudFerro Sherlock
$2.92
$2.92
Сравнение цен разных API-провайдеров для этой модели.