Перейти к основному содержанию

Llama 3.3 Instruct 70B

MetaLlamaОткрытые весаLlama 3.3 Community License Agreement

Описание

Llama 3.3 is a multilingual large language model optimized for dialogue use cases across multiple languages. It is a pretrained and instruction-tuned generative model with 70 billion parameters, outperforming many open-source and closed chat models on common industry benchmarks. Llama 3.3 supports a context length of 128,000 tokens and is designed for commercial and research use in multiple languages.

Дата выхода
2024-12-06
Параметры
70.0B
Длина контекста
131K
Модальности
text

Радар способностей

27
general
28
coding
28
reasoning
32
scienceоцен.
80
agents
0
multimodal

Science использует прокси на основе рассуждений, когда специализированные научные бенчмарки недоступны.

Рейтинги

Домен#МестоОценкаИсточник
Рейтинг кодинга375
19.0
AA
Общий рейтинг299
36.0
AA
Математическое мышление280
26.0
AA
Наука353
32.0
AA

Оценки бенчмарков (LLM Stats)

Biology

GPQA50.5%Сам.

Code

HumanEval88.4%Сам.

Finance

MMLU86.0%Сам.
MMLU-Pro68.9%Сам.

General

IFEval92.1%Сам.
MBPP EvalPlus87.6%Сам.
BFCL v277.3%Сам.

Math

MGSM91.1%Сам.
MATH77.0%Сам.

Индексы оценки AA

Intelligence Index
8.6
Math Index
7.7
Math 500
0.8
Mmlu Pro
0.7
Gpqa
0.5
Ifbench
0.5
Aime
0.3
Livecodebench
0.3
Tau2
0.3
Scicode
0.3
Lcr
0.1
Aime 25
0.1
Hle
0.0
Terminalbench Hard
0.0

Оценки категорий LLM Stats

Instruction Following
90
Structured Output
90
Code
90
Language
80
Legal
80
Math
80
Reasoning
80
Finance
80
Healthcare
80
Tool Calling
80
General
70
Physics
50
Biology
50
Chemistry
50

Цены

Цена ввода$0.58 / 1M токенов
Цена вывода$0.71 / 1M токенов
Смешанная цена (3:1)$0.612 / 1M токенов

Скорость

Токенов/сек93.6
Задержка первого токена0.61s
Время до первого ответа0.61s

Рейтинг цен провайдеров

Рейтинг цен провайдеров

31 провайдеров

Самый дешевый: CortecsСамый дорогой: CloudFerro Sherlock
ПровайдерВводВывод
1CortecsСамый дешевый
$0.089
$0.275
2Deep Infra
$0.1
$0.32
3Meganova
$0.1
$0.3
4Inceptron
$0.12
$0.38
5IO.NET
$0.13
$0.38
6Nebius Token Factory
$0.13
$0.4
7Cloudflare AI Gateway
$0.29
$2.25
8Cloudflare Workers AI
$0.293
$2.253
9STACKIT
$0.49
$0.71
10MetaОсновной
$0.58
$0.71
11Abacus
$0.59
$0.79
12Hugging Face
$0.59
$0.79
13Helicone
$0.59
$0.79
14Groq
$0.59
$0.79
15Friendli
$0.6
$0.6
16Regolo AI
$0.6
$2.7
17DigitalOcean
$0.65
$0.65
18NanoGPT
$0.7
$0.7
19Venice AI
$0.7
$2.8
20Weights & Biases
$0.71
$0.71
21Azure Cognitive Services
$0.71
$0.71
22Azure
$0.71
$0.71
23Amazon Bedrock
$0.72
$0.72
24Vertex
$0.72
$0.72
25OVHcloud AI Endpoints
$0.74
$0.74
26Together AI
$0.88
$0.88
27Scaleway
$0.9
$0.9
28Synthetic
$0.9
$0.9
29Berget.AI
$0.99
$0.99
30evroc
$1.18
$1.18
31CloudFerro Sherlock
$2.92
$2.92

Сравнение цен разных API-провайдеров для этой модели.

Внешние ссылки