Перейти к основному содержанию

Llama 3.1 Instruct 70B

MetaLlamaОткрытые весаLlama 3.1 Community License

Описание

Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.

Дата выхода
2024-07-23
Параметры
70.0B
Длина контекста
131K
Модальности
text

Радар способностей

70
general
60
coding
80
reasoning
34
scienceоцен.
70
agents
0
multimodal

При отсутствии специализированных научных бенчмарков Science оценивается по научным категориям LLM Stats или на основе рассуждений.

Рейтинги

Нет данных рейтинга

Оценки бенчмарков (LLM Stats)

(LLM Stats (zeroeval))

Chat

IFEvalGoogle Research (2023)87.5%Сам.

General

BFCL84.8%Сам.
MMLU83.6%Сам.
Multipl-E MBPP62.0%Сам.
Nexus56.7%Сам.

Language

MMLU (CoT)86.0%Сам.
MMLU-Pro66.4%Сам.
Multipl-E HumanEval65.5%Сам.

Math

GSM-8K (CoT)95.1%Сам.
Multilingual MGSM (CoT)86.9%Сам.
MATH (CoT)68.0%Сам.

Reasoning

ARC-C94.8%Сам.
API-Bank90.0%Сам.
MBPP ++ base version86.0%Сам.
HumanEvalOpenAI (2021)80.5%Сам.
DROP79.6%Сам.
GPQANYU + Cohere + Anthropic (2023)41.7%Сам.
Gorilla Benchmark API Bench29.7%Сам.

Индексы оценки AA

(Artificial Analysis)

Нет данных AA оценки

Оценки категорий LLM Stats

(LLM Stats (zeroeval))
Chat
90
Instruction Following
90
Structured Output
90
Language
80
Legal
80
Math
80
Finance
80
Healthcare
80
Reasoning
70
General
70
Tool Calling
70
Code
60
Physics
40
Biology
40
Chemistry
40

Цены

Цена ввода$0.56 / 1M токенов
Цена вывода$0.56 / 1M токенов
Смешанная цена (3:1)$0.4 / 1M токенов

Скорость

Токенов/сек18.5
Задержка первого токена2.26s
Время до первого ответа2.26s

Рейтинг цен провайдеров

Рейтинг цен провайдеров

4 провайдеров

Самый дешевый: DeepInfraСамый дорогой: Kilo Gateway
ПровайдерВводВывод
1DeepInfraСамый дешевый
$0.4
$0.4
2MetaОсновной
$0.56
$0.56
3OpenRouter
$0.72
$0.72
4Kilo Gateway
$0.72
$0.72

Сравнение цен разных API-провайдеров для этой модели.

Внешние ссылки