Llama 3.1 Instruct 70B
MetaLlamaОткрытые весаLlama 3.1 Community License
Описание
Llama 3.1 70B Instruct is a large language model optimized for multilingual dialogue use cases. It outperforms many available open source and closed chat models on common industry benchmarks.
Дата выхода
2024-07-23
Параметры
70.0B
Длина контекста
131K
Модальности
text
Радар способностей
70
general
60
coding
80
reasoning
34
scienceоцен.
70
agents
0
multimodal
При отсутствии специализированных научных бенчмарков Science оценивается по научным категориям LLM Stats или на основе рассуждений.
Рейтинги
Нет данных рейтинга
Оценки бенчмарков (LLM Stats)
(LLM Stats (zeroeval))Chat
IFEvalGoogle Research (2023)
87.5%Сам.
General
BFCL
84.8%Сам.
MMLU
83.6%Сам.
Multipl-E MBPP
62.0%Сам.
Nexus
56.7%Сам.
Language
MMLU (CoT)
86.0%Сам.
MMLU-Pro
66.4%Сам.
Multipl-E HumanEval
65.5%Сам.
Math
GSM-8K (CoT)
95.1%Сам.
Multilingual MGSM (CoT)
86.9%Сам.
MATH (CoT)
68.0%Сам.
Reasoning
ARC-C
94.8%Сам.
API-Bank
90.0%Сам.
MBPP ++ base version
86.0%Сам.
HumanEvalOpenAI (2021)
80.5%Сам.
DROP
79.6%Сам.
GPQANYU + Cohere + Anthropic (2023)
41.7%Сам.
Gorilla Benchmark API Bench
29.7%Сам.
Индексы оценки AA
(Artificial Analysis)Нет данных AA оценки
Оценки категорий LLM Stats
(LLM Stats (zeroeval))Chat90
Instruction Following90
Structured Output90
Language80
Legal80
Math80
Finance80
Healthcare80
Reasoning70
General70
Tool Calling70
Code60
Physics40
Biology40
Chemistry40
Цены
Цена ввода$0.56 / 1M токенов
Цена вывода$0.56 / 1M токенов
Смешанная цена (3:1)$0.4 / 1M токенов
Скорость
Токенов/сек18.5
Задержка первого токена2.26s
Время до первого ответа2.26s
Рейтинг цен провайдеров
Рейтинг цен провайдеров
4 провайдеров
Самый дешевый: DeepInfraСамый дорогой: Kilo Gateway
ПровайдерВводВывод
1DeepInfraСамый дешевый
$0.4
$0.4
2MetaОсновной
$0.56
$0.56
3OpenRouter
$0.72
$0.72
4Kilo Gateway
$0.72
$0.72
Сравнение цен разных API-провайдеров для этой модели.