Перейти к основному содержанию
AITier

Llama 3.1 Instruct 8B

MetaLlamaOpen WeightLlama 3.1 Community License

Описание

Llama 3.1 8B Instruct is a multilingual large language model optimized for dialogue use cases. It features a 128K context length, state-of-the-art tool use, and strong reasoning capabilities.

Дата выхода
2024-07-23
Параметры
8.0B
Длина контекста
16K
Модальности
text

Радар способностей

22
general
8
coding
14
reasoning
17
scienceоцен.
50
agents
0
multimodal

Science использует прокси на основе рассуждений, когда специализированные научные бенчмарки недоступны.

Рейтинги

Домен#МестоОценкаИсточник
Code Ranking420
10.0
AA
General Ranking418
23.0
AA
Math Reasoning324
14.0
AA
Reasoning26
83.0
LS
Science435
17.0
AA

Оценки бенчмарков (LLM Stats)

Biology

GPQA30.4%Сам.

Code

HumanEval72.6%Сам.
Gorilla Benchmark API Bench8.2%Сам.

Finance

MMLU (CoT)73.0%Сам.
MMLU69.4%Сам.
MMLU-Pro48.3%Сам.

General

ARC-C83.4%Сам.
IFEval80.4%Сам.
BFCL76.1%Сам.
MBPP EvalPlus (base)72.8%Сам.
Multipl-E MBPP52.4%Сам.
Multipl-E HumanEval50.8%Сам.
Nexus38.5%Сам.

Math

GSM-8K (CoT)84.5%Сам.
Multilingual MGSM (CoT)68.9%Сам.
DROP59.5%Сам.
MATH (CoT)51.9%Сам.

Reasoning

API-Bank82.6%Сам.

Индексы оценки AA

Intelligence Index
11.8
Coding Index
4.9
Math Index
4.3
Math 500
0.5
Mmlu Pro
0.5
Ifbench
0.3
Gpqa
0.3
Tau2
0.2
Lcr
0.2
Scicode
0.1
Livecodebench
0.1
Aime
0.1
Hle
0.1
Aime 25
0.0
Terminalbench Hard
0.0

Оценки категорий LLM Stats

Structured Output
80
Instruction Following
80
Finance
60
General
60
Healthcare
60
Language
60
Legal
60
Math
60
Reasoning
60
Tool Calling
50
Code
40
Biology
30
Chemistry
30
Physics
30

Цены

Цена ввода$0.1 / 1M tokens
Цена вывода$0.1 / 1M tokens
Смешанная цена (3:1)$0.1 / 1M tokens

Скорость

Токенов/сек188.5 tokens/s
Задержка первого токена0.47s
Время до первого ответа0.47s

Доступные провайдеры

(Внутренние единицы LS)

Нет данных провайдеров

Внешние ссылки

LLM Stats