메인 콘텐츠로 건너뛰기

Llama 3.1 Instruct 8B

MetaLlama오픈 웨이트Llama 3.1 Community License

설명

Llama 3.1 8B Instruct is a multilingual large language model optimized for dialogue use cases. It features a 128K context length, state-of-the-art tool use, and strong reasoning capabilities.

출시일
2024-07-23
파라미터
8.0B
컨텍스트 길이
131K
모달리티
text

능력 레이더

18
general
8
coding
14
reasoning
17
science추정
50
agents
0
multimodal

전용 과학 벤치마크가 없을 때 Science는 추론 프록시를 사용하여 추정합니다.

랭킹

도메인#순위점수소스
코딩 랭킹446
9.0
AA
종합 랭킹435
22.0
AA
수학 추론324
14.0
AA
추론28
83.0
LS
과학464
16.0
AA

벤치마크 점수 (LLM Stats)

Biology

GPQA30.4%자체 보고

Code

HumanEval72.6%자체 보고
Gorilla Benchmark API Bench8.2%자체 보고

Finance

MMLU (CoT)73.0%자체 보고
MMLU69.4%자체 보고
MMLU-Pro48.3%자체 보고

General

ARC-C83.4%자체 보고
IFEval80.4%자체 보고
BFCL76.1%자체 보고
MBPP EvalPlus (base)72.8%자체 보고
Multipl-E MBPP52.4%자체 보고
Multipl-E HumanEval50.8%자체 보고
Nexus38.5%자체 보고

Math

GSM-8K (CoT)84.5%자체 보고
Multilingual MGSM (CoT)68.9%자체 보고
DROP59.5%자체 보고
MATH (CoT)51.9%자체 보고

Reasoning

API-Bank82.6%자체 보고

AA 평가 지수

Intelligence Index
6.1
Coding Index
4.9
Math Index
4.3
Math 500
0.5
Mmlu Pro
0.5
Ifbench
0.3
Gpqa
0.3
Tau2
0.2
Lcr
0.2
Scicode
0.1
Livecodebench
0.1
Aime
0.1
Hle
0.1
Aime 25
0.0
Terminalbench Hard
0.0

LLM Stats 카테고리 점수

Instruction Following
80
Structured Output
80
Language
60
Legal
60
Math
60
Reasoning
60
Finance
60
General
60
Healthcare
60
Tool Calling
50
Code
40
Physics
30
Biology
30
Chemistry
30

가격

입력 가격$0.1 / 1M 토큰
출력 가격$0.1 / 1M 토큰
혼합 가격 (3:1)$0.1 / 1M 토큰

속도

토큰/초201.0
첫 토큰 지연0.53s
첫 응답 지연0.53s

공급자 가격 순위

공급자 가격 순위

23개 공급자

최저가: NanoGPT최고가: Azure
공급자입력출력
1NanoGPT최저가
$0.02
$0.03
2Abacus
$0.02
$0.05
3OpenRouter
$0.02
$0.03
4NovitaAI
$0.02
$0.05
5Kilo Gateway
$0.02
$0.05
6Helicone
$0.02
$0.05
7Inference
$0.025
$0.025
8Groq
$0.05
$0.08
9Regolo AI
$0.05
$0.25
10Meta주요
$0.1
$0.1
11Poe
$0.1
$0.1
12Friendli
$0.1
$0.1
13OVHcloud AI Endpoints
$0.11
$0.11
14Cloudflare Workers AI
$0.152
$0.287
15STACKIT
$0.16
$0.27
16Synthetic
$0.2
$0.2
17Weights & Biases
$0.22
$0.22
18Amazon Bedrock
$0.22
$0.22
19Vercel AI Gateway
$0.22
$0.22
20LLM Gateway
$0.22
$0.22
21Cloudflare AI Gateway
$0.28
$0.83
22Azure Cognitive Services
$0.3
$0.61
23Azure
$0.3
$0.61

이 모델의 다양한 API 공급자 간 가격 비교.

외부 링크