Passer au contenu principal

Gemini 1.5 Pro (Sep '24)

GoogleGeminiProprietary

Description

Gemini 1.5 Pro is a mid-size multimodal model optimized for a wide range of reasoning tasks. It can process large amounts of data at once, including 2 hours of video, 19 hours of audio, codebases with 60,000 lines of code, or 2,000 pages of text.

Date de sortie
2024-09-24
Paramètres
—
Longueur du contexte
—
Modalités
image, text

Radar de capacités

28
general
27
coding
50
reasoning
42
science
43
agents
80
multimodal

Classements

Domaine#RangScoreSource
Classement codage427
31.0
AA
Classement général424
33.0
AA
Classement multimodal92
48.0
LS
Science454
32.0
AA

Scores de benchmarks (LLM Stats)

(LLM Stats (zeroeval))

General

MMLU85.9%Aut.

Language

FLEURS93.3%Aut.
MMLU-Pro75.8%Aut.
WMT2375.1%Aut.

Long Context

MRCR82.6%Aut.

Math

GSM8k90.8%Aut.
MGSM87.5%Aut.
MATH86.5%Aut.
MathVista68.1%Aut.
FunctionalMATH64.6%Aut.
HiddenMath52.0%Aut.
AMC_2022_2346.4%Aut.

Multimodal

Video-MME78.6%Aut.
MMMU65.9%Aut.
Vibe-Eval53.9%Aut.

Physics

PhysicsFinals63.9%Aut.

Reasoning

HellaSwagAI2 (2019)93.3%Aut.
BIG-Bench Hard89.2%Aut.
Natural2Code85.4%Aut.
HumanEvalOpenAI (2021)84.1%Aut.
DROP74.9%Aut.
GPQANYU + Cohere + Anthropic (2023)59.1%Aut.

Safety

XSTest98.8%Aut.

Indices d'évaluation AA

(Artificial Analysis)
Math 500(OpenAI (2024), subset of Hendrycks et al. MATH (2021))
87.6
Mmlu Pro(TIGER-Lab (Univ. of Waterloo, Toronto, CMU, 2024))
75.0
Gpqa(NYU + Cohere + Anthropic (2023))
58.9
Livecodebench(UC Berkeley + MIT + Cornell (2024))
31.6
Coding Index(Artificial Analysis)
23.6
Aime(MAA (Mathematical Association of America))
23.0
Intelligence Index(Artificial Analysis)
7.9
Hle(Center for AI Safety + Scale AI (2025))
4.6

Scores par catégorie LLM Stats

(LLM Stats (zeroeval))
Safety
100
Speech To Text
90
Language
80
Legal
80
Long Context
80
Math
80
Reasoning
80
Finance
80
General
80
Healthcare
80
Code
80
Multimodal
70
Vision
70
Physics
60
Biology
60
Chemistry
60

Tarification

Prix d'entréeGratuit
Prix de sortieGratuit
Prix mixte (3:1)Gratuit

Vitesse

Tokens/sec0.0
Délai du premier token0.00s
Temps de réponse0.00s

Classement des Prix par Fournisseur

Aucune donnée de fournisseur disponible

Sources externes