Saltar al contenido principal

Gemini 1.5 Pro (May '24)

GoogleGemini

Descripción

Gemini 1.5 Pro is a mid-size multimodal model optimized for a wide range of reasoning tasks. It can process large amounts of data at once, including 2 hours of video, 19 hours of audio, codebases with 60,000 lines of code, or 2,000 pages of text.

Fecha de lanzamiento
2024-05-15
Parámetros
Longitud del contexto
Modalidades

Radar de capacidades

24
general
22
coding
32
reasoning
27
scienceest.
29
agents
80
multimodal

Science usa un proxy de razonamiento cuando los benchmarks científicos dedicados no están disponibles.

Rankings

Dominio#PosiciónPuntuaciónFuente
Ranking de codificación322
25.0
AA
Ranking general369
30.0
AA
Razonamiento matemático238
37.0
AA
Ranking multimodal37
79.0
LS
Razonamiento4
93.0
LS
Ciencia393
28.0
AA

Puntuaciones de benchmarks (LLM Stats)

Biology

GPQA59.1%Aut.

Code

HumanEval84.1%Aut.

Finance

MMLU85.9%Aut.
MMLU-Pro75.8%Aut.

General

Natural2Code85.4%Aut.
MRCR82.6%Aut.
MMMU65.9%Aut.
Vibe-Eval53.9%Aut.

Healthcare

WMT2375.1%Aut.

Language

FLEURS93.3%Aut.
BIG-Bench Hard89.2%Aut.

Math

GSM8k90.8%Aut.
MGSM87.5%Aut.
MATH86.5%Aut.
DROP74.9%Aut.
MathVista68.1%Aut.
FunctionalMATH64.6%Aut.
PhysicsFinals63.9%Aut.
HiddenMath52.0%Aut.
AMC_2022_2346.4%Aut.

Multimodal

Video-MME78.6%Aut.

Reasoning

HellaSwag93.3%Aut.

Safety

XSTest98.8%Aut.

Índices de evaluación AA

Coding Index
19.8
Intelligence Index
6.3
Math 500
0.7
Mmlu Pro
0.7
Gpqa
0.4
Scicode
0.3
Livecodebench
0.2
Aime
0.1
Hle
0.0

Puntuaciones por categoría LLM Stats

Safety
100
Speech To Text
90
Language
80
Legal
80
Long Context
80
Math
80
Reasoning
80
Finance
80
Healthcare
80
Code
80
Multimodal
70
General
70
Vision
70
Physics
60
Biology
60
Chemistry
60

Precios

Precio de entradaGratis
Precio de salidaGratis
Precio mixto (3:1)Gratis

Velocidad

Tokens/seg0.0
Retraso del primer token0.00s
Tiempo hasta la respuesta0.00s

Ranking de Precios por Proveedor

No hay datos de proveedores disponibles

Fuentes externas