Gemini 1.5 Pro (Sep '24)
GoogleGeminiProprietary
Описание
Gemini 1.5 Pro is a mid-size multimodal model optimized for a wide range of reasoning tasks. It can process large amounts of data at once, including 2 hours of video, 19 hours of audio, codebases with 60,000 lines of code, or 2,000 pages of text.
Дата выхода
2024-09-24
Параметры
—
Длина контекста
—
Модальности
image, text
Радар способностей
29
general
27
coding
50
reasoning
38
science
43
agents
80
multimodal
Рейтинги
| Домен | #Место | Оценка | Источник |
|---|---|---|---|
| Рейтинг кодинга | 343 | 31.0 | AA |
| Общий рейтинг | 349 | 37.0 | AA |
| Мультимодальный рейтинг | 39 | 50.0 | LS |
| Наука | 367 | 38.0 | AA |
Оценки бенчмарков (LLM Stats)
(LLM Stats (zeroeval))Biology
GPQANYU + Cohere + Anthropic (2023)
59.1%Сам.
Code
HumanEvalOpenAI (2021)
84.1%Сам.
Finance
MMLU
85.9%Сам.
MMLU-Pro
75.8%Сам.
General
Natural2Code
85.4%Сам.
MRCR
82.6%Сам.
MMMU
65.9%Сам.
Vibe-Eval
53.9%Сам.
Healthcare
WMT23
75.1%Сам.
Language
FLEURS
93.3%Сам.
BIG-Bench Hard
89.2%Сам.
Math
GSM8k
90.8%Сам.
MGSM
87.5%Сам.
MATH
86.5%Сам.
DROP
74.9%Сам.
MathVista
68.1%Сам.
FunctionalMATH
64.6%Сам.
PhysicsFinals
63.9%Сам.
HiddenMath
52.0%Сам.
AMC_2022_23
46.4%Сам.
Multimodal
Video-MME
78.6%Сам.
Reasoning
HellaSwagAI2 (2019)
93.3%Сам.
Safety
XSTest
98.8%Сам.
Индексы оценки AA
(Artificial Analysis)Coding Index(Artificial Analysis)23.6
Intelligence Index(Artificial Analysis)9.9
Math 500(OpenAI (2024), subset of Hendrycks et al. MATH (2021))0.9
Mmlu Pro(TIGER-Lab (Univ. of Waterloo, Toronto, CMU, 2024))0.8
Gpqa(NYU + Cohere + Anthropic (2023))0.6
Livecodebench(UC Berkeley + MIT + Cornell (2024))0.3
Scicode(UIUC + Argonne National Lab (2024))0.3
Aime(MAA (Mathematical Association of America))0.2
Hle(Center for AI Safety + Scale AI (2025))0.0
Оценки категорий LLM Stats
(LLM Stats (zeroeval))Safety100
Speech To Text90
Legal80
Long Context80
Math80
Reasoning80
Language80
Finance80
General80
Healthcare80
Code80
Multimodal70
Vision70
Physics60
Biology60
Chemistry60
Цены
Цена вводаБесплатно
Цена выводаБесплатно
Смешанная цена (3:1)Бесплатно
Скорость
Токенов/сек0.0
Задержка первого токена0.00s
Время до первого ответа0.00s
Рейтинг цен провайдеров
Нет данных провайдеров