GH200 Grace Hopper

NVIDIA GH200 Grace Hopper Superchip
NVIDIA GH200 Grace Hopper Superchip
	Центральный процессор
Производство	2023 год
Разработчик	NVIDIA Corporation
Производитель	TSMC;
Технология производства	4 (N4) нм
Наборы инструкций	Neoverse[англ.] V2 Cores: Armv9 with 4x128b SVE2
Число ядер	72 ядра
L1-кэш	64KB I-cache + 64KB D-cache per core
L2-кэш	1MB per core
L3-кэш	234MB per superchip
Встроенный графический процессор	Проприетарный Nvidia GPGPU-ускоритель (microarchitecture: Ada Lovelace[англ.])
Разъём
Ядра

NVIDIA GH200 Grace Hopper Superchip —

4-нанометровому (N4) техпроцессу^[1]

.

История

В марте 2022 года компания Nvidia в ходе своей корпоративной технологической конференции

ЦПУ Grace и гибридного чипа Grace Hopper, — сочетающего процессоры Grace (ARMv9) и ускоритель H100 (Hopper)^[2]^[3]

.

Затем в августе 2022 года компания Nvidia поделилась некоторыми деталями о строении Arm-процессоров Grace и гибридных чипов Grace Hopper [4].

Описание

В мае 2023 года компания Nvidia в ходе выставки

HPC-систем и платформ генеративного ИИ^[1]

.

В состав Grace Hopper входят 72-ядерный

PCIe 5.0). Заявленный уровень производительности GH200 — 4 ПФлопс с использованием Transformer Engine^[англ.], а реальное потребление GH200 под полной нагрузкой составляет 750—800 Вт^[6]^[7]

.

Ранее, в июне 2023 года Nvidia уже сообщила, что во всех восьми ИИ-бенчмарках MLPerf^[англ.] Training v3.0 её ускорители H100 установили новые рекорды^[8]. Теперь, в сентябре 2023 года компания говорит, что её суперчип GH200 Grace Hopper впервые прошёл все тесты MLPerf, и примечательно, что GH200 оказался до 17 % быстрее H100, хотя чип самого ускорителя в обоих продуктах один и тот же. Nvidia объясняет это несколько факторами: Во-первых, у GH200 больше набортной памяти — 96 Гбайт против 80 Гбайт. Во-вторых, ПСП^[англ.] составляет 4 Тбайт/с, а сам чип является гибридным, так что для передачи данных между LPDDR5x и HBM3 не используется PCIe^[9].

Nvidia также объявила, что в конце 2023 года корпоративным заказчикам станет доступна новая HPC-платформа

Тбайт — и это почти в 500 раз больше, чем в одной системе Nvidia DGX A100^[10]^[11]

.

Применение

NVIDIA HGX для
HPC — с IV квартала 2023 года^[6]
.

HPC-платформа объединяющая 256 суперчипов GH200 Grace Hopper) — с IV квартала 2023 года^[10]
.

NVIDIA DGX Helios (суперкомпьютер который с помощью коммутируемой сети Quantum-2 InfiniBand объединит сразу четыре системы DGX GH200 AI) — с IV квартала 2023 года^[10].

См. также

Примечания

↑ ¹ ² NVIDIA начала массовое производство суперчипов Grace Hopper для генеративного ИИ (неопр.). ServerNews. (29 мая 2023). Дата обращения: 18 сентября 2023. Архивировано 3 октября 2023 года.
↑ NVIDIA анонсировала 144-ядерные Arm-процессоры Grace и гибрид Grace Hopper (неопр.). ServerNews. (22 марта 2022). Дата обращения: 18 сентября 2023. Архивировано 3 октября 2023 года.
↑ NVIDIA представила 144-ядерный серверный процессор Grace Superchip (неопр.). 3DNews. (22 марта 2022). Дата обращения: 18 сентября 2023. Архивировано 25 ноября 2023 года.
↑ NVIDIA поделилась некоторыми деталями о строении Arm-процессоров Grace и гибридных чипов Grace Hopper (неопр.). ServerNews. (20 августа 2022). Дата обращения: 18 сентября 2023. Архивировано 13 сентября 2023 года.
↑ Представлен ускоритель вычислений NVIDIA H100 на новейшей архитектуре Hopper и с памятью HBM3 (неопр.). 3DNews. (22 марта 2022). Дата обращения: 18 сентября 2023. Архивировано 25 ноября 2023 года.
↑ ¹ ² Суперчип NVIDIA Grace Hopper (неопр.). Официальный сайт NVIDIA Corporation. Дата обращения: 18 сентября 2023. Архивировано 19 сентября 2023 года.
↑ NVIDIA представила суперчип GH200 Grace Hopper с памятью HBM3e и производительностью 4 Пфлопс (неопр.). 3DNews. (8 августа 2023). Дата обращения: 18 сентября 2023. Архивировано 5 сентября 2023 года.
↑ NVIDIA похвасталась рекордами H100 в новом бенчмарке MLPerf для генеративного ИИ (неопр.). ServerNews. (27 июня 2023). Дата обращения: 18 сентября 2023. Архивировано 22 сентября 2023 года.
↑ Много памяти, быстрая шина и правильное питание: гибридный суперчип GH200 Grace Hopper обогнал H100 в ИИ-бенчмарке MLPerf Inference (неопр.). ServerNews. (11 сентября 2023). Дата обращения: 18 сентября 2023. Архивировано 13 сентября 2023 года.
↑ ¹ ² ³ NVIDIA представила 1-Эфлопс ИИ-суперкомпьютер DGX GH200: 256 суперчипов Grace Hopper и 144 Тбайт памяти (неопр.). ServerNews. (29 мая 2023). Дата обращения: 18 сентября 2023. Архивировано 30 августа 2023 года.
↑ DGX GH200: cуперкомпьютер Nvidia для искусственного интеллекта (неопр.). «Открытые системы». (5 июня 2023). Дата обращения: 18 сентября 2023. Архивировано 5 июня 2023 года.

Ссылки

Суперчип NVIDIA Grace Hopper (неопр.). Официальный сайт NVIDIA Corporation. Дата обращения: 18 сентября 2023.

[snews11-1] ¹ ² NVIDIA начала массовое производство суперчипов Grace Hopper для генеративного ИИ (неопр.). ServerNews. (29 мая 2023). Дата обращения: 18 сентября 2023. Архивировано 3 октября 2023 года.

[2] NVIDIA анонсировала 144-ядерные Arm-процессоры Grace и гибрид Grace Hopper (неопр.). ServerNews. (22 марта 2022). Дата обращения: 18 сентября 2023. Архивировано 3 октября 2023 года.

[3] NVIDIA представила 144-ядерный серверный процессор Grace Superchip (неопр.). 3DNews. (22 марта 2022). Дата обращения: 18 сентября 2023. Архивировано 25 ноября 2023 года.

[4] NVIDIA поделилась некоторыми деталями о строении Arm-процессоров Grace и гибридных чипов Grace Hopper (неопр.). ServerNews. (20 августа 2022). Дата обращения: 18 сентября 2023. Архивировано 13 сентября 2023 года.

[3dnews22-5] Представлен ускоритель вычислений NVIDIA H100 на новейшей архитектуре Hopper и с памятью HBM3 (неопр.). 3DNews. (22 марта 2022). Дата обращения: 18 сентября 2023. Архивировано 25 ноября 2023 года.

[nvidia11-6] ¹ ² Суперчип NVIDIA Grace Hopper (неопр.). Официальный сайт NVIDIA Corporation. Дата обращения: 18 сентября 2023. Архивировано 19 сентября 2023 года.

[7] NVIDIA представила суперчип GH200 Grace Hopper с памятью HBM3e и производительностью 4 Пфлопс (неопр.). 3DNews. (8 августа 2023). Дата обращения: 18 сентября 2023. Архивировано 5 сентября 2023 года.

[8] NVIDIA похвасталась рекордами H100 в новом бенчмарке MLPerf для генеративного ИИ (неопр.). ServerNews. (27 июня 2023). Дата обращения: 18 сентября 2023. Архивировано 22 сентября 2023 года.

[9] Много памяти, быстрая шина и правильное питание: гибридный суперчип GH200 Grace Hopper обогнал H100 в ИИ-бенчмарке MLPerf Inference (неопр.). ServerNews. (11 сентября 2023). Дата обращения: 18 сентября 2023. Архивировано 13 сентября 2023 года.

[snews22-10] ¹ ² ³ NVIDIA представила 1-Эфлопс ИИ-суперкомпьютер DGX GH200: 256 суперчипов Grace Hopper и 144 Тбайт памяти (неопр.). ServerNews. (29 мая 2023). Дата обращения: 18 сентября 2023. Архивировано 30 августа 2023 года.

[11] DGX GH200: cуперкомпьютер Nvidia для искусственного интеллекта (неопр.). «Открытые системы». (5 июня 2023). Дата обращения: 18 сентября 2023. Архивировано 5 июня 2023 года.

[1]

[2]

[3]

[6]

[7]

[8]

[9]

[10]

[11]

NVIDIA GH200 Grace Hopper Superchip
Центральный процессор
Производство	2023 год
Разработчик	NVIDIA Corporation
Производитель	TSMC
Технология производства	4 (N4) нм
Наборы инструкций	Neoverse^[англ.] V2 Cores: Armv9 with 4x128b SVE2
Число ядер	72 ядра
L1-кэш	64KB I-cache + 64KB D-cache per core
L2-кэш	1MB per core
L3-кэш	234MB per superchip
Встроенный графический процессор	Проприетарный Nvidia GPGPU-ускоритель (microarchitecture: Ada Lovelace^[англ.])
Разъём
Ядра