Графический процессор (GPU)
Процессор с тысячами простых ядер для массовых параллельных вычислений: графика, видео и обучение нейронных сетей.
Графический процессор (GPU, Graphics Processing Unit) изначально создавался, чтобы рисовать изображение на экране: рассчитать цвет каждого из миллионов пикселей кадра. Эта задача идеально делится на части — каждый пиксель считается независимо. Поэтому GPU устроен иначе, чем центральный процессор: вместо нескольких сложных ядер у него тысячи простых, которые одновременно выполняют одну и ту же операцию над разными данными.
CPU и GPU
| CPU | GPU | |
|---|---|---|
| Ядра | Единицы и десятки, сложные и универсальные | Тысячи, простые |
| Сильная сторона | Разнообразные задачи с ветвлениями и логикой | Одна операция над огромным массивом данных |
| Типичная работа | Операционная система, базы данных, бизнес-логика | Графика, видео, нейросети, научные расчеты |
Сравнение часто описывают так: CPU — несколько опытных инженеров, которые решат любую задачу, а GPU — тысяча помощников, которые очень быстро выполняют одну простую операцию все вместе.
Вычисления общего назначения
В 2007 году NVIDIA выпустила платформу CUDA, которая позволила использовать видеокарты не только для графики, но и для любых массовых вычислений. Вскоре выяснилось, что обучение нейронных сетей — это как раз огромное количество однотипных умножений матриц. Современный бум искусственного интеллекта, включая большие языковые модели, стал возможен во многом благодаря GPU.
Что важно в GPU для вычислений
- Объем видеопамяти. Модель и данные должны помещаться в память GPU. Для больших языковых моделей это часто главное ограничение.
- Пропускная способность памяти — как быстро данные доходят до вычислительных ядер. В серверных ускорителях используют сверхбыструю память HBM.
- Поддержка вычислений пониженной точности, которые ускоряют работу нейросетей в разы.
- Связь между ускорителями, когда модель обучается сразу на многих GPU.
Где применяются
- Обучение и работа моделей машинного обучения, компьютерного зрения, распознавания речи.
- Кодирование и обработка видео.
- Научные и инженерные расчеты, моделирование.
- Рабочие места дизайнеров, инженеров, 3D-визуализация.
Практические вопросы
Серверные GPU дороги и потребляют много энергии, а поставки самых мощных моделей в Россию ограничены экспортными правилами. Поэтому компании часто арендуют GPU-мощности в российских облаках, а для работы готовых моделей (а не их обучения) выбирают модели поменьше, которые помещаются на доступные ускорители. Для многих задач бизнеса — табличные данные, отчеты, обычные веб-сервисы — GPU не нужен вовсе.