Урок 4 із 6
Обчислення та чипи
6 хв читання
Чому це раптом усі б'ються за комп'ютерні чипи? Бо що більша модель, то більше обчислювальної потужності треба, щоб її побудувати й запустити, — і саме це стало вузьким місцем усієї гри.
Більші моделі, голодніші машини
Натренувати модель — це виконати немислиму кількість обчислень над горами даних. Обчислення, тобто чиста процесорна потужність, — це пальне. Збільш модель — і її апетит до обчислень не повзе вгору потроху, а вибухає. Найпотужнішим моделям треба тисячі спеціалізованих чипів, що тижнями працюють на тренуванні, і чималий шмат датацентру — лише щоб тобі відповісти.
Що більша модель, то в рази більше обчислень і чипів їй потрібно.
Золота лихоманка чипів
Ці спеціалізовані чипи — це GPU, і більшість найкращих випускає одна компанія, Nvidia; саме тому вона стала однією з найдорожчих фірм світу. Google, Amazon та інші тепер проєктують і власні. Доступ до чипів дедалі більше вирішує, хто взагалі здатен будувати передовий AI: питання вже не так у хитрому коді, як у тому, хто дістане залізо й енергію, щоб його живити.
Чипи й енергія, щоб їх живити, — ось справжня межа для передового AI.
Коли лабораторія хвалиться новою моделлю, за кадром завжди стоять обчислення: скільки чипів пішло на тренування і в кого їх довелося купувати.
Коротко
- —Обчислення — це чиста процесорна потужність, на якій модель тренують і запускають.
- —Що більша модель, то стрімкіше зростає потрібна кількість чипів і енергії.
- —GPU (переважно від Nvidia) — дефіцитний ресурс, за яким усі женуться.
Чому «обчислення» зараз так багато важать в AI?
Продовжити в застосунку
Пройди весь курс «Ландшафт AI» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.