Урок 2 із 7
Що насправді робить NVIDIA
6 хв читання
В основі майже кожної AI-моделі, що працює сьогодні, лежить одна компанія. Легко сказати «вони просто роблять чипи», але чипи — це лише половина причини, чому цю компанію так важко замінити.
Два продукти, а не один
NVIDIA — це дві речі, складені в одне. Нижня половина — залізо: GPU, напхані тисячами ядер і швидкою пам'яттю. Верхня половина — софт: CUDA, набір інструментів, який дає програмістам по-справжньому користуватися всіма цими ядрами, не виписуючи вручну низькорівневі деталі. Кожен популярний AI-фреймворк, на якому будують дослідники та інженери, спілкується з GPU через CUDA.
NVIDIA продає і чип, і програмну платформу. Чип швидкий, а платформа CUDA робить його придатним до діла — і саме цю половину скопіювати важче.
Чому софт — це рів
Конкурент може збудувати швидкий чип. А от відтворити роки напрацьованих інструментів, бібліотек і туторіалів, під які всі вже пишуть код, — значно важче. Оскільки вся екосистема розрахована на CUDA, перехід на інше залізо часто означає переписувати чи переналаштовувати софт, тож команди лишаються на місці. Саме це замикання, а не сама лише швидкість, і робить NVIDIA такою панівною в AI.
Замикання не в кремнії, а в CUDA. Коли весь софт розрахований на одну платформу, ця платформа і стає ровом.
Це поволі змінюється: є спроби запускати моделі на чипах інших виробників і переносні прошарки, що ховають залізо від коду. Але сьогодні «обчислення для AI» все ще здебільшого означає «GPU з CUDA».
Суть коротко
- —NVIDIA продає залізо (GPU) і софт (CUDA) як один пакет.
- —CUDA дає коду користуватися тисячами ядер GPU — на неї спирається кожен великий фреймворк.
- —Рів — це програмна екосистема, а не лише чип: зміна заліза означає переписування коду.
Конкурент випускає GPU, такий самий швидкий, як у NVIDIA. Чому команди все одно можуть не перейти?
Продовжити в застосунку
Пройди весь курс «Інференс і залізо» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.