Урок 2 із 7
Що насправді робить NVIDIA
6 хв читання
Одна компанія лежить під майже кожною AI-моделлю, що працює сьогодні. Легко сказати «вони роблять чипи» — але чипи це лише половина причини, чому їх так важко замінити.
Два продукти, а не один
NVIDIA — це насправді дві речі, складені разом. Нижня половина — залізо: GPU, напхані тисячами ядер і швидкою пам'яттю. Верхня половина — софт: CUDA — набір інструментів, що дає програмістам справді користуватися всіма цими ядрами, не виписуючи низькорівневі деталі руками. Кожен популярний AI-фреймворк, на яких будують дослідники та інженери, говорить з GPU через CUDA.
NVIDIA продає чип і програмну платформу. Чип швидкий; платформа, CUDA, — це те, що робить чип придатним до вжитку, і саме її половину важче скопіювати.
Чому софт — це рів
Конкурент може збудувати швидкий чип. Значно важче — відтворити роки інструментів, бібліотек і туторіалів, під які всі вже пишуть свій код. Оскільки вся екосистема припускає CUDA, перехід на інше залізо часто означає переписування чи переналаштування твого софту — тож команди лишаються. Саме це замикання, а не лише сира швидкість, і робить NVIDIA такою домінантною в AI.
Замикання не в кремнії — воно в CUDA. Коли весь софт припускає одну платформу, платформа і є ровом.
Це поволі змінюється: є зусилля запускати моделі на чипах інших виробників і переносні шари, що ховають залізо. Але сьогодні «обчислення для AI» все ще здебільшого означає «GPU з CUDA».
Суть коротко
- —NVIDIA продає залізо (GPU) і софт (CUDA) як один пакет.
- —CUDA дає коду користуватися тисячами ядер GPU — на неї спирається кожен великий фреймворк.
- —Рів — це програмна екосистема, а не лише чип: зміна заліза означає переписування коду.
Конкурент випускає GPU, такий самий швидкий, як у NVIDIA. Чому команди все одно можуть не перейти?
Продовжити в застосунку
Пройди весь курс «Інференс і залізо» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.