Глосарій
Що таке мовна модель (LLM)?
Різновид AI, що стоїть за чат-асистентами. Уся його робота зводиться до одного: раз за разом передбачати наступне слово й так вибудовувати текст.
Даєш мовній моделі трохи тексту — і для наступного слова вона оцінює кожне відоме їй слово за ймовірністю бути наступним. Обирає одне, додає його й повторює все спочатку. Цей цикл — передбачити, додати, повторити — і є все, чим насправді є «генерація тексту».
P(наступне слово) після «Кіт сів на ___»
Модель не шукає готову відповідь — вона ранжує ймовірні наступні слова й обирає одне випадково. Вища [температура](glossary://temperature) частіше тягне до менш імовірних.
Ці ймовірності модель засвоїла, прочитавши величезний шмат інтернету під час навчання — нічого не дістається й не шукається, це все передбачення. Та сама машина, залежно від запиту, пише код, відповідає на питання й перекладає — по одному токену за раз.
Пов'язані терміни
Зустрічається в цих уроках
Побач у дії
Дивись, як модель передбачає наступний токен
«Як AI працює насправді» вибудовує весь конвеєр — від літер до токенів і речень — по одному передбаченню, безкоштовно спробувати в застосунку.