Урок 2 із 9
Чи воно справді розуміє?
5 хв читання
Воно завершує твої речення, пояснює жарти, пише код. Певно ж, воно розуміє? Механізм скромніший, ніж здається.
Воно передбачає наступне слово
У своїй суті мовна модель робить одне: за наявним текстом вгадати наступне слово — тоді ще одне, і ще. Усе, що вона «каже», — це той цикл, що біжить швидко. Вона ранжує ймовірні продовження за шаблонами з навчання, а не радиться з розумом, що осягає сенс.
Плавність — це передбачення наступного слова в масштабі, а не розуміння.
Сенс, який дочитуємо ми
То чи розуміє воно? Воно не має переконань, чуттів чи намірів — але його передбачення такі добрі, що корисна поведінка виходить сама. Чесна відповідь: воно блискуче моделює мову й погано — розуміння, і легко сплутати перше з другим.
Воно майстер форми мови, а не переживання сенсу.
Ось чому воно буває впевнено хибним: плавне, правдоподібне речення і правдиве — не те саме.
Що запам'ятати
- —Воно передбачає наступне слово, знову і знову.
- —Плавність — не те саме, що розуміння.
- —Правдоподібне ≠ правильне — перевіряй важливі твердження.
Як мовна модель дає свої відповіді?
Продовжити в застосунку
Пройди весь курс «AI простими словами» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.