Урок 4 із 6
Розум із дірками, мов сир
5 хв читання
Той самий AI, що за секунди накидає весільний тост, скаже тобі з повною впевненістю, що 9,11 більше за 9,9. Обидва — з однієї моделі. Його вміння — не пряма лінія від розумного до дурного, воно в дірках.
Піки й дірки поруч
Ми очікуємо, що інтелект плавний: добрий у складному — отже, добрий і в простому. AI ламає цю інтуїцію. Він може писати, перекладати й підсумовувати на рівні, що вражає, а тоді спіткнутися на задачі, яку дитина вважає дрібницею, — порівняти два десяткові дроби, порахувати літери, проста точна арифметика. Сила в одній задачі майже нічого не каже про наступну.
Цей зубчастий профіль має назву: зубчастий інтелект. Обрій то здіймається вежами, то падає до підлоги просто поряд.
Чому дірки сидять там, де сидять
Провали не випадкові. Модель читає текст шматками, а не окремими літерами, тож рахувати «р» у слові «strawberry» суперечить тому, як вона бачить слова. Вона порівнює «9.11» і «9.9» за патерном, де 9.11 може виглядати більшим — так, як пізніша версія чи дата. Задачі, які вона провалює, часто ті, що нам здаються найлегшими, — і саме ця розбіжність і є пастка.
Мапа весь час зсувається. Кожна нова модель замощує якісь старі дірки й час від часу відкриває свіжі — тож не думай, що торішнє слабке місце досі слабке чи що сьогоднішнє безпечне.
Що взяти з собою
- —Блиск в одній задачі — не обіцянка, що він упорається з простішою на вигляд.
- —Класичні дірки: рахунок, правопис, точна арифметика, порівняння чисел.
- —Пильнуй найбільше на задачах, що виглядають надто легкими, щоб їх перевіряти, — саме там ховаються дірки.
AI щойно написав тобі бездоганне резюме на дві сторінки. Тепер тобі треба, щоб він підбив колонку витрат до точної копійки. Розумний хід?
Продовжити в застосунку
Пройди весь курс «Коли AI помиляється» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.