Урок 3 із 6
Чого AI не може
9 хв читання
Той самий AI, що за секунди пише відшліфоване есе, не може надійно порахувати літери «р» у слові «трактор», додати два великі числа чи розповісти сьогоднішні новини. Його межі — не там, де ти думаєш.
Зубчастий край, а не рівна лінія
Ми очікуємо, що здібність зростає рівномірно: легке легко, важке важко. AI так не працює. Його вміння зубчасте: надлюдське в одних задачах, дивно зламане в інших, без плавної лінії між ними. Задачі, що здаються нам важкими (написати вірш, перекласти), часто якраз його сильні сторони; а на тих, що здаються дріб’язковими (порахувати, обчислити, згадати сьогодення), він спотикається.
Здібність — не плавний підйом. Важкі на вигляд задачі можуть бути легкими для AI, а легкі на вигляд — несподівано важкими.
Звідки беруться краї
У кожної слабкої зони є проста причина. Слова AI читає цілими шматками, а не по літерах, тож рахувати їх для нього справді важко. Калькулятора за замовчуванням немає, тож довга точна арифметика пливе. Знання обриваються на межі навчання, тож про сьогодення дізнатися нема звідки. А ще AI створений відповідати, тож замість «я не знаю» видає впевнену здогадку — галюцинацію. Знати, чому існує край, — значить знати, коли його чекати.
Слабкі зони не випадкові: у кожної своя причина — текст шматками, немає калькулятора, межа знань, схильність відповідати.
Найнебезпечніші межі — ті, які AI приховує. Він не попередить, що не вміє точної математики чи не має свіжих фактів, — просто все одно відповість тим самим упевненим голосом.
Працювати із зубчастістю
Не треба запам’ятовувати кожен край; потрібна звичка питати, з якого боку зубця стоїть задача. Це мовна задача (сила) чи задача на підрахунок, обчислення, поточні події (слабкість)? Для слабкого боку дай йому інструмент або факти: встав числа, прикріпи джерело, дозволь калькулятор чи пошук. Підібраний під сильні сторони й підпертий на слабких, він вражає. Якщо ж вважати його рівномірно здібним, здивує тебе в найгірший момент.
- —Здібність AI зубчаста — блискуче й крихке стоять поруч.
- —У слабких зон є причини: текст шматками, немає калькулятора, межа знань, схильність відповідати.
- —Для слабкого боку дай інструмент чи факти замість сліпої довіри.
Чому AI, що пише бездоганні есе, все одно провалює «скільки «р» у слові «трактор»»?
Продовжити в застосунку
Пройди весь курс «AI-грамотність» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.