Урок 3 із 6
Чого AI не може
9 хв читання
Той самий AI, що за секунди пише відшліфоване есе, не може надійно порахувати літери «р» у слові «трактор», додати два великі числа чи розповісти сьогоднішні новини. Його межі — не там, де ти думаєш.
Зубчастий край, а не рівна лінія
Ми очікуємо, що здібність зростає рівномірно — легке легко, важке важко. AI так не працює. Його вміння зубчасте: надлюдське в одних задачах, дивно зламане в інших, без плавної лінії між ними. Задачі, що здаються нам важкими (написати вірш, перекласти), часто його сильні сторони; а ті, що здаються дріб’язковими (порахувати, обчислити, згадати сьогодення), — де він спотикається.
Здібність — не плавний підйом. Важкі на вигляд задачі можуть бути легкими для AI, а легкі на вигляд — несподівано важкими.
Звідки беруться краї
У кожної слабкої зони є проста причина. Він читає слова як шматки, а не літери, тож рахувати літери йому справді важко. У нього немає калькулятора за замовчуванням, тож довга точна арифметика пливе. Його знання зупиняються на межі навчання, тож він не може знати сьогодення. І він створений відповідати, тож замість «я не знаю» видає впевнену здогадку — галюцинацію. Знати, чому існує край, — значить знати, коли його чекати.
Слабкі зони не випадкові — у кожної є причина: текст шматками, немає калькулятора, межа знань, схильність відповідати.
Найнебезпечніші межі — ті, які він приховує. Він не попередить, що не вміє точної математики чи не має свіжих фактів — він просто все одно відповість тим самим упевненим голосом.
Працювати із зубчастістю
Не треба запам’ятовувати кожен край — треба звичка питати, з якого боку зубця стоїть задача. Це мовна задача (сила) чи задача на підрахунок, обчислення, поточні події (слабкість)? Для слабкого боку дай йому інструмент або факти: встав числа, прикріпи джерело, дозволь калькулятор чи пошук. Підібраний під сильні сторони й підпертий на слабких, він вражає. Якщо ж вважати його рівномірно здібним, він здивує тебе у найгірший момент.
- —Здібність AI зубчаста — блискуче й крихке стоять поруч.
- —У слабких зон є причини: текст шматками, немає калькулятора, межа знань, схильність відповідати.
- —Для слабкого боку дай інструмент чи факти замість сліпої довіри.
Чому AI, що пише бездоганні есе, все одно провалює «скільки «р» у слові «трактор»»?
Продовжити в застосунку
Пройди весь курс «AI-грамотність» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.