Урок 2 із 7
Упередження й справедливість
6 хв читання
AI-інструмент для відбору кадрів тихо віддає перевагу кандидатам одного типу. Ніхто його так не програмував. То звідки ж узялося упередження і чи можна його виправити?
Модель вбирає дані — з усіма їхніми вадами
У моделі немає поглядів: вона просто вбирає закономірності з прикладів, на яких навчалась. Якщо в цих прикладах закладене людське упередження (кого наймали раніше, чиї обличчя розмічали, чиї голоси добре розпізнавали), модель убирає його й відтворює. Перекошені дані на вході — перекошені рішення на виході. Ба більше, дрібний дисбаланс вона здатна навіть підсилити до сильного.
Модель віддзеркалює свої дані. Дай їй несправедливу закономірність — і вона навчиться її повторювати.
Справедливість — це робота, а не перемикач
Упередження закорінене і в даних, і в самому світі, з якого вони прийшли, тож жоден тумблер його не прибере. Тому команди його пом’якшують: балансують навчальні дані, звіряють результати між різними групами, а найважливіші рішення лишають за людиною. Це зменшує шкоду, проте «неупереджений» — радше напрям, ніж досягнутий стан: тонке упередження ховається в сигналах, яких не покаже жоден повзунок.
Упередження пом’якшують, а не видаляють: вимірюй результати по групах і лишай важливі рішення за людиною.
Якщо AI-інструмент вирішує щось, що впливає на людей (кого найняти, кому дати кредит, яку оцінку поставити), спитай, хто і як перевіряв його на упередженість. «Це алгоритм» — не відповідь.
Головне
- —Моделі вчаться закономірностей із даних, зокрема й упереджень, і можуть їх підсилювати.
- —Немає єдиного перемикача «прибрати упередження»: команди його пом’якшують і вимірюють.
- —Коли рішення стосується людей, лишай за нього відповідальну людину.
Звідки переважно береться упередження AI?
Продовжити в застосунку
Пройди весь курс «AI, робота й суспільство» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.