Урок 6 із 7
Тримати агентів на повідку
7 хв читання
Агент, що може забронювати столик, теоретично може й спорожнити твій банківський рахунок. То як отримати допомогу, не віддаючи ключі?
Дай читати; став ворота на те, що можна зламати
Розв'язок — повідок: чіткі межі того, що агент може робити сам. Малоризикові дії — пошук, читання твого календаря, чернетка відповіді — можуть виконуватися вільно. Але все, що витрачає гроші, надсилає повідомлення від тебе чи незворотне, зупиняється на контрольній точці й чекає на твоє «так». Це людина в циклі: агент пропонує, ти схвалюєш.
Людина в циклі означає, що агент ніколи не робить ризиковану, незворотну дію сам — спершу її погоджує людина.
Дозволи та запобіжники
Поряд із контрольною точкою йдуть ще два інструменти. Дозволи вирішують, до чого інструменту взагалі можна торкатися — лише читати чи читати й надсилати. Запобіжники — це правила, що блокують явно погані ходи ще до їх виконання. Разом вони означають, що агент працює в межах огорожі, яку ти задаєш, а не в усьому відкритому полі.
Мета — не повністю автономний агент, а корисний, якому можна довіряти, бо ризиковані краї обгороджено, а останнє «так» — за тобою.
Найобережніше стався до дій, що рухають гроші, надсилають повідомлення чи щось видаляють — тих, які не відкотиш. Читай, що агент пропонує, перш ніж схвалити; поспішне «так» — це те, як автоматизація йде не так.
Суть
- —Дозволяй малоризикові дії; став ворота на все ризиковане чи незворотне.
- —Людина в циклі: агент пропонує, людина схвалює.
- —Дозволи обмежують, до чого можуть торкатися інструменти; запобіжники блокують погані ходи.
Твій агент вишиковує чотири кроки; три — лише читання, а один — «сплатити рахунок на €900». Що має статися?
Продовжити в застосунку
Пройди весь курс «Агенти та інструменти» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.