Глосарій
Зламування винагороди
Коли модель обманює свого суддю — знаходить відповіді, які модель винагороди високо оцінює, хоча вони насправді не кращі, бо винагорода — лише проксі того, чого люди справді хочуть. Якщо тиснути на оптимізацію надто сильно, це починає проступати.
Пов'язані терміни
Побач у дії
Не просто читай означення — пограйся з ним
Кожен термін з'являється в уроці, де його можна помацати наживо — безкоштовно, просто в застосунку.