Урок 4 із 6

Дистиляція

6 хв читання

Передова модель дає чудові відповіді, але коштує шалених грошей і працює повільно. А що, якби мала модель навчилася її наслідувати?

Велика модель як учитель

Дистиляція перетворює дорогу модель на дешеву. Велика модель-учитель розмічає купу прикладів (запитання разом зі своїми найкращими відповідями), а мала модель-учень донавчається на цій розмітці. Учень вчиться відтворювати поведінку вчителя, партія за партією, аж поки не наблизиться до його якості.

Учень ніколи не бачить готових відповідей від людини, а вчиться на тому, що видає вчитель. У цьому й весь трюк: одна повільна дорога модель створює тренувальні дані для швидкої й дешевої.

Більшість якості за частку ціни

Дистильований учень рідко точно збігається з учителем — зупиняється десь поруч. Зате працює значно швидше й дешевше, а часто в цьому й уся суть: його можна обслуговувати в масштабі, запускати на пристрої чи вкладатися в жорсткі вимоги до затримки. Багато малих моделей, якими ти користуєшся щодня, дистильовані саме з більшого родича.

Дистиляція міняє невелику втрату якості на великий виграш у ціні та швидкості. Коли обслуговуєш мільйони запитів, майже вчительська якість за десяту частину ціни — це помітно вигідніша угода.

Дистиляція — ще одна причина братися за донавчання розважливо: іноді виграш не в розумнішій моделі, а в тій самій поведінці в дешевшій.