Дистилляция моделей

Приём, при котором одну модель обучают на ответах другой: так из большой модели делают меньшую почти без потери качества, а догоняющие лаборатории сокращают разрыв с лидером. В выпуске 189 Макс Григорьев так объясняет, почему китайские модели отстают на месяцы.