knowledge-distillation

《Distilling the Knowledge in a Neural Network Hinton15》PDF

用简单的 student 网络的 logit 学习复杂的 teacher 网络的 logit。

《Ranking Distillation: Learning Compact Ranking Models With High Performance for Recommender System》

《知识蒸馏在推荐系统的应用》知乎

《推荐系统技术演进趋势:从召回到排序再到重排》知乎

本文有帮助?