Knowledge Distillation

Introduction

  • SDS에서 작성한 Knowledge Distilation 소개글

필요없는 가중치를 제거하는 기법인 Network pruning과 Knowledge Distilation의 기본 개념, 그리고 Teacher-Student Network까지 잘 정리되어 있습니다.

  • Awesome Knowledge Distilation - Github

  • Tensorflow KR에서 찾을 글 - Github

관련 연구분야 논문이 잘 정리되어 있습니다.

Sota 스러워 보이는 글

NextDistilling the Knowledge in a Neural Network

Last updated