좋은 자료를 하나 찾았다.
http://www.cs.huji.ac.il/~shais/UnderstandingMachineLearning/understanding-machine-learning-theory-algorithms.pdf
Learning theory를 수업하시는 교수님이 학교에 있었으면 얼마나 좋을까 하는 아쉬움이 있지만, 이제라도 알게되어서 참 좋다. 그런 의미에서 2장을 한번 정리해봤다. 최종적인 내용은 아주 간단하다. 몇 가지 가정이 주어졌을 때, 현재 내가 가지고 있는 분류기가 얼마의 성능을 낼 수 있을까?
증명을 조금 자세히 보면, (다 그렇듯이..) Union Bound를 써서 매우 loose한 bound이겠지만, 이런 테크닉 자체는 알아두면 좋을 것 같다. 아마 다음에 제대로 된 PAC learning이 나올 것 같다. 시간되면 이것도 정리해봐야지.
'Enginius > Machine Learning' 카테고리의 다른 글
| 수학 용어 정리 (0) | 2017.10.24 |
|---|---|
| Riemannian Manifold (0) | 2017.10.21 |
| 강화 학습이란? (2) | 2017.05.24 |
| Total variational distance between two empirical distributions (KDE) (0) | 2016.06.06 |
| Hierarchical Occupancy Flow (0) | 2015.12.21 |
