본문 바로가기

[Deep Learning ]RBM trained with Contrastive Divergence Boltzmann Machine은 [0,1]의 값을 갖는 binary unit들로 이루어진 network를 의미한다. 위의 Figure1은 Boltzmann Machine을 안다면 누구나 한번쯤 봤을 그림이다. 먼저 왼쪽의 모형이 general BM이다. 이 BM의 특징은 full-connectivity에 있다. 그리고 오른쪽에 모형이 restricted BM이다. 이 모형은 visible node와 hidden node를 분리시켰다. 이것이 BM과 RBM의 차이이다. 이 간단한 차이로 RBM은 실제 구현이 가능하고, BM은 구현이 매우 어렵다. 앞서 설명하였듯이 BM에서 node는 0또는 1의 binary한 값을 갖는다. 그리고 각 node사이에는 symmetric하게 link가 있는데, 이 link에.. 더보기
2012년 6월 노트북 CPU 순위 출처: http://darg.danawa.com/Darg_view.php?nDarg=1&nBoardSeq=87&nSeq=2148110 순위CPU 명코어개수1Intel Core i7-3920XM42Intel Core i7-3820QM43Intel Core i7-3720QM44Intel Core i7-2960XM45Intel Core i7-2860QM46Intel Core i7-3615QM47Intel Core i7-3610QM48Intel Core i7-2920XM49Intel Core i7-2760QM410Intel Core i7-2820QM411Intel Core i7-3612QM412Intel Core i7-2720QM413Intel Core i7-2675QM414Intel Core i7-2670QM.. 더보기
max (find maximum values in matrix) 1. 전체 행렬에서 최대값과 index찾기>> A = randn(10,3) A = 0.8884 -0.10224 -0.86365 -1.1471 -0.24145 0.077359 -1.0689 0.31921 -1.2141 -0.8095 0.31286 -1.1135 -2.9443 -0.86488 -0.0068493 1.4384 -0.030051 1.5326 0.32519 -0.16488 -0.76967 -0.75493 0.62771 0.37138 1.3703 1.0933 -0.22558 -1.7115 1.1093 1.1174 >> [maxVal maxInd] = max(A) maxVal = 1.4384 1.1093 1.5326 maxInd = 6 10 6 2. 어떤 행렬의 특정 row에서 최대값과 index찾기.. 더보기
내가 만든 LDA in Matlab 최종적으로 하려는 것은 LDA와 다른걸 좀 섞는 것이기 때문에 남이 만든 LDA 함수를 사용하니 내 입맛대로 변경하기가 어려워서..(사실 잘 이해가 안되서 ㅠㅠ..) 결국, 일반적인 fisher criteria를 이용한 LDA를 만들어보았다. 1. 결과 복잡하게(?) 흩어져 있는 data에 LDA를 적용하였다. 그리고 그 결과는 다음과 같다. 분석부터 하자면 LDA는 이름에서 알 수 있듯이 Linear Transform이기 때문에 한계점이 상당히 존재한다. 2. 매트랩 코드 이 코드에 보면 projection matrix를 구하는 과정이 있는 데 이 때 eigenvalue의 sum에 몇 %까지에 해당하는 eigenvalue에 해당하는 eigenvector까지 사용하는 routine을 추가할 필요가 있다... 더보기