평균 대조괴리도 알고리즘 기반 분류용 제한볼츠만기계

심주용; 신원용; 황창하

doi:10.7465/jkdi.2018.29.1.229

주제분류

...

저널정보

한국데이터정보과학회
한국데이터정보과학회지 학술저널
한국데이터정보과학회지 제29권 제1호
2018.1 229 - 240 (12page)
DOI : 10.7465/jkdi.2018.29.1.229

저자정보

심주용 (인제대학교)
신원용 (단국대학교)
황창하 (단국대학교)

이용수
내서재: 0

내서재에 추가
되었습니다. 내서재에서
삭제되었습니다.

초록·키워드

오류제보하기

제한볼츠만기계는 입력벡터에 대한 확률분포를 학습할 수 있는 생성모형으로서 주로 다른 학습 알고리즘을 위해 특징변수들을 추출하거나 심층 신경망의 가중치들의 초기값을 얻기 위해 사용되어 왔다. 그러나 최근 제한볼츠만기계에 라벨층을 추가하여 분류를 위한 제한볼츠만기계가 고안되었다. 분류용 제한볼츠만기계의 학습 알고리즘으로 주로 대조괴리도 알고리즘이 사용되고 있다. 본 논문에서는 분류용 제한볼츠만기계를 학습하기 위해 새로운 평균 대조괴리도 알고리즘을 제안하고 분류성능을 향상시킬 수 있음을 보인다. 제안된 방법을 적용한 분류용 제한볼츠만기계는 벤치마킹 자료들을 이용한 수치적 연구를 통하여 기존의 대조괴리도 알고리즘을 이용한 분류용 제한볼츠만기계보다 더 좋은 성능을 보여주는 것을 확인할 수 있었다.

Restricted Boltzmann machine (RBM) is a generative model that can learn probability distributions over input vectors. It has been mainly used to extract features for other learning algorithms or to obtain initial values of weights of deep neural networks. However, a discriminative RBM has been recently devised by adding a label layer to ordinary RBM. Contrastive divergence (CD) algorithm is mainly used for training discriminative RBM. In this paper, we propose an average CD algorithm for discriminative RBM and show that classification performance can be improved. The proposed method is evaluated through numerical studies based on real data sets available from UCI machine learning repository and MNIST database.

#대조괴리도 #분류용 제한볼츠만기계 #역전파 알고리즘 #제한볼츠만기계 #평균 대조괴리도 #Average contrastive divergence #backpropagation algorithm #contrastive divergence #discriminative restricted Boltzmann machine #restricted Boltzmann machine