The Journal of Korea Institute of Information, Electronics, and Communication Technology (한국정보전자통신기술학회논문지)

Korea Information Electronic Communication Technology (한국정보전자통신기술학회)
권호 표지
DOI QR코드

DOI QR Code

Deep Learning System based on Morphological Neural Network

몰포러지 신경망 기반 딥러닝 시스템

  • Choi, Jong-Ho (Department of IoT Electronic Engineering, Kangnam University)
  • Received : 2019.01.18
  • Accepted : 2019.02.20
  • Published : 2019.02.28
Download PDF
⟨ Previous Next ⟩

Abstract

In this paper, we propose a deep learning system based on morphological neural network(MNN). The deep learning layers are morphological operation layer, pooling layer, ReLU layer, and the fully connected layer. The operations used in morphological layer are erosion, dilation, and edge detection, etc. Unlike CNN, the number of hidden layers and kernels applied to each layer is limited in MNN. Because of the reduction of processing time and utility of VLSI chip design, it is possible to apply MNN to various mobile embedded systems. MNN performs the edge and shape detection operations with a limited number of kernels. Through experiments using database images, it is confirmed that MNN can be used as a deep learning system and its performance.

본 논문에서는 몰포러지 연산을 기본으로 하는 몰포러지 신경망(MNN: Morphological Neural Network) 기반 딥러닝 시스템을 제안하였다. 딥러닝에 사용되는 레이어는 몰포러지 레이어, 풀링 레이어, ReLU 레이어, Fully connected 레이어 등이다. 몰포러지 레이어에서 사용되는 연산은 에로전, 다이레이션, 에지검출 등이다. 본 논문에서 새롭게 제안한 MNN은 기존의 CNN(Convolutional Neural Network)을 이용한 딥러닝 시스템과는 달리 히든 레이어의 수와 각 레이어에 적용되는 커널 수가 제한적이다. 레이어 단위 처리시간이 감소하고, VLSI 칩 설계가 용이하다는 장점이 있으므로 모바일 임베디드 시스템에 딥러닝을 다양하게 적용할 수 있다. MNN에서는 제한된 수의 커널로 에지와 형상검출 등의 연산을 수행하기 때문이다. 데이터베이스 영상을 대상으로 행한 실험을 통해 MNN의 성능 및 딥러닝 시스템으로의 활용 가능성을 확인하였다.

Keywords

JBJTBH_2019_v12n1_92_f0001.png 이미지

그림 1. CNN 구조 Fig. 1. CNN Architecture

JBJTBH_2019_v12n1_92_f0002.png 이미지

그림 2. 제안 MNN 구조 Fig. 2. Prosed MNN architecture

JBJTBH_2019_v12n1_92_f0003.png 이미지

그림 3. MNN 커널 Fig. 3. MNN Kernel

JBJTBH_2019_v12n1_92_f0004.png 이미지

그림 4. 테스트 영상(daisy,dandelion,rose,tulips) Fig. 4. Test image(daisy,dandelion,rose,tulips)

JBJTBH_2019_v12n1_92_f0005.png 이미지

그림 5. 에로전과 다이레이션 영상 Fig. 5. Erosion and Dilation image

JBJTBH_2019_v12n1_92_f0006.png 이미지

그림 6. 커널에 따른 특징 차이 Fig. 6. Feature difference by kernel

JBJTBH_2019_v12n1_92_f0007.png 이미지

그림 7. Pooling-ReLU 영상 Fig. 7. Pooling-ReLU image

JBJTBH_2019_v12n1_92_f0008.png 이미지

그림 8. Fully connected 레이어 Fig. 8. Fully connected layer

JBJTBH_2019_v12n1_92_f0009.png 이미지

그림 9. 구글 인셉션 구조 Fig. 9. Google Inception Architecture

표 1, CNN(구글 인셉션 모듈)과 MNN의 인식 결과 Table 1. Recognition results in CNN(Google inception module) and MNN

JBJTBH_2019_v12n1_92_t0001.png 이미지

References

  1. Alex Krizhevsky, Ilya Sutskever, and Geoffrey E. Hinton, "ImageNet Classification with Deep Convolutional Neural Networks", Advances in Neural Information processing Systems 25, NIPS, 2012.
  2. H. Lee, R. Grosse, R. Ranganath, and A.Y. Ng., "Convolutional deep belief networks for scalable unsupervised learning of hierarchical represent ations", Proceedings of the 26th Annual International Conference on Machine Learning, ACM, 2009.
  3. Y. LeCun, K. Kavukcuoglu, and C. Farabet, "Convolutional networks and applications in vision", International Symposium in Circuits and Systems (ISCAS), IEEE, 2010.
  4. Serra,J., Image Analysis and Mathe_ matical Morphology, Vol.1, Academic Press, New York, 1982.
  5. Serra, J., "Introduction to Mathematical Morphology," Computer Vision, Graphics, and Image Processing, Vol.35, No.3, 1986.
  6. Jongho, Choi and Jongsoo, Choi, "A Morphological Recognition Algorithm of Blob Shaped Particles for Automated Visual Inspection", Journal of KIISE, Vol. 21, No.5, May, 1994.
  7. Jong-Ho Choi, "Morphological Object Recognition Algorithm", Journal of KIIECT, Vol. 11, No. 2, April, 2018.
  8. Szegedy, Christian,et al. "Going deeper with convolutions." Proceedings of the IEEE conference on computer vision and pattern recognition. 2015.