Journal Search Engine
Search Advanced Search Adode Reader(link)
Download PDF Export Citaion korean bibliography PMC previewer
ISSN : 1229-3431(Print)
ISSN : 2287-3341(Online)
Journal of the Korean Society of Marine Environment and Safety Vol.27 No.7 pp.1129-1136
DOI : https://doi.org/10.7837/kosomes.2021.27.7.1129

Design of PTZ Camera-Based Multiview Monitoring System for Efficient Observation in Vessel Engine Room

Heon-Hui Kim*, Sang-Jun Hong**, Taek-Kun Nam***
*Professor, Division of Marine Engineering, Mokpo National Maritime University, Mokpo 58628, Korea
**PhD Candidate, Department of Maritime Engineering, Mokpo National Maritime University, Mokpo 58628, Korea
***Professor, Division of Marine Engineering, Mokpo National Maritime University, Mokpo 58628, Korea

* First Author : heonhuikim@mmu.ac.kr, 061-240-7256


Corresponding Author : tknam@mmu.ac.kr, 061-240-7225
December 8, 2021 December 24, 2021 December 28, 2021

Abstract


A pan-tilt-zoom (PTZ) camera-based monitoring system for efficient monitoring in the engine room of a vessel was designed. A number of places exist where traditional analog instruments are still used in vessel engine rooms, and blind spots closely related to safety exist, for which flooding or fire is a concern. A camera-based monitoring system that guarantees a wide range at a relatively fast cycle for these monitoring points can be an effective alternative to enhance the safety of a vessel. Therefore, a multiview monitoring system is proposed in which the functions of the existing PTZ camera are further strengthened using a software. The monitoring system comprises four modules: camera control, location registration, traversal control, and multiview image reconstruction. The effectiveness of the method was evaluated through a series of experiments in an engine room environment.



선박 기관실의 효율적인 감시를 위한 PTZ 카메라 기반의 멀티뷰 모니터링 시스템 설계

김 헌희*, 홍 상준**, 남 택근***
*목포해양대학교 기관시스템공학부 교수
**목포해양대학교 기관시스템공학과 박사과정
***목포해양대학교 기관시스템공학부 교수

초록


본 논문은 선박 기관실 내의 효율적인 감시를 위한 팬-틸트-줌(PTZ) 카메라 기반의 모니터링 시스템의 설계 방법을 다룬다. 선 박 기관실에는 여전히 전통적인 아날로그 계기들을 사용하는 곳이 많고, 침수나 화재 등 안전과 밀접하게 관련된 사각지대들이 다수 존 재한다. 이러한 감시 개소들에 대하여 비교적 빠른 주기로 넓은 범위를 보장하는 카메라 기반 감시 시스템은 선박의 안전을 강화시킬 수 있는 효과적인 대안이 될 수 있다. 이에 본 연구에서는 기존 PTZ 카메라의 기능들을 소프트웨어적 방법으로 더욱 강화시킨 형태의 모니 터링 시스템을 제안한다. 보다 구체적으로는 카메라제어 모듈, 위치등록 모듈, 순회제어 모듈, 멀티뷰 영상재구성 모듈로 구성된 모니터 링 시스템의 설계 방법을 제안하고, 제안된 방법은 기관실 환경에서의 실험을 통해 그 효용성을 평가한다.



    1. 서 론

    최근 4차 산업혁명과 더불어 선박 및 해양 분야에서도 자 율운항선박, 스마트 항만 등의 중요성이 대두되면서 이에 관한 다양한 연구가 진행되고 있다(Jung et al., 2019;Lee, 2019). 자율운항선박을 대상으로 기관실 내의 주요 기기들의 유지보수 및 관리에 있어 상태기반정비(CBM: condition-based maintenance), 예지정비(PdM: predictive maintenance) 등의 개념 을 도입한 연구들이 활발히 진행되고 있다. 이러한 기법들 은 운전 기기들의 상태를 기반으로 기계학습 및 인공지능 기법을 적용하여 기기의 고장 징후나 미래에 발생 가능한 사태를 미리 파악하는 형태의 정비 방법이다(Jung, 2021). 사 실 CBM, PdM 기법들의 최하위 말단부는 기기들의 상태를 실시간으로 수치화시키는 수많은 센서들이 존재한다.

    현재의 선박 기관실 역시 다양한 센서, 액추에이터를 기 반으로 경보감시체계 및 자동화체계를 갖추고 있다(Kim and Yu, 2013). 그럼에도 불구하고 중요도에 따른 우선순위에 밀 려 여전히 전통적인 아날로그 계기들이 많은 곳에 사용되고 있는 것이 현실이다. 해양사고 원인 분석에 관한 연구(Lee et al., 2019)에 따르면, 2017년 당시 국내 해양사고 발생 유형 중 기관손상이 29.27 %로 가장 높은 비중을 차지하였으며, 사고발생 원인 중 정비 불량이 43.23 %로 가장 높은 비중을 차지하고 있음이 보고되었다. 이는 기관실 기기들의 유지보 수 및 관리에 있어 CBM 등과 같은 진화된 형태의 방법이 요구되며, 이를 지원할 수 있는 상태 감지용 센서들이 더욱 필요함을 시사한다. 또한, 선박의 기관실은 침수, 화재 등의 안전과 밀접하게 관련된 장소들이 많다. 이러한 곳들은 선 박의 안전과 직결되기에 당직자들의 주기적이고 철저한 감 시가 요구된다. 따라서 선박 사고의 요인이 될 수 있는 모든 기기들 및 안전과 직결된 장소의 감시를 위해 추가적인 센 서나 CCTV등을 이용하여 보다 철저한 감시체계를 구축하는 것도 선박의 안전을 확보하기 위한 하나의 방안이 될 수 있 다. 하지만 선박의 특성상 감시 개소가 너무 많다는 점은 비 용적 측면에서 현실적인 대안으로 보기 어렵다.

    본 연구는 선박의 현실을 고려하고, 선박 기관실 내의 감 시 개소에 대한 특성과 PTZ(pan-tilt-zoom) 카메라가 가지는 기능을 적극 활용한 효율적인 모니터링 시스템을 개발하고 자 한다. 일반적으로 PTZ 카메라는 원격지에 있는 사용자가 현장의 영상을 실시간으로 전송함에 있어 카메라 시점을 쉽 게 조작 가능하다는 장점이 있다. 카메라 영상을 활용하는 방안으로 화재, 누수 등의 감지(Park, 2019;Bae, 2009), 아날로 그 계기의 디지털화(Lee et al., 2020) 등의 기법을 응용할 수 있다. PTZ 카메라의 또 다른 활용도는 영상처리 기법 등을 통해 물체 추적 기능 등을 구현하여 카메라를 능동적으로 활용하는 것이다(Park, 2014). 본 연구에서는 기존의 PTZ 카 메라를 능동적으로 구동시키면서 이를 모니터링 용도로 활 용하고자 한다.

    선박 기관실내의 기기 이상, 누수/누유/화재 발생 등으로 인한 일반적인 상황을 고려해 보면 다음과 같이 정리할 수 있다. 사고가 발생하기 직전까지는 위험을 내재하고 있음에 도 불구하고 외관 상 특별한 징조를 발견하기 어렵다가 갑 자기 사고로 이어지는 경우가 많다. 다시 말해, 사고발생 위 험 장소는 주기적인 감시가 필요하며, 그 주기가 짧을수록 신속한 대응으로 이어질 수 있음을 시사한다. 특히 선박 기 관실 내에는 이러한 사고발생 위험 장소가 많다는 특성이 있으므로, 짧은 주기로 여러 장소를 소수의 카메라를 통해 감시 가능한 시스템이 있다면, 그 시스템은 저비용으로도 선박의 안전을 강화할 수 있다는 점에서 효과적이고 효율적 인 안전감시 시스템이라 할 수 있을 것이다.

    본 논문은 선박의 효율적인 안전 감시 시스템의 일환으로 능동 PTZ 카메라를 이용한 멀티뷰 모니터링 시스템을 제안 한다. 제안된 방법의 핵심 개념은 팬-틸트-줌 제어 기능이 있는 카메라를 능동적으로 구동시키면서 사전에 지정된 위 치에서의 영상을 캡처하고, 또 이렇게 캡처된 영상들을 하 나의 화면으로 출력되도록 재구성하는 것이다. 아울러 이러 한 개념을 토대로 PTZ 카메라제어 모듈, 위치등록 모듈, PTZ카메라 순회제어 모듈, 멀티뷰 영상 재구성 모듈로 구성 된 모니터링 시스템의 설계 방법을 제안한다. PTZ 카메라제 어 모듈은 팬, 틸트, 줌 제어 및 영상 스트리밍을 위한 인터 페이스 모듈이다. 위치등록 모듈은 그래픽 환경에서 사용자 가 카메라의 시점을 조작하여 이 정보를 데이터베이스에 저 장하는 모듈이다. 또한 PTZ 카메라 순회제어 모듈은 사전에 등록된 위치로 카메라를 지속적으로 순회시키는 모듈이며, 멀티뷰 영상 재구성 모듈은 순회 도중 캡처된 영상들을 하 나의 영상으로 재구성하여 출력시키는 모듈이다. 특히, 본 연구에서는 카메라의 순회 제어 과정에서 그 주기를 단축시 킬 수 있는 최적 순회경로 산출 및 순회 제어 알고리즘이 설 계된다. 위와 같이 제안된 방법은 선박 기관실에서의 실제 실험을 통해 효용성을 평가한다.

    논문의 구성은 다음과 같다. 제 2장에서는 제안된 능동 PTZ 카메라 기반의 모니터링 시스템의 설계 방법을 기술한 다. 제 3장에서는 제안된 시스템과 기법을 실험을 통해 평가 하고, 마지막으로 제 4장에서 결론을 맺는다.

    2. 능동 PTZ 카메라 기반 모니터링 시스템

    2.1 시스템 구성

    일반적으로 PTZ 카메라는 카메라와 관절형 액추에이터가 결합된 형태로 하나의 카메라를 이용하여 넓은 영역을 감시 하면서 이와 동시에 확대/축소의 기능을 통해 세부적인 영 역 또한 감시할 수 있도록 설계된 카메라 장치를 의미한다. 이러한 PTZ 카메라는 조이스틱 등의 하드웨어 인터페이스, 마우스/키보드 등과 연동된 소프트웨어 인터페이스를 통해 조작이 가능하다. 카메라의 조작 명령이 인간에 의해 이루 어지고 PTZ 카메라는 그 조작 명령에 따른 작업을 수행한다 는 관점에서, 이를 수동(passive)의 개념으로 본다.

    반면, 본 연구에서 다루는 PTZ 카메라 시스템은 능동 (active)의 개념을 도입하여 PTZ 카메라를 조작하기 위한 매 순간의 제어 명령이 인간에 의해 생성되지 않고 시스템에 의해 생성된다.

    본 논문은 능동 PTZ 카메라 시스템의 구성 방법을 다루고 있으며, 기존의 PTZ 카메라을 활용하는 경우 이를 능동화하 기 위한 시스템의 구성 방법은 Fig. 1과 같다. 제안된 방법은 PTZ 카메라 제어 모듈, 위치등록(site registration) 모듈, PTZ카 메라의 순회제어(traversal control) 모듈, 멀티뷰 화면 재구성 (multiview image reconstruction)모듈의 4개 모듈로 구성된다. 이렇게 4개의 모듈로 구성된 멀티뷰 모니터링 소프트웨어는 그림에서와 같이 하나의 PTZ 카메라와 직접 연동되어 카메 라 제어 기능 및 멀티뷰 모니터링의 기능을 수행하도록 설 계된다.

    2.2 멀티뷰 모니터링 소프트웨어 구조

    본 논문에서 제안된 멀티뷰 모니터링 소프트웨어의 보다 세부적인 구조는 Fig. 2와 같다. 제안된 소프트웨어는 앞서 설명한 4개의 주요 모듈로 구성되어 있으며, 이는 Fig. 2에서 블록으로 표시되어 있다. 또한 각 모듈 간 전송되는 주요 정 보는 신호선(화살표)으로 나타내었다.

    PTZ 카메라 제어 모듈은 팬, 틸트, 줌용 액추에이터의 구 동 제어 드라이버 및 카메라 영상 스트리밍을 위한 통합 인 터페이스 기능을 수행할 수 있도록 구성되어 있다. 따라서 이 모듈을 통해 원하는 PTZ 구동을 수행하거나 현재의 PTZ 상태 정보를 획득할 수 있다. 또한 카메라로부터 수신되는 실시간 영상을 캡처하여 이를 저장하거나 타 모듈로 전송하 는 역할을 담당한다.

    위치등록 모듈은 PTZ 카메라 제어모듈과 서로 연동되어 있는데, 사용자는 GUI(graphical user interface) 환경에서 버튼 등을 통해 카메라 제어 명령을 생성할 수 있다. 이렇게 생성 된 제어 명령은 위치등록 모듈에 의해 PTZ 참조값(references) 으로 변환되어 카메라 제어모듈로 전송되고, 카메라 제어모 듈은 이 값을 참조하여 카메라의 팬, 틸트, 줌의 구동 제어 를 수행한다. 한편, PTZ 카메라는 시리얼 통신을 통해 현재 의 팬, 틸트, 줌의 상태를 전송할 수 있으며, 이렇게 전송된 정보는 카메라 제어모듈에 저장됨과 동시에 위치 등록 모듈 로 전송된다. 카메라 제어모듈로부터 실시간 스트리밍되는 영상 또한 일정시간 간격마다 Full-HD(1920×1080) 영상으로 캡처되며, 캡처된 영상은 다시 위치등록 모듈과 멀티뷰 영 상 재구성 모듈로 각각 전송되도록 설계된다.

    위치등록 모듈은 GUI환경의 모듈로서 사용자가 PTZ 카메 라의 팬, 틸트, 줌 조작을 통해 카메라를 특정 감시 위치로 이동시킨 후 이 정보가 데이터베이스에 저장되도록 설계된 다. Fig. 3은 위치등록 모듈의 화면 구성 예시를 나타내며, 주 요 요소에 대한 설명이 포함되어 있다. 화면 중앙에는 실시 간 영상 출력 화면을 배치하여 사용자가 향후 감시할 위치 에서 캡처한 영상을 쉽게 확인할 수 있도록 하였다. 좌측 하 단부에는 등록 장소 정보를 입력하기 위한 텍스트 입력창을 위치시켰다. 이를 통해 현재의 감시 위치를 대표하는 명칭 과 그 위치에 대한 개요를 함께 등록할 수 있도록 설계하였 다. 그 우측에는 PTZ 카메라의 현재 상태를 출력하는 창을 두어 사용자가 이를 확인하며 카메라를 조작할 수 있도록 설계하였다. PTZ카메라의 현재 상태 표시창 우측에는 카메 라 조작 버튼들을 위치시켰으며, 이를 통해 카메라의 팬/틸 트 각도와 줌 레벨을 조작할 수 있도록 설계하였다. 다음으 로 등록관리 버튼들은 카메라 조작 후 현재의 카메라 위치 정보들을 데이터베이스에 추가하거나 기존의 정보들을 삭 제하는 기능을 포함한다. Fig. 3에서 화면 우측에는 등록된 장소 정보에 대한 리스트를 보여주고 있다. 사용자는 마우스 조작을 통해 특정 위치를 더블클릭하여 그 위치로 카메라를 이동시킬 수 있으며, 필요한 경우 다시 조작할 수 있음은 물 론 수정된 정보들로 등록 장소 정보를 갱신시킬 수 있다.

    Fig. 3의 우측 하단부에 위치한 순회제어 버튼들은 카메라 순회 제어 기능의 활성화 및 정지 조작을 위한 것으로, 버튼 조작에 의해 순회제어 기능이 활성화 되는 경우 Fig. 2의 순 회제어 모듈(traversal control module) 내의 작업스레드(task thread)가 시작된다.

    2.3 PTZ 카메라의 순회제어 및 멀티뷰 영상 재구성

    순회제어 작업 스레드가 시작되면 본격적으로 PTZ 카메라 의 순회제어 알고리즘이 구동되며, 그 세부 내용은 Algorithm 1과 같다. 순회제어 알고리즘은 현재 등록된 감시위치에 대 한 정보로 구성된 사이트 DB를 참조하여 구동된다. 우선 알 고리즘 구동에 필요한 Δt, ϵ, Tmax의 파라미터들을 초기화 하는데, 이들은 각각 샘플링시간, 허용오차, 타임아웃시간을 각각 나타낸다(Line 1 참조). 이후에는 Line 3~16을 반복해서 구동하는데, 이때의 종료 조건은 Fig. 3의 GUI 상에서 “Stop control” 로 명명된 버튼을 누를 때 생성되는 시그널(signal)이 발생한 경우이다. 순회제어는 등록된 모든 위치들에 대하여 Line 4~14를 실행한다. 우선 카메라의 이동 시간을 체크하기 위한 변수 t를 0으로 초기화 한다. 또한 카메라를 다음 위 치로 이동시키기 위한 팬, 틸트, 줌의 참조값(xref∈ ℝ3)을 getPtzReferences() 함수를 통해 읽는다(Line 5). 다음으로 xref 를 카메라제어 모듈을 통해 PTZ 카메라로 전송하게 되며, PTZ 카메라는 이 제어 명령을 전송받은 즉시 위치추종 제어 를 수행한다(Line 6). 이렇게 카메라의 위치추종제어가 수행 되면서 Line 8~14의 루프가 반복하여 수행된다. 이 루프의 종료조건은 이동에 소요되는 시간(t)이 초기에 설정된 타임 아웃시간(Tmax) 이상이 되는 경우로, 이는 알고리즘이 어떠 한 이유로 무한루프에 빠지는 것을 미연에 방지하기 위함이 다. Line 8~14는 카메라의 이동과 영상 캡처 시점을 결정하기 위한 루프이다. 우선 PTZ 카메라의 현재 상태를 getPtzStates() 함수를 통해 읽고(Line 8) 이동 시간을 업데이트 한다(Line 9). 만약 참조값(xref ∈ ℝ3)과 현재 상태(xc ∈ ℝ3)와의 오차 가 허용오차(ϵ)보다 작으면 이동이 완료된 것으로 간주하여 영상캡처 신호를 발생시킨 후 루프를 빠져나온다. 이렇게 루프를 빠져나오면 PTZ 카메라를 다음 위치로 이동시키는 루프를 다시 시작한다. Line 10에서 해당 조건이 성립하지 않으면 Line 14에서와 같이 wait() 함수를 통해 샘플링 시간 동안 기다린 후 다시 Line 8부터의 루틴을 시작한다.

    앞서 설명한 바와 같이 PTZ 카메라의 전체 순회시간 및 캡처 영상의 품질과 관련된 파라미터는 ϵTmax라 할 수 있다. ϵ을 아주 작은 값으로 설정하면, 위치이동 정확도가 높아지며 카메라가 정지된 상태에서 영상을 캡처하게 되므 로 매우 안정적인 영상을 얻을 수 있다. 반면, 팬/틸트/줌 오 차가 조금이라도 발생한 경우 Tmax시간까지 기다려야 하므 로 전체적인 순회시간이 길어질 수 있다. 따라서 바람직한 캡처영상의 품질과 순회시간을 얻기 위해서는 이 파라미터 들을 적절하게 설정하여야 한다. 본 논문에서는 이 파라미 터들의 값을 ϵ = 0.5, Tmax = 5.0 으로 설정하였다.

    Algorithm 1의 11번째 줄에 있는 emitCaptureSignal() 함수를 통해 캡처된 영상들이 멀티뷰 모니터링 모듈로 전송되면, 이 모듈은 수집된 영상들을 이용하여 하나의 통합 영상을 생성한다. 멀티뷰 모니터링 모듈은 우선 그리드(grid) 형태로 구성된 하나의 빈 화면을 생성한다. 이 화면에는 등록된 위 치에서 캡처된 모든 영상이 출력되어야 하므로 캡처된 영상 이 위치할 적절한 영역을 산출할 필요가 있다. 논문에서는 빈 화면의 크기를 Full-HD 해상도로 설정하였으며, 캡처된 영상 역시 Full-HD 해상도를 가진다.

    논문에서의 화면 재구성 규칙은 1)캡처된 영상의 해상도 비 율을 그대로 유지하면서 영상을 축소하고 2)모든 영상이 출력 되도록 영역을 지정하는 것으로 정하였다. 특히 화면재구성 규칙 2)를 만족할 수 있도록 통합 영상을 n × n개의 영역으로 분할하였고 각각의 영역에 캡처된 영상들이 배치될 수 있도 록 하였다. 이에 순회 사이트의 개수(nsite )에 대한 통합 영상 의 그리드의 개수(ngrid)는 식(1)을 통해 간단히 결정된다.

    n g r i d = c e i l [ n s i t e ]
    (1)

    여기서 ceil [⋅] 은 소수점 올림 연산을 위한 연산자를 나타 낸다. 이를 통해 통합 영상은 ngrid × ngrid의 개수로 분할될 수 있으며 캡처되는 영상들은 이 영역에 축소되어 배치된다.

    2.4 최적 순회경로 산출 알고리즘

    앞 절에서 기술하였듯이 PTZ 카메라의 순회 제어는 사전 에 등록된 모든 위치들을 한 번씩 방문하면서 영상을 캡처 하는 것이다. 그런데 사전에 등록된 위치들은 임의적이기 때문에 순회시간, 액추에이터의 소비전력 등을 고려하여 최 적의 순회경로를 구하고, PTZ 카메라가 이 경로를 따라 구 동하도록 제어한다면 시스템의 효율성을 높일 수 있다.

    이를 위한 최적 순회제어 문제는 TSP(외판원문제: traveling salesman problem)로 정형화할 수 있다. TSP는 전형적인 NP-hard 문제로 최적의 조합해를 찾는 것은 O(n!)의 계산 복잡도를 가진다(Abdulkarim and Alshammari, 2015). 이를 위한 해법으로 DP(동적계획법: dynamic programming), 유전알고리즘(genetic algorithm), 탐욕알고리즘(greedy algorithm) 등과 같은 다양한 알고리즘이 존재한다. DP알고리즘은 전역해(global solution) 에 대한 해법을 제시하지만 계산 복잡도가 O(2nn2 )으로 서 방문 노드가 15개 이상이 되면 고성능 PC에서조차 실시 간성을 보장하기 어렵다. 탐욕 알고리즘은 계산에 소요되는 시간을 단축시키면서도 현실적인 지역 최소값(local minimum) 를 찾을 수 있는 장점이 있으므로(Abdulkarim et al., 2015), 본 논문에서는 탐욕 알고리즘을 적용하여 TSP 문제를 풀고자 한다. 탐욕 알고리즘을 이용하기 위해서는 우선 거리행렬 (distance matrix)을 정의해야 하므로 N개의 방문노드에 대하 여 거리행렬 D ∈ ℝN ×N로 정의한다. 또 임의의 노드에 대 한 인덱스가 k라고 한다면 이 노드를 방문하기 위한 팬, 틸 트 각도와 줌 레벨을 각각 pk, tk, zk라 표기한다. 그러면 행렬 D의 (i,j)번째 요소를 Dij로 표기할 때 각각의 요소는 식 (2)와 같이 결정된다.

    D i j = w p p i p j + w t t i t j + w z z i z j
    (2)

    여기서 wp, wt , wz은 각각 팬, 틸트, 줌의 비용을 고려한 가 중치를 의미한다.

    일반적으로 팬 및 틸트 구동용 액추에이터는 줌 구동용 액추에이터에 비해 반응 속도가 빠르다. 가령 본 논문에서 팬, 틸트 구동용 액추에이터는 100 deg/s의 각속도로 구동되 도록 설정되었으며 카메라 줌의 경우 레벨 1에서 레벨 36으 로 전환되는데 대략 3초가 소요되었다. 팬/틸트 구동기의 구 동속도를 υpt라 하고 줌 구동기의 구동속도를 υz라 할 때, 본 논문에서는 wp = wt = 1/υpt , wz = 1/υz로 가중치를 설정하고 식(2)를 통해 거리행렬을 결정하였다.

    일단 거리행렬이 결정되면 탐욕 알고리즘을 적용할 수 있 는데, 탐욕 알고리즘에 관한 내용은 잘 알려져 있으므로(TSP Solver, 2021) 이에 관한 세부 설명은 생략한다. 입력된 거리 행렬 및 시작 노드의 인덱스에 대해, 탐욕 알고리즘은 최적 의 순회 경로에 대응되는 노드들의 리스트를 반환한다. 따 라서 반환된 노드들의 리스트를 참조하여 Algorithm 1을 적 용하면 PTZ 카메라는 최적의 순회 경로를 따라 순회 제어를 수행하게 된다.

    3. 실험결과 및 고찰

    3.1 실험환경

    본 논문에서 제안된 능동 PTZ 카메라 기반 모니터링 기법 의 효용성을 평가하기 위하여 실험을 수행하였다. Fig. 4는 실험을 위해 구축된 능동 PTZ 카메라의 하드웨어 시스템을 나타낸다. 여기서 PTZ 카메라는 상용품인 FH336 V2 모델을 이용하였다. 이 카메라는 네트워크 소켓 또는 시리얼 통신을 통해 팬, 틸트, 줌의 제어가 가능하나 본 연구에서는 시리얼 통신을 이용하여 구동되도록 구현하였다. 실시간 영상은 RTSP 네트워크 프로토콜을 통해 클라이언트에서 스트리밍 될 수 있으며, 논문에서는 오픈 소스 라이브러리인 OpenCV 를 기반으로 영상 캡처 및 처리 전반을 구현하였다. 또한 멀 티뷰 모니터링 소프트웨어의 모든 모듈들은 Python 3.8버전 을 기반으로 구현되었다.

    Fig. 5는 실험을 위해 활용된 선박 기관실의 내부를 나타 내고 있다. 이곳에는 각종 아날로그 계기나 누유 가능성이 있는 밸브 등 주기적인 감시가 필요한 기기들이 설치되어 있다. 본 논문에서 제안된 멀티뷰 모니터링 시스템은 감시 위치의 개수에 있어 제약 사항은 없으나 카메라의 전체 순 회 시간, 멀티뷰 모니터링 화면에서의 가시성 등을 고려하 여 9개의 감시위치를 결정하고 Fig. 3의 위치등록 GUI를 이 용하여 각각의 위치에 대한 정보를 저장하였다.

    3.2 실험결과

    우선 사전에 등록된 9개의 감시위치에 최적 순회경로 산 출 알고리즘을 적용하지 않은 상태로 PTZ 카메라의 순회 제 어를 활성화하였다. Fig 6은 PTZ 카메라의 기동 시점부터 100초까지의 시간 동안의 순회 제어 결과를 나타내고 있다. 여기서 파란색 실선은 제어 참조값(control reference)을 나타 내고 있으며, 검정색 점선은 시간에 따른 PTZ 상태를 나타 낸다. Fig. 6(a)는 초기 위치등록 작업 시 등록된 순서에 따라 순회하는 PTZ 카메라의 팬, 틸트 각도와 줌 레벨의 변화를 나타내고 있다. Fig. 6(a)의 결과를 토대로 볼 때 PTZ 카메라 가 등록된 감시 위치를 한 번 순회하는데 소요되는 시간은 대략 34초 정도 소요되고 있음을 알 수 있다. 다음으로 Fig 6(b)는 9개의 감시 위치에 대해 최적 경로 산출 알고리즘을 적용한 순회 제어 결과를 나타낸다. Fig. 9(b)를 토대로 보면 최적 순회 경로를 적용한 경우 한 주기가 대략 25초 정도로 다소 짧아짐을 알 수 있다.

    PTZ 카메라의 순회 제어 시간을 보다 면밀히 분석하기 위 하여 총 30번의 순회 데이터에 대하여 최소값(Min), 최대값 (Max), 평균(Mean), 표준편차(Std)를 각각 구하여 Table 1에 나 열하였다. 우선 최적경로산출 알고리즘을 적용하지 않은 경 우, 가장 빠른 순회시간은 33.05초로 확인되었으며, 가장 느 린 순회시간은 40.68초로 조사되었다. 또한 평균 소요시간은 34.94초이며 이때의 표준편차는 2.25초로 조사되었다.

    반면 최적 경로산출 알고리즘을 적용한 경우, 최소값은 21.99초, 최대값은 34.05초, 평균 소요시간은 26.77로 확인되 었으며, 평균 소요시간을 근거로 볼 때 약 23.38 %의 순회시 간을 줄일 수 있었다.

    Fig. 7은 멀티뷰 화면의 구성 과정을 나타낸다. 일단 순회 제어가 시작되면 PTZ 카메라의 이동 및 영상캡처 과정이 반 복되는데, 이때 캡처된 영상들이 멀티뷰 화면 재구성 모듈 에 전달된다. 멀티 뷰 화면 재구성 모듈은 이렇게 전달된 영 상들이 하나의 화면에 출력될 수 있도록 하나의 영상으로 재구성된다.

    Fig. 7(a)~(i)는 이 과정 전반을 나타내고 있다. 초기 빈 영상을 시작으로 (a)에서 (i)순으로 캡처된 영상들이 순차적 으로 채워지고 있음을 알 수 있다. 이때 캡처된 영상들이 나 란히 배치되지 않는 이유는 최적 순회 경로가 적용되어 영 상들이 캡처되었기 때문이다. 일단 Fig. 7 (i)와 같이 모든 감 시 위치에서의 영상들이 병합된 후에는 새로운 영상이 전달 될 때마다 해당 위치에서의 영상만 업데이트된다.

    Fig. 8은 9개의 카메라 시점에서 캡처된 모든 영상들이 하 나의 영상으로 재구성된 영상의 예시를 나타낸다. 재구성된 영상의 해상도는 Full-HD로서 일반적인 PC 모니터의 전체화 면으로 출력되며, 영상에 포함된 하위 영상들은 식별이 용 이하도록 등록 시 입력되었던 이름이 좌측 상단부에 출력되 도록 구현되었다.

    4. 결 론

    본 논문에서는 선박 기관실의 효율적인 감시를 위한 PTZ 카메라 기반의 모니터링 시스템을 제안하였다. 특히, 소프트 웨어적인 방법으로 기존의 PTZ 카메라를 활용도를 높일 수 있도록 시스템의 구성 및 설계 기법에 초점을 맞추었다.

    이를 위해 카메라 제어모듈, 위치등록 모듈, 순회 제어 모 듈, 멀티뷰 영상재구성 모듈로 구성된 모니터링 시스템의 설계 방법을 제안하였다. 우선 PTZ 카메라의 하드웨어 시스 템과의 인터페이스를 위한 카메라 제어모듈이 구성되었고, GUI 환경에서 사용자가 카메라의 조작 및 위치 등록을 위한 위치등록 모듈이 설계되었다. 또한 PTZ 카메라의 자동적 순 회제어를 위한 순회제어 알고리즘이 제안되었고, 순회 주기 를 더욱 낮출 수 있는 최적 순회경로 산출 알고리즘이 적용 되었다. 제안된 방법의 유효성을 평가하기 위하여, 선박 기 관실을 대상으로 9개의 감시 위치에 대한 실험을 수행하였 으며 만족할 만한 결과를 얻었다. PTZ 카메라의 순회 제어 의 경우, 등록된 위치 순으로 순회하는 것에 비해 최적 순회 경로 산출 알고리즘을 적용한 경우 약 23.38 %의 순회 소요 시간을 줄일 수 있었다.

    항해 중인 선박 기관실 환경은 항상 선체 동요와 진동을 포함하고 있으므로 카메라 영상 또한 이러한 요인에 영향을 받을 수 있다. 이러한 선박 기관실 환경에 적합한 PTZ 카메 라 설계, 진동으로 인한 영상보정 등에 관한 연구는 추후과 제로 남긴다.

    감사의 글

    본 과제(결과물)는 교육부와 한국연구재단의 재원으로 지 원을 받아 수행된 사회맞춤형 산학협력 선도 대학(LINC+) 육성사업의 연구결과입니다.

    Figure

    KOSOMES-27-7-1129_F1.gif

    Configuration of proposed monitoring system.

    KOSOMES-27-7-1129_F2.gif

    Software architecture of proposed monitoring system.

    KOSOMES-27-7-1129_F3.gif

    GUI configuration of Site registration module.

    KOSOMES-27-7-1129_F4.gif

    Implemented hardware system for experiments.

    KOSOMES-27-7-1129_F5.gif

    Target monitoring site in vessel engine room.

    KOSOMES-27-7-1129_F6.gif

    Experiment results of pan/tilt angle and zoom level w.r.t. time during traversal control. For every figure, the blue line represents control reference and the black-dot line represents feedback state from PTZ camera.

    KOSOMES-27-7-1129_F7.gif

    Sequentially reconstructed images by multiview image reconstruction module when starting traversal control.

    KOSOMES-27-7-1129_F8.gif

    An example scene of multiview monitoring system.

    Table

    Algorithm for traversal control of PTZ camera

    Result of statistics of traversal time [unit: sec]

    Reference

    1. Abdulkarim, H. A. and I. F. Alshammari (2015), Comparison of algorithms for solving traveling salesman problem, International Journal of Engineering and Advanced Technology, Vol. 4, No. 6, pp. 76-79.
    2. Bae, S. H. (2009), Image detection system for leakage regions of hydraulic fluid in faring press machine, Vol. 12, No. 11, pp. 1157-1562.
    3. Jung, H. , H. Chang, and Y. Song (2019), Trend of Autonomous Navigation Technology for Unmanned Ship, Journal of Institute of Control, Robotics and Systems, Vol. 25, No. 1, pp. 76-87.
    4. Jung, H. S. (2021), A study on the condition based maintenance development for the expansion of CBM adoption in weapon systems, Journal of the Korea Academia-Industrial Cooperation Society, Vol. 22, No. 8, pp. 631-638.
    5. Kim, J. H. and Y. H. Yu (2013), Development of engine room monitoring system complied with IEC 61162-3 international standards for ship’s network, Journal of the Korean Society of Marine Engineering, Vol. 37, No. 2, pp. 183-191.
    6. Lee, D. W. , S. J. Kim, Y. S. Han, S. W. Lee, S. B. Jeon, and D. Seo (2020), Automatic reading analog gauge with handheld device, IEEE International Conference on Consumer Electronics, pp. 1-3.
    7. Lee, T. H. (2020), Smart Port Policy Trend of Europe and Singapore and Its Political Implications, Journal of Korea Port Economic Association, Vol. 36, No. 1, pp. 77-90.
    8. Lee, Y. J. , S. K. Kang, and J. Y. Gu (2019), A study on marine accident ontology development and data management: based on a situation report analysis of southwest coast marine accidents in Korea, Journal of the Korean Society of Marine Environment & Safety, Vol. 25, No. 4, pp. 423-432.
    9. Park, H. S. (2014), Active object tracking system for intelligent video surveillance, Journal of Korea Institute of Information, Electronics, and Communication Technology, Vol. 7, No. 2, pp. 82-85.
    10. Park, K. M. (2019), A study on smoke detection using LBP and GLCM in engine room, Journal of the Korean Society of Marine Environment & Safety, Vol. 25, No. 1, pp. 111-116.
    11. TSP Solver (2021), https://pypi.org/project/tsp-solver2.