Journal Archive

MSE에 기본을 두고 발전된 모든 신호처리 알고리듬은 충격성 잡음 같은 비가우시안(non-Gaussian) 잡음이 존재하는 환경에서 매우 열악한 성능을 보인다[1]. 이에 오차 샘플의 엔트로피(error entropy)를 최소화하도록 설계된 최소오차엔트로피 MEE(minimum error entropy) 비용함수는 채널의 심각한 심볼간 간섭과 충격성 잡음 환경에서도 우수한 equalization 성능을 지닌다[2]-[4]. 또한 MEE 학습법은 최근 다중 안테나 레이다(MIMO Radar)[5], 전력 시스템 상태추정[6], 우주선 상태추정[7], 머신 러닝[8]-[10]등 가우시안 잡음 하의 신호 및 정보 처리 응용 등에 적극 적용되고 있다. 그러나 MEE는 이중 합산(double summation) 계산이 필요하여 계산량과 복잡도의 문제를 지니고 있다. 이에 MEE의 계산량을 줄여보려는 연구가 이루어졌다. 논문 [11]에서 어느 정도 계산량을 줄였으나 이중합산 과정은 여전히 남아있다. 한편, 논문 [12]에서 성능상의 유의미한 차이가 없으면서 이중 합산을 없앤 간소화된 MEE 기준과 가중치 갱신 알고리듬(이 논문에서 simplified MEE, SMEE라 하겠다)을 제안하였다.

한편, 계산량 문제 외에도 MEE는 고정값 커널 폭이 성능에 매우 민감하게 작용하여 각 통신 환경에 알맞은 커널 폭이 신중하게 선택되어야 한다[13]. 잡음환경이나 채널 왜곡 상태가 바뀌게 되면 입력 신호의 통계적 변화를 추적하여 커널 폭을 적응적으로 조절할 필요가 있다. 이에 논문 [14]에서는 오차샘플들에 확률밀도 추정 최적화 기반의 기존 커널 폭 적응 조절 방법[13]이 MEE에서 적정 커널 폭으로 수렴되지 못함을 밝혔고, 이 문제를 해결하고자 오차 전력의 평균변화율을 활용하여 커널 폭을 갱신하는 새로운 MEE 적응 커널 알고리듬을 제안하였다. 이 적응 커널 폭 알고리듬은 충격성 잡음 환경에서 우수한 수렴 특성을 가지며 초기 커널 폭 선택의 여유도를 크게 향상시킴을 보였다.

여기서, 이 적응적 커널 폭 조절 방법이 간소화된 SMEE 알고리듬에 적용될 수 있다면 계산량 및 복잡도 문제와 커널 폭 설정 문제가 모두 해결될 수 있다. 이 논문에서는 이 적응 커널 폭 방법이 SMEE 알고리듬에 적용될 수 있는지 그리고 어떤 특성들이 나타나는지에 대해 연구하였다.

커널 폭 σ의 가우시안 커널 G_σ(•)을 시간 k의 오차에 e_k대해 정의하면 다음과 같다.

이 가우시안 커널과 샘플 사이즈 N의 오차 샘플들로 다음과 같이 오차확률밀도를 추정할 수 있다[15],[16].

이 추정 오차확률밀도에 엔트로피를 적용한 Renyi 엔트로피 H_R(e)는 다음과 같다[1],[2].

식 (3)의 내항은 다음과 같이 정보 포텐셜(information potential)이 되며 오차 엔트로피를 시스템 가중치 W로 최소화하는 MEE는 정보 포텐셜 V(e_k)를 최대화하는 것과 같다[2].

여기서

한편, 입력 벡터를 X_k, 출력을 y_k라 할 때, L개의 가중치로 구성된 가중치 벡터 W_k의 TDL(tapped delay line)을 시스템으로 하여 입력 벡터 X_k가 들어가면 출력은 yk=WkTXk가 된다. 원하는 신호(training data) d_k와 출력의 차이를 오차 e_k = d_k - y_k로 정의할 때, 식 (5)를 미분한 기울기로 다음과 같은 MEE 알고리듬을 얻을 수 있다[2],[4].

여기서 μ는 수렴 속도와 안정도를 관장하는 스텝 사이즈이다. MEE의 성능 기준(5)와 학습 알고리듬(6) 모두 이중 합산과정이 필요하여 과도한 계산량 또는 시스템 복잡도를 지닌다. 한편, 식 (5)의 이중 샘플 평균 1N∑i=k-N+1k1N∑j=k-N+1k 대신 두 순시값 G_σ(e_k - e_k-1)과 Gσek-ek=1σ2π만을 정보 포텐셜로 사용하는 간소화된 정보 포텐셜 V^ek를 논문[12]에서 제안하였다.

이 경우, 최소오차 엔트로피는 maxWV^ek=maxWGσek-ek-1가 된다.

이렇게 단순화된 식 (7)의 SMEE (simplified MEE) 성능 기준을 사용하여 TDL의 가중치를 갱신하면 다음과 같은 SMEE 알고리듬을 얻게 된다[12].

더 이상 합산과정이 필요 없는 단순해진 SMEE 알고리듬(8)이 기존 MEE 알고리듬인 식 (6)과 비교할 때 크게 감소한 계산량을 가지고 있음을 알 수 있다.

그러나 상숫값의 커널 폭 σ는 특정 상황에 맞는 값으로 선택되어야 하므로 변화하는 통계적 환경에 대처할 수 없다. 또한 식 (6)과 식 (8)의 분모에 공통으로 σ²이 있어서 큰 σ값에서는 가중치 갱신이 무효화되고 작은 값일 때에는 쉽게 불안정해짐을 알 수 있다. 성능에 민감하게 영향을 미치는 이 커널 폭은 적절한 적응추정이 필요한 실정이다.

오차 전력의 평균변화율을 활용하여 커널 폭을 갱신하는 적응 커널 알고리듬을 정리하면 다음과 같다. 미소 커널 폭 변동 Δ에 오차 전력이 어떻게 변동하는가를 나타내는 오차 전력 평균변화율을 도출하기 위해, 현재 커널 폭 σ_o와 미소 증분을 가진 커널 폭 σ_Δ = σ_o + Δ, 두 변수가 필요하다. 폭 σ_o를 채용하여 출력 yo,k=Wo,kTXk을 내는 주필터, 폭 σ_Δ를 채용하여 출력 yΔ,k=WΔ,kTXk을 내는 부필터, 이렇게 두 가지 필터를 병용한다. 오차 또한 e_o,k = d_k - y_o,k와 e_Δ,k = d_k - y_Δ,k로 과거 N개 샘플들이 평균된 주필터 오차 전력 ε(e_o,k)와 부필터 오차 전력 ε(e_Δ,k)를 다음과 같이 얻을 수 있다.

오차 전력 차이 (error power difference, EPD)를 EPD = ε(e_Δ,k) - ε(e_o,k) 라고 정의하면 미소 커널 폭 변동 Δ에 오차 전력이 어떻게 변동하는가를 나타내는 오차 전력 평균변화율은 다음과 같이 구할 수 있게 된다.

식 (11)을 기울기로 활용하고 커널 폭 갱신을 위한 스텝 사이즈 μ_σ를 steepest descent 방법에 적용하면 다음과 같은 적응 커널 폭 갱신 알고리듬을 얻을 수 있다[14].

식 (12)와 식 (13)의 적응 커널 폭 추정방식을 채용한 SMEE 알고리듬 (이 논문에서 SMEE with kernel width adaptation, SMEE-KWA라 하겠다)을 식 (14)-(18)과 같이 제안한다.

여기서, 이 적응적 커널 폭 조절 방법이 적용된 SMEE 알고리듬이 제대로 작동하는지와 어떤 특성들이 나타나는지를 충격성 잡음과 다중경로 채널 환경에서 채널등화 성능실험을 통해 알아본다. 비교 대상으로 기존 MEE 알고리듬에 식 (12)와 식 (13)의 적응 커널 폭을 채용한 MEE-KWA (MEE with kernel width adaptation)는 다음과 같다[14].

한편, SMEE-KWA와 MEE-KWA의 커널 조절에 필요한 계산량은 EDP 계산과정이 같으므로 가중치 갱신 과정에서 달라진다. 즉, 식 (14)를 1 operation, O(1)이라 하면 식 (19)는 O(N²)의 계산량이 필요함을 알 수 있다. 따라서 커널 폭 추정과정에서도 SMEE-KWA가 가지는 계산량 감소 효과는 상당하다 할 수 있다.

간소화된 SMEE에 적응 커널 폭이 적용된 SMEE-KWA 알고리듬과 기존의 MEE에 커널 폭 적응 조절이 가능한 MEE-KWA를 충격성 잡음 있는 다중경로 무선통신 채널의 equalization 성능으로 비교 분석하고자 한다.

그림 1의 기저대역 통신시스템에서 심볼집합 {±1,±3}의 한 심볼이 무작위로 선택된 d_k가 채널 H(z)을 통해 전송된다. 스펙트럼 널(spectral null)을 가지는 채널 모델 CH1을 사용했으며 전송함수 (transfer function)은 다음과 같다[17].

Fig. 1. 
A Base-band communication system for the experiment

채널을 통과한 신호에 분산 0.001의 백색 가우시안 잡음과 세 가지 발생률(α = 0.02, 0.04, 0.06), 분산 50의 랜덤 충격파 (impulses)로 이루어진 충격성 잡음 n_k가 더해져 등화기(equalizer)에 입력된다[14],[18].

충격 잡음(impulses)의 발생률에 따라 커널 폭 적응 조절이 어떤 영향을 받는지 살펴보기 위해 사용될 다음 세 가지 잡음 샘플, Noise1, Noise2, 그리고 Noise3을 그림 2에 나타냈다.

Fig. 2. 
A sample of impulsive noise used in the experiment, (a) α = 0.02, (b) α = 0.04, (c) α = 0.06

학습 알고리듬에 사용된 파라미터들은 μ = 0.01 (MEE-KWA는 μ/2N²), 초기 커널 폭 σ_o,0 = 1.5, Δ = 0.01, μ_σ = 0.002, N = 20로 하였다. 각 잡음 조건에 따른 MEE-KWA의 커널 폭의 수렴 곡선을 그림 3에, SMEE-KWA의 수렴 곡선을 그림 4에 나타냈다.

Fig. 3. 
Learing curves of kernel width of the MEE-KWA

Fig. 4. 
Learing curves of kernel width of the SMEE-KWA

우선, 그림 4로부터 이 연구에서 제안한 SMEE-KWA는 충분한 커널 폭 적응추정 능력을 지니고 있음을 알 수 있다. 두 번째 관찰된 특징으로, 잡음 Noise1의 경우, 그림 3의 MEE-KWA가 4500 샘플에서 수렴하였다고 보면, 그림 4의 SMEE-KWA는 6000 샘플 정도에서 수렴하여 논문 [12]의 결과와 같이 수렴 속도에서 뒤지는 차이가 존재한다. 그러나 잡음 Noise3의 경우, 두 알고리듬 모두 8000 샘플 정도에서 수렴하여 잡음의 충격성 정도가 심해진 환경에서는 수렴 속도의 차이를 보이지 않음을 알 수 있다. 그러나 느려진 수렴 속도를 보완하기 위해 식 (12)의 μ_σ를 적절히 튜닝할 수 있는 연구가 뒤따라야 할 것이다.

셋째, 두 알고리듬 모두 잡음환경에 따라 커널 폭이 서로 다른 값으로 수렴한다는 점이다. 이 특징은 커널 폭이 변화하는 잡음환경의 경우 통계적 특성에 맞는 커널 폭이 되기 위해서는 기존 방식인 상숫값으로 설정되는 것이 바람직하지 않음을 알려준다. 넷째, 잡음환경이 열악해질수록 MEE-KWA는 커널 폭이 작아지는 경향이, SMEE-KWA는 커지는 쪽으로 수렴한다는 점이다. 열악한 잡음환경일수록 큰 커널 폭으로 지향하는 점은 SMEE-KWA의 수렴이 더 안정적임을 말해준다. 다섯째, 잡음환경이 열악해질수록, MEE-KWA의 커널 폭 수렴 곡선은 수렴 후에 변동(fluctuation)을 보이는 반면, SMEE-KWA의 수렴 곡선은 불안정한 변동 없이 안정된 곡선을 보인다는 점이 특징이다. 이 점 또한 열악한 잡음환경일수록 SMEE-KWA의 수렴이 더 안정적임을 보여준다. 이 특징을 확인하기 위해 두 오차 전력 ε(e_o,k)와 ε(e_Δ,k)의 차이를 관찰할 필요가 있다. 이에, 미세 커널 폭 차이 Δ에 대해 두 오차 전력 차이인 EPD = ε(e_Δ,k) - ε(e_o,k)를 Noise1 환경에 대해 그림 5에, Noise3 환경에 대해 그림 6에 나타냈다. 여기서 Noise2 환경은 Noise1 또는 Noise3 환경과 차이를 그래프로 구분하기 어렵다고 판단되어, 잡음 정도에 따른 극명한 차이를 보여주기 위해 Noise1과 Noise3에 대한 미세 오차 전력을 두 그림 5와 6에 나타냈다.

Fig. 5. 
The comparison of under the Noise1

Fig. 6. 
The comparison of under the Noise3

그림 5와 6을 비교하면 열악한 잡음환경일수록 두 알고리듬의 EPD는 큰 차이를 보이는 것을 알 수 있다. 수렴이 시작되며 벌어진 두 알고리듬의 EPD 차이는 수렴 후에도 나타나며 MEE-KWA가 더 큰 값을 가진다. 즉, 커널 폭의 미소 증분 Δ에 대해 오차 전력 차 EPD = ε(e_Δ,k) - ε(e_o,k)가 수렴 후에도 크다는 것은 충격성 잡음의 영향에 MEE-KWA가 더 민감하며 이 때문에 커널 폭 조절을 위한 기울기 식 (11)이 불안정해지고 식 (12)의 커널 폭은 그림 3과 같이 수렴 후에도 변동(fluctuation)을 나타내는 것으로 판단된다.

한편, 커널 폭 수렴과정이 잡음의 성질에만 의존하는 것이 아니라 채널의 특성에 따라 달라질 수 있는지 살펴볼 필요가 있다. 이에 식 (25)의 다른 채널 모델 CH2에 대한 커널 폭 수렴 곡선을 그림 7에 나타냈다.

Fig. 7. 
Learing curves of kernel width of the SMEE-KWA for CH1 and CH2

CH2에 대한 커널 폭 수렴 곡선은 채널 특성이 열악한 CH1의 경우보다 더 빠르고 부드러운 수렴을 보인다. 또한 수렴된 최적 커널 폭은 CH1의 경우보다 더 작은 값을 가짐을 알 수 있다. 따라서 잡음 상태와 채널 상태 등 통신 환경이 열악할수록 최적 커널 폭은 약간 큰 값이 됨을 알 수 있다. 따라서 잡음 및 채널 특성이 달라지는 상황의 경우 적응적 커널 폭 추정이 필요함을 알 수 있다.

한편, KWA를 적용한 SMEE-KWA 알고리듬이 기존 SMEE 알고리듬보다 어느 정도 더 좋은 MSE 수렴 성능을 도출할 수 있는지를 다음 그림 8에 나타냈다. 비교 환경으로 Noise1이 가해진 채널 CH2에 대해 대표적으로 비교하였다.

Fig. 8. 
MSE learning curves of SMEE and SMEE-KWA

그림 8에서 고정 커널 폭을 가진 기존 SMEE 알고리듬이 샘플 시간 10000에서도 수렴하지 못하지만, 적응 커널 폭을 가진 SMEE-KWA 알고리듬은 6000 샘플 근방에서 수렴을 이루고 있음을 알 수 있다. 이에 그림 7에서 보여준 커널 폭의 적응 조절 능력이 MSE 수렴 성능에서 탁월한 성능을 도출함을 알 수 있다.

MEE 기반의 적응 알고리듬이 충격성 잡음과 같은 비가우시안 환경에서 효능을 발휘하며 활발하게 연구되고 있으나 이중 합산의 과중한 계산량 문제와 성능에 민감하게 작용하는 커널 폭 설정 문제를 해결할 필요가 있다. 잡음환경에 따라 커널 폭이 다른 값으로 수렴하는 실험 결과로부터, 변화하는 잡음 및 채널의 특성에 맞는 커널 폭이 되기 위해서는 적응적 커널 폭 추정이 필요함이 입증되었다. MEE 기반 가중치 갱신 알고리듬의 분모에 존재하는 σ²으로 커널 폭 적응추정이 쉽지 않으므로 오차 전력 평균변화율 접근법은 커널 폭 적응추정의 좋은 대안이 될 수 있다. 오차 전력 평균변화율 기반의 커널 폭 적응추정법을 적용한 SMEE-KWA는 MEE-KWA에 비해 수렴 속도에서 미소한 단점을 보이나 계산량의 획기적 감소와 커널 폭의 안정적 적응추정이라는 큰 장점이 있다. 이에 제안한 SMEE-KWA를 신호처리, 기계학습, 상태추정 및 제어, 무선통신 채널 등화가 등에 적용할 때 더욱 높은 구현의 효율성과 성능 신뢰성이 기대된다. 뒤따라야 할 연구로 채널 환경에 따라 느려진 수렴 속도를 보완할 수 있는 연구가 필요하다.