I. 서  론

적응 필터는 신호처리 분야의 한 종류로서, 음성 신호처리 분야나 음향 채널 추정 및 등화기 설계에 많이 쓰인다.^[1-3] 특히 채널 추정에서 신호처리 대상이 되는 신호의 상당수는 희소성(sparsity)을 갖는다고 알려져 있다. 이는 임펄스 응답이 길지만 소수의 탭만이 ‘0’이 아닌 특징을 지니는 채널을 다룬다. 이런 채널을 희소성 채널이라고 하고, 이런 특징을 갖는 채널은 Fig. 1에 보인 예와 같다. 이런 특징을 갖는 채널은 수중 음향 채널 및 여러 무선 통신 채널 등에서 자주 접할 수 있다.^[4,5] 그러나 LMS(Least Mean Squres)나 RLS(Recursive Least Squares)같은 전통적인 적응 신호처리 알고리즘들은 이 같은 희소성을 충분히 이용하지 못하고 있다.

지난 십여 년간 희소성을 갖는 신호에 대한 복원에 그간 간과했던 희소성을 직접 이용하는 알고리즘을 개발하는 활발한 노력이 있어 왔다.^[6-8] 이런 연구 결과의 예로 LMS 분야에서는 l₀-norm을 적용한 l₀-LMS가 있고,^[9] l₁-norm을 적용한 l₁-LMS가 있다.^[10] RLS 분야에서도 l₁-norm을 적용한 사례가 있는데, 그 중에 SPARLS^[11]는 EM(Expectation-Maximization) 기법을 적용하였다. Reference [12]의 저자도 또 다른 형태의 RLS 기반 알고리즘으로 가중 l₁-norm을 사용한 방법을 제안하였다.

Eksioglu와 Tanc는 Reference [13]에서 또 다른 l₁-norm RLS을 제안하였다. 이 알고리즘은 다른 RLS 기반 방법과 달리 목적함수에 포함된 l₁형식 규준화 항까지 포함한 미분형식 최적화를 통해 알고리즘을 구성하면서 규준화 상수까지도 계산을 통해서 구할 수 있도록 하였다. 이 점은 다른 RLS 기반 알고리즘에서 그 때 그때 상황에 맞게 임의로 정하도록 하던 것과 다른 것이어서 매우 유익한 방법으로 평가 받고 있다. 뿐만 아니라 전체 알고리즘을 전통적인 RLS와 매우 유사한 순차식으로 구성하는 장점도 제공하였다. 그러나 이 알고리즘을 실제 운용할 때는 규준화 상수를 구하는 데에서 실제 추정 대상의 임펄스 응답의 정보가 필요한 점 같은 문제점이 아직 있다.

본 논문은 Eksioglu와 Tanc가 Reference [13]에서 제안한 볼록 규준화를 사용한 RLS방법에서 규준화 상수를 구할 때 실제적이지 못한 점을 보완하는 알고리즘을 제안하고 그 성능을 희소성 채널 항에서 서로 비교하려고 한다. 이를 위해서 본 논문은 II장에 Reference [13]에서 제안한 볼록 규준화를 사용한 RLS방법을 정리하고 이 알고리즘의 규준화 상수에 문제점을 지적한다. III장에는 문제점을 보완한 새로운 규준화 방법 두 종류를 제안한다. IV장에는 다양한 희소성 채널에서 새로 제안한 규준화 상수를 사용한 알고리즘의 성능을 Reference [13]에서 제안한 규준화 상수를 사용했을 때와 MSD(Mean Square Deviation)를 척도로 사용하여 서로 비교한다.

II. 볼록 규준화를 사용한 RLS방법과 규준화 상수의 문제점^[1]

추정 대상이 되는 희소채널의 입력과 출력 간의 관계를 다음 식으로 나타낸다.

, (1)

여기서 는 출력 신호이고, 는 L차 입력 신호 벡터이다. 는 희소성 채널의 참 임펄스 응답이고, 는 부가 잡음이다. RLS를 위한 목적함수는 다음과 같은 망각인자를 사용한 오차 에너지 식을 사용한다.

, (2)

여기서 

.

위 목적함수에 희소성 채널을 추정하기 위해서 다음 식과 같이 규준화 항을 추가한다.

, (3)

여기서 는 형식 규준화 상수이고 이다. 위 목적함수를 최소화하기 위해서 다음과 같이 양변에 미분을 취하여 그를 ‘0’로 하는 항을 구한다.

, (4)

여기서 는 위 규준화 함수와 같은 일반적으로 미분되지 않은 함수에 정의한 확장된 미분자(subgradient operator)를 의미한다. 위의 형식 규준화를 위한 확장 미분자는 이다. 여기서 sign( )은 양수이면 ‘1’이고, 음수이면 ‘0’을 내는 함수이다. 위와 같은 미분을 통해서 다음과 같은 정규 방정식을 구할 수 있다.

, (5)

여기서

이고

이다. 

그리고 위 식으로부터 새 변수 을 아래와 같이 새로 정의한다.

. (6)

위 식으로부터 다음과 같은 제차형 갱신식을 구한다.

 (7)

위 양변에 를 곱하고 를 사용하면 다음과 같다.

 (8)

여기서 이고 이다. 위 식은 Eksioglu와 Tanc가 Reference [13]에서 제안한 볼록 규준화를 사용한 RLS방법이다. Reference [13]에서는 위 식에서 규준화 상수를 다음과 같이 유도 하였다.

, (9)

여기서 이고 는 전통적인 RLS로 얻는 추정 채널 벡터이다. 또 상수는 채널의 참 임펄스 응답으로부터 채널파라메터 벡터의 참값, 즉 같이 설정하여 사용한다. Reference [13]에 의하면 를 채널의 참 임펄스 응답 외에 다른 상수 값을 사용하여도 된다는 설명도 있으나 그 값을 어떻게 설정하는지는 기술되어 있지 않고 임의로 설정하여 사용하면 추정 성능이 저하되는 결과를 낳기도 한다.

III. 수정된 를 사용하는 규준화 상수

II장에서 설명한 것처럼 규준화 상수에 필요한 상수인 를 채널파라메터벡터의 참값로 설정하는 것은 현실적으로 가능한 일이 아니다. 따라서 이런 상수 설정법을 개선할 필요가 있다. 본 장에서는 이 상수를 설정하는 두 가지 서로 다른 방법을 제안한다.

방법 1:

, (10)

여기서 는 Eq.(1)로부터 얻은 추정된 희소성 채널 벡터이고 는 전통적인 RLS로 얻은 추정벡터이다.

방법 2: 다음 i)~iii)을 거쳐서 상수 를 구한다.

  i) (11)

  여기서 은 채널의 길이이다.

 ii) (12)

iii) (13)

방법 1은 희소성을 고려하여 추정한 채널 벡터 와 희소성을 고려하지 않은 기존 RLS의 추정 결과 벡터 을 각각 목적함수에 사용한 규준화 함수 에 넣은 결과 더 작은 값을 상수 의 값으로 설정하는 것인데 이는 참 채널 벡터가 희소성이 충분하다는 가정을 이용하여 두 가지 추정 벡터 중 더 희소성이 있다고 판단되는 값을 의 상수 값으로 한다는 의미를 갖는다. Eq.(10)에서 0.9를 에 곱한 이유는 RLS방법은 희소성 채널을 이라도 비희소성 채널 형태로 추정하는 경향이 있어서 값이 상대적으로 커진다. 따라서 희소성 채널을 RLS 방식으로 추정한 채널 값으로 부터 얻은 값을 좀 더 줄여 주는 의미에서 사용한 상수이다. 구제적인 값은 여러 번의 실험을 통해서 결정하였다.

방법 2는 추정 채널의 희소성()값^[14]을 사용한다. 이 값이 ‘1’에 가까울수록 희소성 채널이라고 할 수 있고, ‘0’에 가까울수록 밀집성 채널이라고 할 수 있다. 본 방법은 첫 번째 방법과 유사하나 비교의 대상이 현재 추정한 채널의 규준화 함수 값과 이전에 사용한 값 사이에 더 작은 값을 새로운 상수 로 사용하도록 정한다. 그러나 를 비교에 쓰기 전에 ii) 단계에서 값을 현재 추정된 채널의 l₁-norm 값과 i) 단계에서 먼저 구한 추정 채널의 희소성()값^[14]으로 약간 보정하여 사용한다. iii)단계에서는 추정 채널의 희소성()값 범위에 따라 희소성이 클수록 현재 추정된 채널의 규준화 함수 값에 더 적은 값을 곱해서 희소성을 좀 더 강조한 후 보정된 이전 사용 상수 와 비교하여 그 중 더 희소성이 큰 것을 다음 추정 때에 쓸 로 삼는다. 그리고 iii) 단계에서 사용하는 희소성()값, 즉 0.85, 0.75 및 0.6의 의미를 알기위해서, 채널 길이 64개, 128개, 256개인 가상의 채널을 상정하고 각 채널에 대해서 2/64, 4/64, 8/64, 16/64, 32/64, 64/64 비율로 ‘0’이 아닌 의미 있는 값을 갖도록 불규칙한 방법으로 반복적으로 발생시켜서 각 비율 별로 평균 희소성()값을 구하고 그 값의 평균을 구하였다. 그리고 그 사이 값을 내삽법으로 계산하여 Fig. 2와 같이 전체 채널에서 ‘0’이 아닌 값을 갖는 탭의 비율에 대한 평균 희소성()값을 나타내었다. 이 그림을 보면 희소성 값 0.85는 전체 탭 중 약 8 % 이하만 ‘0’이 아닌 탭일 때를 의미하고, 희소성 값 0.75는 전체 탭 중 약 16 % 이하만 ‘0’이 아닌 탭일 때를 의미한다. 마지막으로 희소성 값 0.6은 전체 탭 중 약 33 % 이하가 ‘0’이 아닌 탭일 때를 의미한다.

IV. 시뮬레이션

시뮬레이션을 위해서 참 채널 임펄스 응답의 길이는 L = 64로 정하였다. 그리고 매 번의 반복 실험 때 마다 총 64개 탭 중에서 S개의 탭을 불규칙하게 뽑아서 희소성 채널을 구성하도록 하였다. 또 희소성 채널을 구성을 위한 탭 수인 S의 값은 2,4,8 그리고 16의 4종류의 희소성 채널을 형성하여 성능을 비교 검증하도록 하였다. 채널에 입력으로 사용하는 신호는 평균은 0, 분산은 1인 정규분포를 갖는 불규칙 수를 발생하여 사용하였다. 그리고 출력신호에 부가되는 잡음 수준은 출력의 신호 대 잡음비를 20 dB가 되도록 부가하였다.

Fig. 3은 Eksioglu와 Tanc가 Reference [13]에서 제안한 Eq.(9)와 같은 규준화 상수를 사용하는 볼록 규준화를 사용한 RLS에서 를 추정해야 할 대상인 참 채널의 임펄스 응답을 사용하는 이상적인 경우와 본 논문에서 제안한 두 가지 서로 다른 를 사용하는 경우를 각각 MSD 측면에서 서로의 성능을 비교한 결과를 보였다.

Fig. 3에서 보면 두 가지 를 구하는 방법 모두가 채널 파라메터 벡터의 참값로 설정한 경우와 비교해서 큰 차이 없는 성능을 보임을 알 수 있다. 따라서 Reference [13]에서 볼록 규준화를 사용한 RLS를 사용할 때 상수 를 정하는 것에 대한 불확실성이 해결되었다고 할 수 있다.

V. 결  론

본 논문에서는 Eksioglu와 Tanc가 Reference [13]에서 제안한 볼록 규준화를 사용한 RLS방법에서 제안한 규준화 상수를 구할 때의 문제점을 보완하는 방법을 제안하였다. 그리고 이를 볼록 규준화를 사용한 RLS에 응용하여 희소성 채널을 구해보고, 그 결과가 Reference [13]에서 제안된 방법에 비하여 유사한 성능을 유지함을 보였다. 따라서 Eksioglu와 Tanc가 제안한 방법을 좀 더 현실성 있게 사용할 수 있게 되었다.