Korean Institute of Information Technology
[ Article ]
The Journal of Korean Institute of Information Technology - Vol. 24, No. 2, pp.153-159
ISSN: 1598-8619 (Print) 2093-7571 (Online)
Print publication date 28 Feb 2026
Received 23 Jan 2026 Revised 29 Jan 2026 Accepted 01 Feb 2026
DOI: https://doi.org/10.14801/jkiit.2026.24.2.153

디지털 보청기의 Howling을 억제하기 위한 적응 Notch 필터

김학윤*
*청주대학교 전자공학과 교수
Adaptive Notch Filter for Howling Suppression in Digital Hearing Aids
Kim, Hack-Yoon*

Correspondence to: Kim, Hack-Yoon Dept. of Electronic Engineering, Cheongju University, 298 Daeseongro, Cheongwon-gu, Cheongju, Chungbuk, 28503, Korea Tel.: +82-43-229-8438, Email: hykim@cju.ac.kr

초록

디지털 보청기에서는 리시버 신호가 마이크로 재유입되면서 발생하는 음향 피드백으로 인해 협대역 하울링이 발생하며, 이는 사용자 불쾌감을 유발하고 시스템의 최대 안정 이득을 제한한다. 기존의 피드백 경로 추정 기반 방법은 입력 신호와의 상관 문제로 음질 착색이 발생할 수 있으며, 노치 필터 기반 방법은 IIR 구조의 비선형 위상 특성으로 시간 왜곡을 초래할 수 있다. 따라서, 본 논문에서는 이러한 문제를 해결하기 위해 ADAM 기반 주파수 적응 기법과 준 직선 위상 노치 필터 구조를 결합한 하울링 억제 방법을 제안한다. 제안한 방법은 하울링 주파수를 빠르고 안정적으로 추적하고, all-pass 위상 보상 필터를 통해 위상 왜곡을 최소화한다. 실험 결과, 제안한 기법은 기존의 방법 대비, 억제 성능을 유지하면서 그룹 지연 변화를 효과적으로 감소시킴을 확인하였다.

Abstract

In digital hearing aids, narrowband howling caused by acoustic feedback occurs when the receiver signal is reintroduced into the microphone, resulting in user discomfort and limiting the maximum stable gain of the system. Conventional feedback path estimation–based approaches may introduce spectral coloration due to the correlation between the input signal and the feedback component. In addition, notch filter–based methods, although effective for suppressing narrowband howling, can cause temporal distortion in speech signals because of the nonlinear phase characteristics of IIR notch filters. To address these issues, this paper proposes a howling suppression method that combines an ADAM–based frequency adaptation scheme with a quasi-linear phase notch filter structure. The proposed method enables rapid and stable tracking of the howling frequency while minimizing phase distortion through an all-pass phase compensation filter. Experimental results demonstrate that the proposed technique effectively reduces variations in group delay while maintaining suppression performance compared to conventional methods.

Keywords:

digital hearing aid, howling suppression, adaptive notch filter, ADAM, quasi-linear phase

Ⅰ. 서 론

보청기에서 발생하는 하울링(Howling)은 사용자에게 불쾌감을 유발하고 시스템의 최대 안정 이득을 제한하는 주요 문제 중 하나이다[1][2]. 하울링은 특정 주파수 성분이 지속적으로 증폭되는 협대역 현상으로 나타나며, 실제 사용 환경에서 빈번히 발생한다. 이러한 특성으로 인해 하울링 억제는 보청기 신호처리에서 중요한 과제로 인식되고 있다.

보청기 시스템은 개방 루프 이득 특성이 비교적 평탄하고 그룹 지연이 매우 짧아, 일반 음향 시스템에서 사용되는 하울링 억제 기법을 그대로 적용하기 어렵다. 이에 따라 하울링의 원인이 되는 피드백 신호를 적응 필터로 소거하는 적응 피드백 캔슬링 기법이 제안되어 왔으나[3]-[5], 실제 환경에서는 물리적 결합과 신호 상관성 등의 요인으로 인해 이득 여유 증가에 한계가 존재한다[6].

이러한 한계를 보완하기 위해 적응 피드백 캔슬링 기법에 노치(Notch) 필터를 병행하는 방법이 고려되었다[2]. 이 방법은 잔여 발진 주파수에 대해 선택적인 감쇠를 수행함으로써 추가적인 이득 여유를 확보하는 데 효과적이다. 그러나 기존 IIR 노치 필터는 비선형 위상 특성으로 인해 음성 신호의 시간 왜곡을 유발하며, 하울링 주파수가 변동하는 경우 안정적인 주파수 추적 또한 요구된다[7]-[9].

따라서, 본 논문에서는 ADAM(Adaptive Moment Estimation) 기반 주파수 적응 기법과 준 직선 위상(Quasi-linear phase) 노치 필터 구조를 결합한 보청기용 하울링 억제 방법을 제안한다.


Ⅱ. 적응 Notch 필터를 사용한 억제 방법

2.1 하울링 억제 시스템 개요

보청기에서 발생하는 하울링을 억제하기 위해 본 논문에서는 적응 노치 필터를 이용한 하울링 억제 방법을 고려한다. 전체 시스템 구성은 그림 1에 나타내었으며, 보청기 처리 블록으로 입력되는 신호는 하울링 검출 및 식별(Howl detector–identifier) 블록을 거쳐 적응 노치 필터링에 전달된다.

Fig. 1.

Howling suppression by adaptive notch filter

그림 2에서 하울링이 검출되면, 적응 노치 필터의 계수로부터 발진 주파수 정보를 산출하고, 이 정보를 다중 노치(Multi-notch) 블록으로 전달한다. 다중 노치 블록에서는 검출된 각 발진 주파수에 대해 고정 노치 필터를 하나씩 형성함으로써, 하울링을 단계적으로 억제한다.

Fig. 2.

Howl detector - Identifier block diagram

하울링 검출 및 식별 블록의 개념적 구조는 그림 2에 제시하였다. 여기서 howl detector–identifier는 적응 노치 필터 자체를 주파수 추적기로 활용하는 구조를 갖는다. 즉, 입력 신호에서 가장 큰 에너지를 갖는 주파수 성분을 적응적으로 추적하며, 해당 성분의 전력을 노치 필터의 입력 및 출력 신호의 전력 차이를 통해 추정한다. 이 전력값이 임계 레벨을 초과할 경우, 해당 주파수에서 하울링이 발생한 것으로 판단한다.

2.2 적응 노치 필터의 역할과 특징

적응 노치 필터는 하울링이 협대역 성분으로 나타난다는 점에 착안하여, 발진 주파수 성분만 선택적으로 감쇠하는 역할을 한다. 이때 노치 필터에 의해 해당 주파수 대역의 정보는 일부 왜곡될 수 있으나, 하울링은 일반적으로 음성 신호의 주요 정보 대역과 분리되어 나타나므로 청감상 영향은 상대적으로 작다[3].

또한, 적응 노치 필터는 하울링 주파수가 시간에 따라 변동해도 중심 주파수를 추적함으로, 실제 사용 환경에서의 안정적인 하울링 억제가 가능하다. 이러한 이유로 적응 노치 필터는 적응 피드백 캔슬링 기법과 병행하여 이득 여유를 추가적으로 확보하는 수단으로 널리 연구되어 왔다[5][9].


Ⅲ. Notch 필터 모델 및 위상 특성 분석

3.1 Notch 필터 모델

적응 노치 필터에 사용되는 노치 필터 구조에 대해서는 여러 가지 모델이 제안되어 왔다[2]-[4]. 본 연구에서는 구조가 단순하면서도 좁고 깊은 노치를 형성할 수 있는 2극 2영점(Biquad) 노치 필터 모델을 사용하였다. 이 모델의 극점과 영점 배치를 z-평면 상으로 그림 3에 나타내었다.

Fig. 3.

Pole-zero location of notch filter model

이 모델은 발진 주파수에서의 이득이 0이 되도록, 전달함수의 영점을 단위원 상에 배치하고 해당 주파수의 위상에 대응시키는 방식으로 설계된다. 필터의 인과성을 만족시키기 위해 영점과 동일한 수의 극점을 사용하며, 노치 특성을 대칭적으로 유지하기 위해 극점은 영점과 원점을 연결하는 선상에서 영점보다 약간 원점에 가까운 위치에 배치한다. 이로 인해 모든 극점은 단위원 내부에 존재하게 되며, 시스템은 안정성을 유지한다.

2극 2영점 노치 필터의 전달 함수는 식 (1)과같이 표현할 수 있다.

Hz=1-2cosω0z-1+z-21-2rcosω0z-1+r2z-2(1) 

식 (1)에서 ω0는 노치 중심 주파수이며, r은 노치의 대역폭을 결정하는 파라미터이다. r이 1에 가까울수록 노치는 좁고 깊은 특성을 가지며, 작은 값일수록 완만한 감쇄 특성을 보인다. 영점은 단위원 상에 위치하여 발진 주파수에서의 이득을 0으로 만들고, 극점은 안정성을 확보하기 위해 단위원 내부에 배치된다.

3.2 위상 특성과 새로운 발진 주파수 문제

2극 2영점 노치 필터는 크기 응답 측면에서는 우수한 특성을 가지지만, 위상 특성은 완전한 직선 위상이 아니다. 노치 필터 적용 시 개방 루프 전달 함수의 위상 응답이 변화하며, 그 결과 새로운 위상 “0”점이 생성될 수 있다. 따라서, 노치 필터의 위상 특성은 시스템의 그룹 지연과 직접적인 관계를 갖는다. 그림 4는 주파수에 따른 위상 응답과 그 기울기를 나타낸 것이며, 위상 기울기가 급격히 변화하는 구간에서 그룹 지연 또한 크게 변동함을 확인할 수 있다. 이는 노치 필터 적용 시 시간 영역에서의 신호 왜곡이 발생할 수 있음을 의미한다.

Fig. 4.

Phase slope and group delay characteristics

그림 5는 노치 필터 적용 전후의 위상 변화를 비교한 결과이다. 노치 필터 적용 후 위상 응답이 비선형적으로 변형되어 기존 발진 주파수 외에 새로운 위상 조건을 만족하는 주파수가 발생할 수 있다. 이러한 현상은 기존 IIR(Infinite Impulse Response) 노치 필터 기반 하울링 억제 기법의 구조적 한계를 보여준다.

Fig. 5.

Phase distortion introduced by notch filtering

3.3 노치 필터 설계 조건 및 한계

노치 필터를 이용하여 하울링 억제하기 위한 설계 조건은 다음과 같다. 첫 번째로 음성 정보 손실을 최소화하기 위해 노치의 대역폭이 좁아야 하고, 두 번째로 충분한 이득 여유 증가를 위해 노치의 감쇄량은 커야 하며, 마지막으로 노치 필터 적용으로 인해 새로운 발진 주파수가 발생하지 않아야 한다. 이러한 조건을 만족하기 위해서는 발진 주파수에서의 위상 기울기가 시스템의 그룹 지연보다 작아야 하며, 이것을 식으로 표현하면 식 (2)와 같다.

dϕωdωτg(2) 

그러나 식 (2)의 조건을 만족하도록 노치 필터를 설계해도 노치는 필연적으로 넓고 얕은 특성을 갖게 되어 하울링 억제 성능이 저하된다. 반대로 좁고 깊은 노치를 설계하면 위상 변이가 증가하여 새로운 발진 주파수가 발생할 가능성이 높아진다. 이는 기존 2극 2영점 노치 필터 기반 하울링 억제 기법이 갖는 구조적 한계로 볼 수 있다.

이러한 한계를 극복하기 위해, 본 연구에서는 위상 변이를 완화하면서도 충분한 감쇄 특성을 유지할 수 있는 준 직선 위상 노치 필터 구조와 ADAM 기반 주파수 적응 알고리즘을 결합한 제안 방법을 논한다.


Ⅳ. ADAM 기반 준 직선 위상 적응 노치 필터

4.1 제안 방법의 전체 구조

본 논문에서 제안하는 ADAM 기반 준 직선 위상 적응 노치 필터의 전체 구조를 그림 6에 나타내었다. 제안한 시스템은 크게 하울링 검출 및 식별 블록, 준 직선 위상 노치 필터, ADAM 기반 주파수 적응 모듈로 구성된다.

Fig. 6.

Block diagram of the proposed system

그림 6에서 입력은 Howl detector–identifier를 통해 하울링 발생 여부 및 발진 주파수를 추정한 후, 준 직선 위상 노치 필터로 전달된다. 노치 중심 주파수는 ADAM 알고리즘에 의해 적응적으로 갱신되며, 이를 통해 변동하는 하울링 주파수에 대해서도 안정적인 억제가 가능하도록 설계하였다.

4.2 준 직선 위상 노치 필터 적용 방식

기존 2극 2영점 노치 필터가 가지고 있는 문제점들을 완화하기 위해 준 직선 위상(quasi-linear phase) 노치 필터 구조를 적용한다. 준 직선 위상 노치 필터는 기본적인 IIR 노치 필터에 대해 시간 대칭 구조로 하고, 인과성을 확보하기 위해 유한한 지연 기법을 적용 함으로써 구현된다. 이 과정에서 크기 응답은 기존 노치 필터와 거의 동일하게 유지되며, 위상 응답의 기울기 변화만이 완화된다. 그림 7은 기존 IIR 노치 필터, FIR 직선 위상 노치 필터, 그리고 제안한 준 직선 위상 노치 필터의 그룹 지연 특성을 비교한 결과이다. 제안한 방법은 기존 IIR 구조 대비 그룹 지연 변동을 크게 감소시키면서도 FIR(Finite Impulse Response) 구조에 비해 낮은 지연 특성을 유지함을 확인할 수 있다.

Fig. 7.

Block diagram of the proposed system

노치 필터 출력 신호를 e(n)이라 할 때, 하울링 억제는 식 (3)과 같은 비용 함수를 최소화하는 문제로 정의할 수 있다.

Jω0=Ee2n(3) 

식 (3) ω0는 노치 필터의 중심 주파수이다.

하울링이 발생한 경우, 특정 주파수 성분의 에너지가 크게 증가하므로, 비용 함수는 해당 주파수에서 최소값을 갖도록 설계된다. 또한, 식 (3)의 비용 함수의 기울기는 식 (4)와 같이 정의된다.

gk=Jω0ω0(4) 

4.3 ADAM 알고리즘

본 논문에서는 중심 주파수를 적응하기 위해 ADAM 알고리즘을 적용한다. ADAM은 1차 및 2차 모멘트를 동시에 고려함으로써 수렴 속도와 안정성을 동시에 향상시킨다. 1차 및 2차 모멘트는 각각 식 (5)식 (6)을 이용하여 갱신된다.

mk=β1mk-1+1-β1gk(5) 
vk=β2vk-1+1-β2g2k(6) 

식 (5)(6)에 바이어스를 적용하면, 식 (7)과 같이 정의할 수 있다.

m^k=mk1-β2k, v^k=vk1-β2k(7) 

따라서 최종적으로 노치 필터의 중심 주파수는 식 (8)을 이용하여 갱신된다.

ω0k+1=ω0k-μm^kv^+ϵ(8) 

이 방식은 기존 LMS(Least Mean Squares) 및 NLMS(Normalized Least Mean Squares) 알고리즘 대비 진동이 적고, RLS(Recursive Least Squares) 대비 계산 복잡도가 낮아 보청기 시스템에 적합하다.

4.4 제안 방법의 특징 및 장점

제안한 ADAM 기반 준 직선 위상 적응 노치 필터는 다음과 같은 특징을 가진다. 첫 번째로 위상의 안정성이 향상된다. 즉, 준 직선 위상 노치 필터 구조를 통해 위상 기울기 변화를 완화하여 새로운 발진 주파수 발생 가능성을 감소시킨다. 두 번째로 빠르고 안정적인 주파수 추적이 가능해진다. 다시 말하면, ADAM 기반 적응을 통해 시간적으로 변동하는 하울링 주파수에 대해서도 안정적인 추적이 가능해진다. 세 번째로 계산 복잡도가 낮아 실시간 구현이 적합하여 실제 보청기 시스템에 적용 가능하다는 것이다.


Ⅴ. 실험 결과 및 고찰

5.1 실험 조건

제안한 방법의 성능을 평가하기 위해, 시뮬레이션 환경과 실제 보청기 착용 유사 환경에서 실험하였다. 비교 대상으로는 기존 방법(LMS, NLMS, RLS) 기반 적응 노치 필터를 사용하였다. 본 연구에서 사용한 실험 환경은 표. 1과 같이 설정하였다.

Experimental conditions

5.2 실험 결과

시뮬레이션에서는 시변하는 하울링 주파수를 가정하고, 각 알고리즘의 주파수 추적 성능을 비교하였다. 하울링 주파수는 저주파 변조를 통해 천천히 변하도록 설정하였다.

시간에 따라 변동하는 하울링 주파수에 대한 추적 성능을 비교한 결과를 그림 8에 제시하였다. 이 결과를 보면, 반복 횟수에 따라, 제안한 ADAM 기반 적응 기법은 기존 RLS 기반 방법 대비 빠른 수렴 특성과 안정적인 추적 성능을 보였다. 또한, RLS는 비교적 빠른 수렴 특성을 보이나 약간의 추적 오차가 지속적으로 존재하였다. 반면 제안한 방법은 초기 수렴 이후 실제 하울링 주파수에 안정적으로 수렴하며, 주파수 변동 구간에서도 가장 작은 추적 오차를 나타내었다. 이것은 ADAM 알고리즘이 모멘트 정보를 활용하여 진동을 억제하고 안정적인 추적을 수행하고 있음을 의미한다.

Fig. 8.

Howling frequency tracking performance

실제 환경 실험에서는 마이크–리시버 간 음향 피드백 경로를 구성하여 하울링이 발생하도록 설정한 후, 각 알고리즘의 하울링 억제 성능을 비교하였다. 그림 9는 실제 음향 피드백 환경에서의 하울링 억제 성능을 나타낸 것이다. 이 결과를 보면, 기존의 방법(RLS)보다 제안한 방법이 초기 하울링 발생 이후, 잔여 하울링 파워를 빠르게 감소시키며 안정적인 억제 상태를 유지하고 있음을 알 수 있다. 따라서, 본 논문에서 제안한 방법이 실제 환경에서 하울링 주파수가 미세하게 변해도 효과적으로 대응할 수 있어, 실제 보청기 환경에서도 효과적으로 적용할 수 있음을 입증하였다.

Fig. 9.

Real environment result: residual howling suppression

5.3 고찰

시뮬레이션 및 실제 환경 실험 결과를 통해 다음과 같은 점을 확인할 수 있었다.

첫째, ADAM 기반 방법은 기존 방법 대비, 빠른 수렴 속도와 안정적인 추적 성능을 얻었다.

둘째, 준 직선 위상 노치 필터 구조는 하울링 억제 성능을 유지하면서 그룹 지연 변화를 감소시켜, 음성 신호의 시간 왜곡을 효과적으로 완화되었다.

셋째, 제안한 방법은 RLS 대비 계산 복잡도가 낮아 실시간 보청기 시스템에 적용하기에 적합하다.

특히 실제 환경 실험 결과는 제안한 방법이 단순한 시뮬레이션 조건을 넘어, 실제 보청기 사용 환경에서도 효과적으로 동작할 수 있음을 입증하였다. 따라서, 제안한 방법이 이론적 설계와 실제 응용 간의 간극을 효과적으로 줄였음을 입증한 것이다.


Ⅵ. 결 론

본 논문에서는 디지털 보청기에서 발생하는 하울링을 억제하기 위해 ADAM 기반 준 직선 위상 적응 노치 필터 방법을 제안하였다. 제안한 방법은 준 직선 위상 노치 필터 구조를 통해 위상 변이에 따른 새로운 발진 주파수 발생 가능성을 완화하고, ADAM 기반 주파수 적응 알고리즘을 적용하여 하울링 주파수를 빠르고 안정적으로 추적한다.

시뮬레이션 및 실제 환경 실험 결과, 제안한 방법은 기존 방법 대비 안정적인 수렴 특성과 우수한 하울링 억제 성능을 보였으며, 음성 대역에서의 그룹 지연 변화를 효과적으로 감소시켰다. 이 결과를 보면, 제안한 방법이 이론적 설계에 그치지 않고 실제 보청기 시스템에 적용 가능한 하울링 억제 기법임을 입증하였다.

Acknowledgments

이 논문은 2025~2027학년도에 청주대학교 산업과학연구소가 지원한 학술연구조성비(특별연구과제)에 의해 연구되었음

References

  • Y. Yin and F. Chen, "Acoustic feedback cancellation algorithm for hearing aids based on a weighted error adaptive filter", Electronics, Vol. 12, No. 7, Art. no. 1528, pp. 81-90, Mar. 2023. [https://doi.org/10.3390/electronics12071528]
  • Y. Li, X. Huang, Y. Zheng, Z. Gao, L. Kou, and J. Wan, "Howling detection and suppression based on segmented notch filtering", Sensors, Vol. 21, No. 23, Art. no. 8062, pp. 110-119, Dec. 2021. [https://doi.org/10.3390/s21238062]
  • N. Hiruma, Y. Ueda, Y. Yuno, and H. Nakashima, "Adaptive feedback cancellation based on interaural level difference using lattice filter with correlation control for binaural hearing devices", Applied Acoustics, Vol. 207, Art. no. 109343, pp. 109343:1-109343:9, May 2023. [https://doi.org/10.1016/j.apacoust.2023.109343]
  • F. Hao, B. C. J. Moore, H. Zhang, X. Li, and C. Zheng, "L3C-DeepMFC: Low-latency low-complexity deep marginal feedback cancellation with closed-loop fine tuning for hearing aids", Proc. Interspeech 2025, pp. 838-842, Rotterdam, Netherlands, pp. 838-842, Aug. 2025. [https://doi.org/10.21437/Interspeech.2025-1111]
  • A. Nehorai, "A minimal parameter adaptive notch filter with constrained poles and zeros", IEEE Trans. Acoust., Speech, Signal Process., Vol. 33, No. 4, pp. 983-996, Aug. 1985. [https://doi.org/10.1109/TASSP.1985.1164643]
  • H. A. L. Joson, F. Asano, Y. Suzuki, and T. Sone, "Adaptive feedback cancellation with frequency compression for hearing aids", J. Acoust. Soc. Am., Vol. 94, No. 6, pp. 3248-3254, Dec. 1993. [https://doi.org/10.1121/1.407231]
  • D.-H. Lee, "Deep learning-based acoustic feedback and noise cancellation technique for hearing aids", Journal of the Korea Institute of Electronic Communication Sciences, Vol. 14, No. 6, pp. 1249-1256, 2019. [https://doi.org/10.13067/JKIECS.2019.14.6.1249]
  • J.-H. Jeon, Y.-N. Ji, and Y.-C. Park, "Implementation of an adaptive feedback cancellation algorithm for multichannel digital hearing aids", Journal of the Korea Institute of Information and Electronic Communication Technology, Vol. 10, No. 1, pp. 102-110, Feb. 2017. [https://doi.org/10.17661/jkiiect.2017.10.1.102]
  • I.-G. Jang, J.-H. Park, and S.-H. Lee, "Application of a frequency-domain feedback cancellation algorithm to hearing aids", Journal of the Acoustical Society of Korea, Vol. 35, No. 4, pp. 272-279, 2016. [https://doi.org/10.7776/ASK.2016.35.4.272]
저자소개
김 학 윤 (Kim, Hack-Yoon)

1996년 3월 : 동북대학교(일본), 정보과학연구과(공학박사)

1997년 3월 ~ 현재 : 청주대학교 전자공학과 교수

관심분야 : 음향/영상 신호처리, 3차원 입체음향, 인공지능, LLM

Fig. 1.

Fig. 1.
Howling suppression by adaptive notch filter

Fig. 2.

Fig. 2.
Howl detector - Identifier block diagram

Fig. 3.

Fig. 3.
Pole-zero location of notch filter model

Fig. 4.

Fig. 4.
Phase slope and group delay characteristics

Fig. 5.

Fig. 5.
Phase distortion introduced by notch filtering

Fig. 6.

Fig. 6.
Block diagram of the proposed system

Fig. 7.

Fig. 7.
Block diagram of the proposed system

Fig. 8.

Fig. 8.
Howling frequency tracking performance

Fig. 9.

Fig. 9.
Real environment result: residual howling suppression

Table I.

Experimental conditions

Parameter Value
Sampling frequency 16kHz
Input signal Speech
Algorithms RLS, Proposed
Evaluation Convergence, Group delay