신경망 기반 QAM 및 APSK 복조 방법 연구

Ⅰ. 서 론

6G를 비롯한 차세대 통신 시스템에서는 통신 링크의 구성 요소로서 저궤도 위성을 고려하는 등 위성 통신과 융합된 통신 네트워크 구축의 필요성이 대두되고 있다[1]. 지상 이동 통신과 위성 통신을 연결하여 융합된 통신 네트워크를 구축하기 위해서는 상호 통신 규격의 호환성 확보가 중요하다. 이동 통신과 위성 통신 시스템에서는 각각 통신 환경에 적합한 통신 규격이 권고되고 있으며 대표적인 통신 규격 중 하나로서 변조 방식이 있다. 이동 통신에서는 사각형의 신호점 배치를 갖는 QAM(Quadrature Amplitude Modulation) 방식을 널리 사용하고 있으며 규칙적인 신호점 배치가 특징이라고 할 수 있다[2]. 위성 통신은 원거리 전송이 필요하기 때문에 고출력 증폭기를 사용한다. 통신 시스템에서 고출력 증폭기를 사용하면 비선형 특성이 증가하게 된다. 비선형 특성은 신호 평면 상에서 신호점의 왜곡을 발생시킨다. 비선형 특성의 영향성을 감소시키기 위해 위성 통신에서는 변조 방식으로 APSK(Amplitude and Phase Shift Keying)를 사용한다[3]. APSK는 QAM에 비해 진폭 레벨의 수가 적기 때문에 비선형 왜곡에 유리한 측면이 있다.

이동 통신과 위성 통신에서 사용되는 변조 방식이 다르기 때문에 해당 변조 신호를 수신하기 위한 고유의 복조 구조가 각각 필요하다. 그러므로 이동 통신의 변조 신호와 위성 통신의 변조 신호를 수신하여 통합 복조할 수 있는 범용 신호처리 구조가 제시된다면 지상−위성 간의 유연한 통신 네트워크를 구현하는 데에 큰 이점이 될 수 있을 것이다. 이를 위해 각각의 복조 구조를 별도로 구현하여 수신기에 적용하는 방법이 있으나, 하드웨어 및 소프트웨어 자원 측면에서 효율적이라고 보기는 어렵다. 만약 동일한 복조기 구조를 이용하여 QAM과 APSK 신호를 복조할 수 있다면 구현 복잡도 측면에서 효율적인 시스템 개발에 유리할 것이다. 또한 비선형 특성과 같은 왜곡을 학습하여 복조 과정에서 보상할 수 있다면 통신 시스템 성능을 향상시킬 수 있을 것이다.

이러한 도전적 목표 달성을 위해 본 논문에서는 기계 학습의 적용을 고려한다. 기계 학습 기술은 영상처리와 같은 분야에서 주로 활용되었으나 최근에는 통신 시스템에도 기계 학습을 적용한 연구가 많이 이루어지고 있다[4]-[6]. 통신 시스템에서 송신된 신호를 결정하는 복조 기술 분야에서도 최근 기계 학습을 적용한 연구가 수행되었다[7][8]. 기존 연구[7]에서는 DNN(Deep Neural Network)과 SVM(Support Vector Machine)을 조합한 복조 구조를 제시하였는데 3개의 은닉층과 다수의 SVM 모듈로 구성되어 있다. [8]에서는 TeraHertz 통신에서 복조를 위한 DNN 구조를 제시하였는데 은닉층 개수가 2에서 4개인 신경망을 적용하였다. 기존 기계 학습 기반의 복조 기술 연구는 주로 QAM 방식을 대상으로 이루어졌다. 그러나 대표적인 위성 통신 변조 방식인 APSK에 대한 기계 학습 기반의 복조 구조 연구는 미흡하였다. 더욱이 동일 변조 차수 내에서 서로 다른 변조 방식 신호를 복조할 수 있는 범용 복조기에 대한 연구 결과는 제시되지 않았다. 또한 경량화된 기계 학습 기반 복조 구조 연구에 대한 여지도 남아있다.

본 논문에서는 QAM과 APSK 신호에 대한 저복잡도 신경망 기반 범용 복조 구조를 제안한다. 제안하는 신경망 기반 복조기는 1개의 은닉층으로 설계되어 기존 연구 결과 대비 낮은 계산 복잡도를 갖는다. 제안하는 복조기는 동일한 신경망 구조에서 QAM과 APSK에 상응하는 가중치와 바이어스 값을 메모리에 저장하여 적용함으로써 효율적이며 유연한 구현 특성을 갖는다. 또한 제안하는 신경망 기반의 복조기가 비선형 특성에 대해서 우수한 성능을 보이는 것을 확인한다.

본 논문의 구성은 다음과 같다. 2장에서는 기존 연구 내용을 분석한다. 3장에서는 QAM과 APSK에 대하여 설명한다. 4장에서는 신경망 기반의 복조 구조를 제안한다. 5장에서는 제안하는 복조기의 심볼 오류율(SER, Symbol Error Rate) 성능을 시뮬레이션을 통해 제시하고 6장에서 끝맺는다.

Ⅱ. 기존 연구 내용 분석

기존 연구 [7]에서는 수신 신호에 대해 우선 DBN(Deep Belief Network)을 적용하여 특성을 추출한다. 이때 입력 신호의 길이는 10~80으로 설정하였으며 DBN의 세부 구조는 3개의 RBM(Restricted Boltzmann Machines)을 적층하여 구성되어 있다. 다음 단계로 OVO-SVM(One-Versus-One Support Vector Machine)을 사용하여 복조 신호를 출력한다. 이 방식은 다수의 2진 분류기를 통해 M진 분류를 수행하므로 필요한 2진 분류기 개수는 M∙(M—1)/2이다. 즉 M=16이면 120개의 2진 분류기가 필요하다. 기존 연구[7]에서는 신경망과 SVM을 기반으로 한 새로운 구조의 복조기를 제안하였으나 그 계산 복잡도가 크다는 단점이 있다.

기존 연구 [8]에서는 테라헤르츠(TeraHertz) 대역 고속 전송을 위한 신경망 기반 복조 모델인 MoDFNN(Multiple-output Deep Feedforward Neural Network)를 제안하였다. I/Q 신호를 진폭과 위상으로 변환하여 신경망의 입력으로 사용하고 2단에서 4단까지 확장되는 은닉층으로 신경망을 구성하였다. 각 은닉층의 노드 개수는 10개로 설정하였다.

두 연구 모두 대상 변조 방식을 QAM으로 한정 지었으며 위성 통신 변조 방식인 APSK 신호를 같이 처리할 수 있는 범용 복조기에 대한 연구 결과를 제시하지는 못하였다. 또한 [7]과 [8]에서 제안된 모델보다 경량화된 신경망 기반 복조 구조 연구가 필요하다.

Ⅲ. QAM and APSK

통신 시스템의 수신부로 입력되는 수신 신호는 다음과 같이 표현될 수 있다.

여기서 r_i는 i번째 수신 신호, P_k는 신호의 크기, θ_k는 신호의 위상, 그리고 n_i는 가산성 백색 가우스 잡음 (AWGN, Additive White Gaussian Noise)이다. 변조 신호는 2차원 평면에서 (I) in-phase와 (Q) quadrature phase 성분으로 구성되며, 식 (1)과 같이 복소수 형태로 표현될 수 있다. M진 변조를 고려했을 때 k는 S = {1, 2, ..., M} 집합 중 하나의 값을 갖는다. 변조 방식에 따라 신호점들은 고유의 신호 크기와 위상을 가지게 된다. 본 논문에서는 M=16인 경우를 다루며, 16 QAM 및 4+12 APSK를 대상 변조 방식으로 정한다.

각 변조 방식의 신호점 구성을 알아본다. 그림 1은 16 QAM의 성상도를 나타낸 것이다. QAM은 일반적으로 정사각형의 신호점 배치를 갖기 때문에 square QAM이라고도 불리우나, 여기서는 QAM으로 표기하겠다.

Fig. 1.

16 QAM constellation

그림 2는 4+12 APSK의 성상도를 나타낸 것이다. 그림에서 알 수 있듯이 APSK는 신호 크기의 종류가 QAM보다 작다. 4와 12는 각각 안쪽 링과 바깥쪽 링에 배치되어 있는 신호점의 개수를 나타내는데 안쪽 링에 신호점 4개, 바깥쪽 링에 신호점 12개가 놓여있는 것을 알 수 있다. 안쪽 링 대비 바깥 링의 지름 비율을 링 비율(Ring ratio)로 정의하는 데, 여기서는 DVB-S2(Digital Video Broadcasting Satellite-Second generation)에 주어져 있는 링 비율 값을 적용한다.

Fig. 2.

4+12 APSK constellation

각 변조 방식의 신호 성상도에서 알 수 있듯이 변조 방식마다 신호점의 배치가 다르므로 변조된 신호를 수신부에서 복조하기 위해서는 그에 적합한 개별의 복조 구조를 가져야 한다. 복조기는 수신된 I, Q 신호를 이용하여 송신된 심볼을 추정한다. I, Q 신호를 이용하여 각 변조 신호를 학습시켜 그에 적합한 가중치 값을 신경망에 적용한다면 복조 과정을 수행하는 신경망을 구성할 수 있을 것이다. 다음 장에서는 간소화된 신경망을 이용하여 QAM 신호와 APSK 신호를 복조할 수 있는 구조를 제안한다.

Ⅳ. 신경망 기반 범용 복조

제안하는 신경망 기반 범용 복조기의 개념도를 그림 3에 나타내었다. 지상 이동 통신에서는 변조 방식으로 QAM을 사용하고 있으며 CCSDS(Consultative Committee for Space Data Systems)와 같은 위성 통신 표준에서는 APSK 방식을 권고하고 있다. 본 논문에서는 위성에서 사용하는 APSK와 지상에서 사용하는 QAM 신호를 함께 처리할 수 있는 복조 구조를 신경망 기반으로 제시한다. 그림 3에 나타난 바와 같이 신호 복조를 위한 단일 신경망 구조를 구성하고 수신되는 신호의 종류에 따라 미리 학습되어 메모리에 저장된 가중치와 바이어스 값을 선택적으로 신경망에 적용하여 복조를 수행한다. 예를 들어 APSK 신호 복조 시에는 W_APSK, b_APSK를 적용하고, QAM 신호 복조 시에는 W_QAM, b_QAM을 적용한다.

Fig. 3.

Concept of proposed neural network-based universal demodulation

신경망은 일반적으로 입력층, 은닉층, 출력층으로 구성된다. 여기서 입력층과 출력층은 해결하고자 하는 문제의 유형에 의해서 결정된다. 본 논문에서 해결하고자 하는 복조 과정은 수신되는 I, Q 신호를 이용하여 M개 중 하나의 심볼로 분류하는 문제이므로 입력층 노드의 개수는 2이고 출력층 노드의 개수는 M이 된다. 본 논문에서는 16진 변조인 16 QAM과 4+12 APSK에 집중할 것이므로 M=16이 된다.

Fig. 4.

Neural network-based demodulator with low complexity

복조기의 성능은 SER로 표현될 수 있다. 제안하는 신경망 기반 복조기의 성능 지표는 SER이 되며 수신된 신호로부터 송신 심볼을 잘 분류한다면 SER이 작아질 것이다. 일반적으로 신경망 분류기의 규모와 성능 측면을 보았을 때, 은닉층의 개수와 은닉층 노드 개수를 증가할수록 더 낮은 SER이 얻어질 것으로 기대할 수 있다. 그러나 통신 시스템의 구현 복잡도 측면에서 과한 규모의 신경망은 불필요하다. 그러므로 은닉층의 개수와 노드 개수를 증가시키며 SER 성능을 분석한 결과, 은닉층의 개수가 1이고 은닉층 노드의 개수가 14일 때, conventional ML(Maximum Likelihood) 방식과 동일한 SER이 나오며 신경망의 규모를 더 늘려도 SER이 더 감소하지 않음을 확인하였다. 이 결과는 다음 장에서 소개된다. 그러므로 우리는 입력층 노드 개수 2, 은닉층 노드 개수 14, 출력층 노드 개수 16인 신경망을 복조 구조로 제안한다. 제안하는 신경망의 출력은 다음과 같이 표현될 수 있다.

여기서, r_i는 i번째 수신 신호로써 원소의 개수가 2인 열 벡터이고, W₁는 입력층과 은닉층을 연결하는 가중치로서 14×2인 행렬이고, b₁는 은닉층의 바이어스로서 14×1인 열 벡터이다. τ(•)는 활성함수로써 시그모이드 함수를 사용한다. W₂는 은닉층과 출력층을 연결하는 가중치로서 16×14인 행렬이고, b₂는 출력층의 바이어스로서 16×1인 열 벡터이다. y는 출력 신호로써 원소의 개수가 16인 열 벡터이고 $$ {\left\{y_1,y_2,\dots ,y_{16}\right\}}^T$$로 표현될 수 있다.

출력층의 각 노드는 각 송신 심볼에 대응한다. 제안하는 복조기는 신경망의 출력으로부터 그 크기가 가장 큰 출력 노드를 결정하여 해당하는 심볼을 출력한다. 이를 수식으로 표현하면 다음과 같다.

복조에 적합한 가중치와 바이어스 값을 얻기 위해서 오류 역전파 알고리즘을 적용하여 학습을 수행한다. 각 신호 대 잡음비(SNR, Signal-to-Noise Ratio)별로 1000개의 심볼을 학습 데이터로 이용하였다. 학습률을 0.2로 설정하여 SGD(Stochastic Gradient Descent) 방식으로 학습을 수행하였으며 epoch 약 16,000에서 수렴하는 결과를 나타내었다. 학습된 가중치와 바이어스 값을 그림 5와 그림 6에 각각 나타내었다.

Fig. 5.

Weight values for the first column of W2

Fig. 6.

Bias values for b2

학습된 신경망의 전체적인 가중치와 바이어스 값 분포를 살펴보았을 때, 그 값의 범위가 −10~10 이내로 작은 범위에서 학습된 것을 알 수 있다. 즉, 하드웨어로 구현할 때 가중치과 바이어스를 표현하기 위해 적은 수의 비트 할당만으로도 충분하다는 의미이므로 구현성이 좋다고 할 수 있다.

기존 논문 [8]에서는 16 QAM 복조를 위해 가장 작은 규모의 신경망으로 2×10×10×16인 신경망을 제안하였다. 이때 복조를 위해 필요한 곱셈 연산의 수는 3,200이다. 본 논문에서 제안하는 신경망은 2×14×16의 크기를 갖기 때문에 복조를 위해 필요한 곱셈 연산의 수는 448개이다. 이는 [8] 결과 대비 14%에 해당하는 작은 값이다. 더불어, QAM과 APSK에 대한 가중치 값을 각각 메모리로 저장해 놓음으로써 같은 신경망 구조에서 두 방식의 변조 신호를 복조할 수 있다.

Ⅴ. 성능 분석

본 장에서는 제안하는 신경망 기반 복조기의 성능을 컴퓨터 시뮬레이션을 통해 검증한다. 우선, 앞 장에서 언급하였던 은닉층 노드 개수에 따른 SER 성능을 살펴본다. 그림 7에는 제안하는 복조기에 대하여 은닉층 노드 개수에 따른 16 QAM의 SER을 나타내었다. 그림에서 볼 수 있듯이 은닉층 노드 수가 증가함에 따라 SER이 작아지는 것을 알 수 있다. 그러나 은닉층 노드 개수가 10 이상에서는 노드 수 증가에도 SER이 더 이상 작아지지 않으며, 전형적인 ML의 SER에 수렴하는 것을 확인할 수 있다.

Fig. 7.

SER performance of 16 QAM for neural network-based demodulator

그림 8에는 은닉층 노드 개수에 따른 4+12 APSK의 SER을 나타내었다. QAM과 달리 APSK의 경우에는 전형적인 ML 방식의 성능과 유사한 은닉층 노드의 개수가 14인 것을 확인할 수 있다. 따라서 16 QAM과 4+12 APSK에 대해 충분한 성능을 보장하기 위해서는 신경망 은닉 노드의 개수를 14개로 설정해야 하는 것을 확인할 수 있다.

Fig. 8.

SER performance of 4+12 APSK for neural network-based demodulator

본 논문에서 제안하는 신경망 기반 복조기는 16 QAM에 대해 SNR 12 dB에서 SER 10^—1의 성능을 나타내는 것을 알 수 있다. 기존 연구 [7]에서는 16 QAM에 대해 DBN-SVM 방식을 사용하여 SNR 16 dB에서 SER 10^—1의 성능을 보였으므로 본 논문에서 제안하는 복조 구조의 성능이 더 우수한 것을 확인할 수 있다. 기존 연구 [8]에서 제안하는 MoDFNN의 경우 16 QAM에 대해 전형적인 ML과 유사한 성능을 보이므로 본 논문에서 제안하는 방식과 동등한 성능을 나타내지만 4장에서 언급한 계산 복잡도 측면에서는 본 논문에서 제안하는 방식이 더 효율적인 것을 확인할 수 있다. 또한 기존 연구에서는 APSK에 대한 성능은 제시되지 않았다.

제안하는 신경망 기반의 복조기를 사용하면 서로 다른 변조 방식 신호에 대해서 동일한 구조의 신경망에서 단지 메모리에 저장된 가중치와 바이어스 값을 선택적으로 적용함으로써 복조할 수 있다. 또한 고정된 복조 방식이 아니라 학습을 통해 신경망의 가중치와 바이어스 값을 도출하기 때문에 통신 성능을 저하시키는 여러 가지 현상에 대해서도 강인함을 나타낼 수 있다. 위성 통신에서 특히 심하게 겪을 수 있는 증폭기 비선형성을 예로 들어 보자. 고출력 증폭기의 사용은 증폭기 입력과 출력 신호 사이에 AM/AM(Amplitude Modulation/Amplitude Modulation 및 AM/PM(Amplitude Modulation/Phase Modulation) 특성을 발생시킨다. 이는 증폭기 입력 신호의 크기에 따라 증폭기 출력 신호의 크기와 위상이 왜곡되는 특성을 의미한다. 대표적인 비선형성 모델로는 Saleh 모델이 있다[9]. 본 논문에서는 비선형 특성을 적용하였을 때, 제안하는 복조기가 신호 왜곡을 학습하여 기존의 고정된 복조 방식에 비해 우수한 성능을 보일 수 있음을 검증한다. 그림 9에는 증폭기의 비선형 특성을 고려했을 때 4+12 APSK의 SER 결과를 나타내었다. AM/AM 및 AM/PM 파라미터는 [9]를 참조하였다.

Fig. 9.

SER performance of 4+12 APSK for nonlinearity

그림에서 알 수 있듯이 비선형 특성으로 인한 왜곡이 발생했을 때, 기존 고정된 결정 영역을 갖는 복조 방식(Conventional ML)은 오류가 크게 발생한다. 그 이유는 비선형 왜곡이 수신 신호의 중심점을 올바른 결정 영역에서 벗어나게 만들기 때문이다. 이러한 현상으로 인해 수신 신호의 중심(평균값)이 틀어지게 되므로 SNR이 높아져 잡음의 분산이 줄어들더라도 SER이 개선되지 않는 결과로 이어진다. 그러나 제안하는 신경망 기반의 복조기는 비선형 특성을 학습할 수 있으므로 SNR 19 dB이상에서 SER 10^—3 이하의 성능을 나타내는 것을 확인할 수 있다. 따라서 제안하는 복조기는 신호 왜곡에 강인한 특성을 갖는 것을 검증하였다.

Ⅵ. 결 론

본 논문에서는 공통 신경망 구조를 이용해서 16 QAM과 4+12 APSK를 복조할 수 있는 복조 방법을 제안하였다. 제안하는 복조기는 복잡도 대비 성능을 분석한 결과를 바탕으로 은닉층 개수 1개, 은닉 노드 개수 14개인 구조의 신경망을 적용한다. 학습된 신경망의 가중치와 바이어스는 적절히 작은 값의 범위를 갖고, 각 변조 방식별로 학습된 가중치와 바이어스 값을 메모리로 적용하여 신경망 구조를 공통으로 사용하면서도 두 변조 방식을 모두 복조할 수 있도록 하였다. 컴퓨터 시뮬레이션을 통해 제안하는 구조의 신경망 기반 복조기가 전형적인 ML 복조기와 동일한 성능을 나타내는 것을 검증하였다. 또한 통신 시스템 성능을 저하시킬 수 있는 비선형 왜곡 상황에서는 학습 과정을 통해 별도의 보상 과정 없이도 SER 성능을 확보할 수 있는 것을 확인하였다. 제안하는 기계 학습 기반의 복조기는 지능화된 통신 시스템을 구축하는 데 핵심 기술로 활용될 수 있을 것이다. 미래 연구로서 변조 차수의 증가 및 다른 여러 변조 방식을 복조할 수 있는 확장된 복조 구조를 고려할 수 있을 것이다.

Acknowledgments

이 논문은 2024학년도 제주대학교 교원성과지원사업에 의하여 연구되었음

References

• B. Evans, "6G satellite communications", Proc. of 27th Asia Pacific Conference on Communications (APCC), Jeju, Republic of Korea, pp. 175-177, Oct. 2022. [https://doi.org/10.1109/APCC55198.2022.9943787]
• K. Cho and D. Yoon, "On the general BER expression of one- and two-dimensional amplitude modulations", IEEE Transactions on Communications, Vol. 50, No. 7, pp. 1074-1080, Jul. 2002. [https://doi.org/10.1109/TCOMM.2002.800818]
• European Telecommunications Standards Institute (ETSI) EN 302 307 v1.2.1. Digital Video Broadcasting (DVB), Second generation framing structure, channel coding and modulation systems for Broadcasting, Interactive Services, News Gathering and other broadband satellite applications (DVB-S2), Aug. 2009.
• Z. Qin, H. Ye, G. Y. Li, and B. F. Juang, "Deep learning in physical layer communications", IEEE Wireless Communications, Vol. 26, No. 2, pp. 93-99, Apr. 2019. [https://doi.org/10.1109/MWC.2019.1800601]
• H. Huang, S. Guo, G. Gui, Z. Yang, J. Zhang, and H. Sari, "Deep learning for physical-layer 5G wireless techniques: opportunities, challenges and solutions", IEEE Wireless Communications, Vol. 27, No. 1, pp. 214-222, Feb. 2020. [https://doi.org/10.1109/MWC.2019.1900027]
• J. Lee, J. Kim, B. Kim, D. Yoon, and J. Choi, "High performance automatic modulation recognition technique for fading channels based on deep learning", Journal of Korean Institute of Information Technology, Vol. 16, No. 1, pp. 1-10, Jan. 2018. [https://doi.org/10.14801/jkiit.2018.16.1.1]
• H. Wang, Z. Wu, S. Ma, S. Lu, H. Zhang, and G. Ding, "Deep learning for signal demodulation in physical layer wireless communications: prototype platform, open dataset, and analytics", IEEE Access, Vol. 7, pp. 30792-30801, Mar. 2019. [https://doi.org/10.1109/ACCESS.2019.2903130]
• D. He and Z. Wang, "Deep learning-assisted demodulation for TeraHertz communications under hybrid distortions", IEEE Communications Letters, Vol. 26, No. 2, pp. 325–329, Feb. 2022. [https://doi.org/10.1109/LCOMM.2021.3132965]
• A. A. M. Sale, "Frequency-independent and frequency-dependent nonlinear models of TWT amplifiers", IEEE Transactions on Communications, Vol. 29, No. 11, pp. 1715-1720, Nov. 1981. [https://doi.org/10.1109/TCOM.1981.1094911]