디지털 통신시스템에서 필터의 대역폭이 입력 신호의 대역폭에 비해 작은 경우 출력신호 펄스가 퍼지는 현상이 발생한다. 이 현상은 필터의 대역폭이 작으면 작을수록 심하게 되는데 펄스가 이웃한 펄스에 일으키는 간섭을 심볼간 간섭(ISI, Inter-Symbol Interference) 이라고 한다. 또한 다른 주파수 채널의 신호가 원하는 신호의 채널로 누설되어 일으키는 간섭도 존재하게 되는데 이를 인접채널 간섭(ACI, Adjacent Channel Interference) 이라고 한다. ISI나 ACI는 디지털 통신시스템에 심각한 오류를 발생시키는 요인이라고 할 수 있다. 따라서 디지털 통신시스템에서는 ISI와 ACI가 존재하는 채널 상황에서 이들의 영향을 분석하는 것이 중요하게 된다.

I. Korn[1]은 MSK(Minimum Shift Keying) 변조 방식에 대하여 ISI와 ACI를 고려하여 채널을 모델링하고, 송신단과 수신단에 가우시안 필터를 적용하여 대역 제한을 하였을 때 ISI와 ACI로 인한 성능 열화를 수식으로 유도하고 성능평가를 수행하였다. 또한 ISI와 ACI로 인한 열화를 최소한으로 하는 정규화된 최적의 3-dB 대역폭을 도시하였다.

한편으로 무선통신 시스템에서는 스펙트럼 공간이 매우 혼잡해짐에 따라 송신 신호의 주파수 효율을 최적화하는 것이 매우 중요하게 된다. 최근 들어 주파수 효율이 좋은 변조방식에 대한 연구가 여러 분야에서 활발히 진행되고 있다[2]-[6]. 주파수 효율을 최적화하기 위해서는 변조 신호의 전력 대부분이 주엽에 집중되도록 제어해야 하며, 부엽으로의 전력 확산은 최소가 되도록 하여야한다. M. A. Belkerdid 등[7]은 MSK에 비해 좀 더 부드러운 형태의 기저대역 성형함수를 사용하며 부엽으로의 전력 할당을 크게 줄이고 주엽에 전력을 집중시킨 주파수 효율이 좋은 AWQPSK(Amplitude-Weighted Quadrature Phase Shift Keying) 변조방식을 처음으로 제안하였다. 그러나 M. A. Belkerdid 등은 AWQPSK 시스템에 대한 성능평가 결과를 제시하지 않았다. 그 이후 AWQPSK에 대한 후속 연구는 거의 진행된 바가 없어 거의 잊혀진 논문이 되고 말았다.

AWQPSK 변조 방식은 주엽에 전력을 최대한 집중시켜 다른 변조 방식에 비해 전력 손실이 적기 때문에 대역폭 효율이 증가하고 ISI가 줄어들 것이라는 기대를 해볼 수 있다. 주파수가 제한된 채널에서 이는 커다란 장점이 될 수 있다. 간섭 채널에 대한 분석을 하여 성능이 입증된다면 다른 변조 방식들에 비해 제한된 대역에서 전력과 주파수를 효율적으로 사용할 수 있는 변조방식으로 사용될 수 있을 것이다.

본 논문에서는 ISI와 ACI 룰 고려하였을 때 AWQPSK 시스템의 성능열화 관계식을 SNR(Signal-to-Noise Ratio)에 대하여 유도한다. 이 수식을 유도하기 위하여, 2개의 ISI 심볼과 1개의 ACI 심볼이 응답에 주된 영향을 주었다는 가정을 한다. 성능평가를 위해 정규화된 3dB 대역폭과 SNR의 열화값 등을 성능 파라미터로 사용한다. 그리고 정규화된 중심주파수 이격 f_s를 파라메터로 하여, AWQPSK의 BER(Bit Error Rate) 성능을 MSK와 16-QAM(Quadrature Amplitude Modulation) 변조방식과 비교한다. 송신기와 수신기 모두 가우시안 필터를 사용한 경우와 수신기에서만 사용한 경우로 나누어서 수치계산 결과를 제시한다.

스펙트럼 공간이 붐비게 됨에 따라 대역이 제한된 채널에서 전송하는 정보의 스펙트럼 효율을 극대화하는 것이 중요하다. 식 (1)에 정현파 함수로 가중치를 갖는 심볼 주기가 T인 일반화된 펄스 성형함수를 P(t)로 표현하였다.

여기서 a_n은 푸리에 계수이며 N은 항의 개수이다. N = 1일 때가 MSK 변조에 해당한다. AWQPSK의 경우에는 N과 a_n의 값을 적절히 선택하여 식 (2)와 같은 펄스성형함수를 사용한다[7]. AWQPSK 성형함수 파형은 MSK의 단순한 코사인 함수의 펄스 포락선보다 훨씬 부드럽게 천이하며 이를 그림 1에 보였다. 이는 고주파 성분이 더욱 줄어들어 더 좋은 대역폭 효율을 가질 수 있음을 의미한다.

Fig. 1. 
Shaping pulse of AWQPSK

표 1에 각 변조 방식에 대한 전송 대역폭과 대역폭 효율을 나타내었다. 여기서 T_b는 비트구간이고 대역폭 효율은 bits/sec/Hz 로 표시된다. 전송 대역폭은 전체 전력의 99.99%를 포함하는 대역폭으로 정의한다.

전력 스펙트럼 밀도 또한 성능을 나타내기 위한 중요한 지표이며 이를 전체 주파수 대역에 대해 적분하면 1Ω당 전체 평균 전력을 구할 수 있다. 그림 2에서 AWQPSK의 경우 MSK보다 주엽이 넓고 부엽의 크기가 작으므로 전력 효율이 더 좋다고 판단할 수 있다.

Fig. 2. 
Comparisons of power spectral density

AWQPSK의 간섭으로 인한 열화 수준과 3-dB 대역폭을 측정하기 위해 ρ를 0, 1, 2, 5, 10으로 두고 측정하였으며 전력 열화 D에 대한 수식은 식 (10)과 같다.

AWQPSK의 경우 필터를 송·수신단 모두 적용하면 약 1.8 이상의 f_s/R_b를 가질 때 1.41dB의 열화로 수렴하며 수신단에만 필터를 적용하면 약 1.65 이상의 f_s/R_b를 가질 때 –0.11dB의 열화로 수렴하였다. AWQPSK의 경우에는 ρ값이 크더라도 충분한 f_s/R_b가 주어질 경우에는 가장 낮은 열화 수준을 보여준다. 여기서 f_s는 정규화된 중심주파수 이격이고, R_b는 비트율이다. 그림 4에 AWQPSK의 간섭에 따른 전력 열화 그래프를 제시하였다.

Fig. 4. 
Power degradation graph of AWQPSK

AWQPSK의 3-dB 대역폭은 필터를 송·수신단 모두 적용하면 약 3.1 이상의 f_s/R_b를 가진다면 0.91Hz로 수렴하며 수신단에만 필터를 적용하면 약 2.4 이상의 f_s/R_b를 가질 때 0.64Hz로 수렴하는 모습을 보였다. 이를 그림 5에 보였다.

Fig. 5. 
3-dB bandwidth of AWQPSK

ISI 및 ACI에 대한 오류 확률은 신호 대 잡음 비의 열화를 이용하여 식 (11)과 같이 구할 수 있다.

여기서 P(e|1)은 최악의 경우를 고려한 오류 확률을 의미하며, Q(x)는 Q-함수를, γ은 E_b/N₀를 의미한다.

그림 6은 수신단 모두 필터를 적용한 경우, 그림 9는 신 단에만 필터를 적용한 경우에 대해 각 변조 방식의 오류 확률을 비교한 그래프이다. ρ값이 1, 5인 경우에 대해 결과를 비교하였다.

Fig. 6. 
Error probability comparison when a filter is applied to the transmitter and receiver

송·수신단에 모두 필터를 적용한 경우는 f_s/R_b 값에 상관없이 성능이 AWQPSK가 가장 좋은 성능을 보였으나 수신단에만 필터를 적용할 때에는 f_s/R_b가 1.5이상이어야 AWQPSK가 가장 좋은 성능을 보였다. 이는 그림 7에서 수신단에만 필터를 적용하였을 경우 f_s/R_b가 1.5 이하일 때는 높은 수준의 신호 대 잡음비 열화를 보이기에 이러한 오류확률을 보이는 것이라고 해석할 수 있다.

Fig. 7. 
Error probability comparison when a filter is applied to the receiver only

본 논문에서는 AWQPSK 변조 방식을 ISI와 ACI를 가지고 있는 채널에 대해 SNR 성능열화 수식을 유도하고 간섭의 정도를 나타내는 파라미터 ρ값에 대한 열화 수준과 정규화된 채널 분리 주파수 f_s에 따라 적절한 3-dB 대역폭이 얼마인지를 제시하였으며 적절한 f_s값을 가진다면 다른 직교 변조 방식에 비하여 더 낮은 BER을 가지고 더 높은 최적의 3-dB 대역폭으로 대역폭 효율을 높일 수 있다는 것을 보였다.

하지만 AWQPSK 변조 신호는 진폭에 가중치를 주었기 때문에 포락선이 비선형 특성을 가지므로 비싼 선형증폭기를 사용해야 하는 단점이 있다. 또한 낮은 f_s 값을 가질 때의 성능 열화를 보완할 방안이 필요하기에 이를 개선할 수 있는 연구를 본 논문의 추후 과제로 남기기로 한다.