Korean Institute of Information Technology

Home

The Journal of Korean Institute of Information Technology - Vol. 19 , No. 6

[ Article ]
The Journal of Korean Institute of Information Technology - Vol. 19, No. 6, pp. 57-63
Abbreviation: Journal of KIIT
ISSN: 1598-8619 (Print) 2093-7571 (Online)
Print publication date 30 Jun 2021
Received 31 Mar 2021 Revised 16 Apr 2021 Accepted 19 Apr 2021
DOI: https://doi.org/10.14801/jkiit.2021.19.6.57

소규모 유선/무선 네트워크에서 실시간 제어 메시지 전송방안
강홍구* ; 김남곤* ; 김종원*
*국방과학연구소 지상기술연구원(교신저자)
**국방과학연구소 지상기술연구원

Method to Transmit Real-Time Control Message in Small Size Wired/Wireless Networks
Hongku Kang* ; Namgon Kim* ; Jong-Won Kim*
Correspondence to : Hongku Kang Unmanned Ground System PMO Team 1, Ground Technology Research Institute, Yuseong, P.O.Box 35, 34186, Korea Tel.: +82-42-821-3725, Email: hkkang@add.re.kr


초록

최근 위험지역에서 소규모 유선/무선 네트워크 기반 실시간 원격제어에 관한 관심이 크게 증가하고 있다. 이러한 실시간 원격제어에서 중요한 요소들 중 하나가 주기적으로 전송되는 실시간 제어 메시지의 지연시간 성능이다. 일반적으로 빠른 속도의 유선 네트워크에서는 지연시간 측면에서 큰 문제가 발생하지 않지만, 상대적으로 느린 속도의 무선 네트워크와 연동 시 성능저하가 발생된다. 특히, 실시간 제어 메시지의 지연시간 Jitter 발생은 안정적인 원격제어를 어렵게 한다. 본 논문에서는 소규모 유선/무선 네트워크에서 안정적인 실시간 제어 메시지 전송방안을 제안한다. 제안된 전송방안은 무선프레임 시작점을 기준으로 동일시점에 메시지가 전송되도록 무선프레임과 메시지 전송주기를 설계하고, 실제 환경에서 안정적인 동작을 위한 동기화 전송을 적용한다. 제안된 전송방안은 개선된 군용 무인로봇 시스템에 실제 적용되어 그 성능을 검증한다. 실험 결과에 따르면 제안된 전송방안은 일반적 전송방안의 약 30% 수준의 지연시간 Jitter 성능을 보장한다.

Abstract

Nowadays, there are significant interests in real-time remote control using a small sized wired/wireless networks, especially in the dangerous field such as battlefield and disaster scene. In real-time remote control, one of important factors is the delay of real-time control messages. While wired networks do not make a performance degradation in transmitting real-time control message, wireless networks make performance degradations in jitter of delay. In this paper, we proposed method to transmit real-time control message in small sized wired/wireless networks. The proposed method designed a wireless frame and a message transmission period and employed synchronized message transmission to transmit control message with fixed delay. The proposed method was applied to military unmanned system and evaluated performances by examinations. According to results of examinations, the proposed method reduced jitter of delay as 30% as that of conventional system.


Keywords: real-time control, jitter of delay, wired/wireless network, synchronized message transmission, system design

Ⅰ. 서 론

최근 스마트기기를 이용하여 원격지의 사물을 제어하거나 상태를 모니터링 하는 다양한 원격제어기술에 대한 관심이 크게 증가하고 있다. 그리고 이러한 관심은 인명의 소중함이 강조되고 위험요소가 많은 재난 현장이나 군사 분야로 확대되고 있다[1][2]. 이러한 분야에서 원격제어는 원격지로부터 수신되는 영상, 장애물과의 거리 등 다양한 센서 신호를 기반으로 초당 수십 개의 실시간 제어 메시지를 유선/무선 네트워크를 통하여 송수신하며 원격지의 사물을 실시간으로 운용한다. 이러한 실시간 원격제어의 안정적 운용을 위해서는 지연시간이 최소화 가 필요하며, 특히 이들 실시간 제어 메시지의 수신간격의 변화인 지연시간 Jitter가 최소화 되어야 한다. 유선 네트워크에서 실시간 제어는 이미 Ethernet을 이용하는 차량용 Ethernet이나 산업용 제어 네트워크 등과 같이 높은 수준에 도달해 있다[3][4]. 반면에 무선 네트워크에서는 지연시간과 지연시간 Jitter 같은 실시간 특성 측면에서 유선 네트워크에 비하여 상대적으로 낮은 성능을 보이고 있다. 실제로 군용 무인로봇 시스템을 개발하는데 있어서, 유선/무선 네트워크 연동 간 실시간 제어 메시지의 지연시간 성능을 확인해 본 결과 그 성능이 크게 저하되었다[5]. 이러한 무선 네트워크에서 발생되는 실시간 특성 성능저하의 대부분은 무선 네트워크의 전송버퍼 내 대기시간의 불확실성에서 기인된다. 본 논문에서는 이러한 무선 네트워크의 전송버퍼 내 대기시간 불확실성으로 인한 성능저하를 줄이기 위한 소규모 유선/무선 네트워크에 적용 가능한 실시간 제어 메시지 전송방안을 제안한다. 제안된 전송방안은 무선 네트워크의 프레임 길이와 실시간 제어 메시지 주기를 지정된 시점에 제어 메시지가 송수신되도록 설계하고, 전송노드들의 전송시점을 무선프레임에 동기화하여 안정적인 동작이 가능도록 보정한다. 제안된 전송방안은 실 시스템에 적용되고, 그 성능은 실험을 통하여 확인한다.

본 논문의 구성은 다음과 같다. 2장은 유선/무선 네트워크 연동 간 발생되는 실시간 제어 메시지의 지연시간 성능저하 발생 원인을 설명한다. 3장에서는 실시간 지연시간 성능저하를 보상하기 위한 전송방안을 제안하고, 4장에서는 제안된 전송방안의 성능을 실 시스템을 이용하여 평가한다. 마지막으로 5장에서는 결론에 대해 기술하고 본 연구의 성능향상 가능성에 대하여 이야기한다.


Ⅱ. 원격운용 시스템에서의 지연시간

최근 위험요소가 존재하는 환경에서 원격제어에 대한 관심이 크게 증가하고 있고, 이러한 관심은 군의 무인로봇에 대한 요구로 옮겨가고 있다. 이러한 요구를 반영하여 군용 무인로봇 시스템을 개발하였고 시스템 연동시험을 통하여 그 운용 가능성을 확인하였다[6]. 개발된 군용 무인로봇 시스템에서는 유선 네트워크로 Gigabit-Ethernet을 적용하였고, 무선 네트워크로는 자체 개발한 무선 네트워크를 적용하였다[7]. 개발된 군용 무인로봇 시스템은 광대역 특성을 갖는 네트워크 적용으로 실시간 제어가 가능할 것으로 판단하여, 메시지 별로 전송우선순위만을 적용하는 일반 전송방식만을 적용하였다. 실시간 원격제어는 통제차량에서 원격지의 무인차량 카메라 영상을 수신하고, 사용자는 이를 기반으로 핸들, 페달, 조이스틱과 같은 장치를 이용하여 실시간 제어 메시지를 초당 25개 씩, 40ms 주기로 전송하여 실시간 원격제어를 서비스한다. 이러한 군용 무인로봇 시스템에서 실시간 제어 메시지의 수신간격 측정 결과와 히스토그램이 그림 1, 2에 각각 나타난다.


Fig. 1. 
Receiving interval of real-time control message


Fig. 2. 
Histogram of receiving interval of real-time control message

그림 1의 실시간 제어 메시지의 수신간격성능을 살펴보면, 평균이 약 38ms이고 최소 및 최대 수신간격은 각각 23ms와 57ms를 측정된다.

실시간 제어 메시지는 40ms 주기로 고정 운용했지만, 그 평균 주기가 38ms로 변하고, 또한 변화량인 Jitter도 34ms로 크게 증가한다.

세부적인 특성을 살펴보기 위하여 그림 2의 실시간 제어 메시지의 수신간격 히스토그램을 살펴보면, 37.5ms 인근에서 가장 많은 샘플들이 존재하고 43.75ms와 31.25ms 순서로 샘플들이 발생되는 것을 볼 수 있다. 이러한 분포가 발생되는 원인은 적용된 무선 네트워크가 6.25ms 길이의 무선프레임을 이용하기 때문이다. 우선 평균 수신간격 발생을 설명하기 위하여 그림 3의 메시지 송수신을 살펴본다


Fig. 3. 
Transmitting & receiving message with average value of receiving interval

실시간 제어 메시지가 N+1 무선프레임이 시작되는 직후에 전송이 시작되고, 이후 40ms의 주기를 유지하며 전송되면, 메시지의 수신간격은 6개의 무선프레임 길이인 37.5ms를 발생시킨다.

이러한 실시간 제어 메시지 전송시점은 시간에 따라 변하는데 그림 4와 같은 시점에서는 무선프레임 7개 길이인 43.75ms 수신간격을 보이게 된다.


Fig. 4. 
Transmitting & receiving message with average value + 1 wireless frame length of receiving interval

이처럼, 실시간 제어 메시지의 전송시점에 따라서 전송버퍼 내 대기시간 변화를 가져오고, 이는 수신간격이 무선프레임 단위로 변하는 결과를 유발한다. 이론적으로 발생되는 수신간격은 위의 37.5ms와 43.75ms가 전부이지만, 실제 시스템에서는 전송주기, 무선프레임 시작점 자체에도 불확실성이 존재하고 이러한 불확실성은 그림 5와 같이 추가적인 수신간격의 변화를 유발한다.


Fig. 5. 
Transmitting & receiving message with average value - 1 wireless frame length of receiving interval

이처럼 무선프레임 기반 실시간 제어 메시지의 실시간 특성은 단순한 전송우선순위만으로 보장이 어려우며, 무선프레임 길이와 메시지의 송수신 주기 및 실시간 제어 메시지 전송시점에 의해 좌우된다.


Ⅲ. 제안된 실시간 제어 메시지 전송방안

실시간 제어 메시지의 지연시간이 가변 하는 주된 원인은 무선 네트워크에서 전송되기 전에 전송버퍼에서 대기하는 시간의 변화이다. 이러한 전송버퍼 내 대기시간을 가변시키는 가장 큰 요인은 실시간 제어 메시지의 전송시점이 무선프레임의 시작점을 기준으로 고정적이지 않기 때문이다. 실시간 제어 메시지 주기와 무선프레임이 서로 정수배가 아닌 관계에서 메시지 송수신이 그림 6에 나타난다.


Fig. 6. 
Tx queue waiting time with non-multiple relation between message period and wireless frame time

메시지 전송주기와 무선프레임이 정수배 관계가 아니기 때문에 메시지의 발생시점은 무선프레임의 시작점을 기준으로 매 전송시점마다 변하게 된다. N+1번째 무선프레임에 전송되는 메시지의 전송버퍼 내 대기시간은 거의 0에 가깝고, N+4번째 무선프레임을 통하여 전송되는 메시지의 경우 거의 무선프레임 길이와 유사한 대기시간을 겪는다.

이러한 현상은 그림 7과 같이 실시간 제어 메시지의 전송주기와 무선프레임 길이를 정수배로 설계 및 구현함으로서 해결이 가능하다. 전송주기와 무선프레임이 정수배이므로 매 전송시점은 무선프레임의 시작점 기준 동일시점에 위치한다. 따라서 무선 네트워크에 다른 전송 메시지가 존재하지 않는다면 항상 동일한 전송버퍼 내 대기시간을 보장하고, 이는 전체 메시지 지연시간을 일정하게 한다. 여기에 다른 전송메시지에 의한 영향을 받지 않기 위해서, 실시간 제어 메시지의 무선 네트워크 내 전송이 항상 우선 전송되도록 높은 전송우선순위를 부여한다. 이러한 설계와 구현을 적용하면 실시간 제어 메시지는 정해진 지연시간과 정해진 수신간격을 보장하여 실시간 원격제어 성능을 향상시킬 수 있다.


Fig. 7. 
Tx queue waiting time with multiple relation between message period and wireless frame time

하지만, 실 시스템에서는 네트워크에서의 송수신 지연시간 Jitter, 장치간의 오실레이터의 오차 등과 같은 다양한 현실적인 요소로 인하여 실시간 제어 메시지 전송주기와 무선프레임 길이를 정확하게 정수배로 유지하는 것은 불가하다. 이를 해결하기 위해서 전송노드와 무선프레임 시작점 간 동기화를 적용하는 동기화 전송이 필요하다. 동기화를 위하여 PTP(Precision Time Protocol)이나 NTP(Network Time Protocol)과 같은 표준 시간 동기화 방식도 적용 가능하지만, 본 논문에서는 비교적 간단하게 구현이 가능한 그림 8의 방식을 적용한다.


Fig. 8. 
Synchronized message transmission

적용된 동기화 전송은 무선 네트워크 내 높은 정확도로 동기화되는 무선 통신장치들이 각 무선 통신노드의 Master가 된다. 그리고 각 무선 통신노드 등 중 실시간 제어 메시지를 전송하는 노드들이 Slave가 된다. 이 둘 간의 동기화는 Master가 매 무선프레임의 시작점에 Slave에게 동기화 신호메시지를 전송하고, Slave는 수신된 동기화 신호메시지 수신시간을 기준으로 적정 오프셋을 적용하여 메시지 전송시점을 보정하게 된다. 이러한 과정을 적정 주기로 반복하면 실시간 제어 메시지의 전송시점을 무선프레임 시작점 기준으로 항상 일정하게 유지할 수 있다. 제안된 전송방안은 제한된 무선 네트워크 용량과 단일 무선 네트워크 기반 시간 동기화 기술을 적용하기 때문에, 하나의 무선 네트워크 중심으로 유선 네트워크로 구성되는 2~4대의 무인차량을 원격 제어하는 소규모 네트워크에 적합하다.


Ⅳ. 시스템 성능 평가

제안된 소규모 유선/무선 네트워크에서 실시간 제어 메시지 전송방안의 성능을 평가하기 위하여, 기존 군용 무인로봇 시스템을 개선시킨 무인로봇 시스템에 이를 적용한다[8]. 개선된 군용 무인로봇 시스템은 앞서 언급한 군용 무인로봇 시스템에서 도출된 다양한 문제점들을 보완하고, 향후 미래 전장 선단에서 원격주행 및 수색/정찰을 담당하는 차세대 무인체계이다. 개선된 무인로봇 시스템은 하나의 통제차량 내에 2개의 운용 스테이션을 배치하고, 각 운용 스테이션에서 운용병이 무인로봇을 각각 원격제어 한다. 제안된 전송방안 적용을 위하여 실시간 제어 메시지는 초당 50개, 20ms 간격으로 전송하고, 무선프레임은 5ms로 설정하여, 이 둘 간에 4의 정수배를 유지하여 무인로봇 2대가 동시운용 가능하도록 한다.

또한, 다른 메시지 전송의 영향을 최소화하기 위하여 실시간 제어 메시지의 전송우선순위를 가장 높음으로 설정하고, 동기화 전송에 있어서는 각 무선 통신장치에서 모든 전송노드들에게 무선프레임의 전송시점을 매 1초마다 주기적으로 Gigabit-Ethernet을 통하여 전송하도록 한다. 운용 메시지로는 운용 스테이션에서 무인차량으로 실시간 제어 메시지가 운용되고, 무인차량에서 운용 스테이션으로는 무인차량의 상태정보, 원격운용에 필요한 영상들이 운용된다. 그리고 양방향으로 다양한 비주기 제어와 이에 대한 응답을 주고받는다. 성능평가는 개선된 군용 무인로봇 시스템 개발 간 수십 회 이상 반복하였지만, 본 논문에서는 개발 간 최종 소프트웨어가 적용된 시스템에서의 측정 결과만을 요약하여 기술한다.


Fig. 9. 
Delay performance of real-time control message in conventional transmission method

전원인가 후 측정된 지연시간 성능을 살펴보면, 모든 실험에서 지연시간은 평균값을 중심으로 그 변화량이 수백 us 이내로 일정하게 유지되었다. 하지만, 매 실험마다 평균 지연시간은 3ms부터 8ms까지 광범위하게 변하였다. 이는 실시간 제어 메시지 발생시점이 전원인가 시간에 따라 무선프레임의 시작점 기준 무작위로 결정되기 때문이다. 즉, 지연시간 발생이 무선프레임 길이와 동일한 Uniform 분포를 갖게 되기 때문이다.

그림 10은 제안된 전송방안을 적용한 실시간 제어 메시지의 지연시간 성능을 보인다. 제안된 전송방안을 적용한 경우에는 5회의 실험결과 모두 5.5ms의 동일한 평균 지연시간 성능을 보인다. 이는 동기화 전송이 매 전원 인가 시마다 무선프레임의 시작점 기준 동일한 시간에 메시지를 전송하도록 보정하기 때문이다.


Fig. 10. 
Delay performance of real-time control message in proposed transmission method

제안된 전송방안을 적용 시, 트래픽 부하에 의한 네트워크 내에서의 Jitter, 전송노드의 메시지 발생주기 Jitter 그리고 OS의 부하에 따른 메시지 처리 Jitter 등 다양한 원인들로 인하여 이상적인 시간보다 2.5ms의 추가 보호시간을 적용하여 시스템 동작을 안정화하였다. 추가 보호시간 적용으로 일반 전송방안의 평균지연시간의 달성가능 최고 지연시간, 3ms보다 2.5ms 추가된 약 5.5ms의 평균 지연시간을 보인다. 실제 시스템에서 발생되는 다양한 Jitter 성분을 줄인다면, 보호시간 적용도 같이 줄어서 평균 지연시간을 단축시킬 수 있다.

또한, 지연시간 Jitter를 세부적으로 살펴보면 제안된 전송방안을 적용하지 않는 경우 매 실험마다 약 500us의 변화를 보였는데, 제안된 전송방식은 1.5ms로 일반 전송방식보다 1ms의 큰 순간 Jitter를 보인다. 이는 동기화를 위하여 동기화 신호메시지를 매초 전송하는 전송모듈이 간헐적으로 1ms의 오차를 가지고 동작하기 때문이다. 동기화 신호메시지 전송을 보다 안정적으로 구현 한다면 일반 전송방안과 유사한 성능을 보일 것으로 예상된다.

비록 제안된 전송방안이 다양한 실제 요소들의 영향으로 달성 가능한 최소 평균지연시간이나 Jitter보다는 저하된 성능을 보였지만, 매 전원인가마다 5ms의 범위에서 평균 지연시간이 변하는 일반 전송방안보다는 안정적인 실시간 제어 메시지 운용이 가능하다. 또한, 이러한 성능저하는 OS(Operating System) 부하 경감, 프로그램 최적화, 정밀한 동기화 방안 적용 등 시스템 내 다양한 Jitter를 줄이는 기술들을 적용하면 추가적인 성능향상도 가능하다.


Ⅴ. 결론 및 향후 과제

본 논문에서는 소규모 유선/무선 네트워크에서 실시간 원격제어를 위한 전송방안을 제안하였다. 제안된 전송방안은 무선프레임의 시작점과 항상 일정한 시간에 실시간 제어 메시지를 전송하기 위하여, 실시간 제어 메시지의 전송주기와 무선프레임 간의 정수배 관계와 실제 시스템에서 발생될 수 있는 다양한 시간 오차를 극복하기 위하여 동기화 전송을 적용하였다. 그리고 다른 메시지의 영향을 최소화하기 위한 전송 우선순위를 결정하였다. 제안된 전송방안은 개선된 군용 무인로봇 시스템에 실제 적용하여 그 구현 가능성과 성능 향상을 확인하였다. 실험 결과에 따르면, 일반 전송방안의 실시간 제어 메시지는 약 5ms의 지연시간 Jitter를 보였다. 하지만, 제안된 전송방안을 적용 시, 지연시간 Jitter는 1.5ms로 약 30% 수준으로 크게 향상되었다. 추가적으로 네트워크 부하 분산, OS 부하 경감, 정밀한 동기화 전송 적용 등을 적용하면 제안된 전송방안의 성능을 더욱 개선할 수 있을 것이다.


References
1. The Newspaper Report on the Unmanned Robot, http://view.asiae.co.kr/article/2020120708351884303 [accessed: Dec. 07, 2020]
2. The Newspaper Report on the Unmanned Military Robot, http://kookbang.dema.mil.kr/newsWeb/20210219/1/BBSMSTR_000000100147/view.do [accessed: Feb. 18, 2021]
3. P. Hank, S. Müller, O. Vermesan, and J.V.D. Keybus, "Automotive Ethernet: In-vehicle networking and smart mobility", Proceeding of Automation & Test in Europe Conference & Exhibition, Grenoble, France, May 06, 2013.
4. S. Fuchs, A. Gercikow, and Hans-Peter Schmidt, "Monitoring of real-time behavior of industrial ethernet for industry 4.0", Proceeding of International Electrical Engineering Congress, Pattaya, Thailand, Mar. 8-10, 2017.
5. H. Kang, D.Y. Jung, T. Kang, and G. Sung, "Communication Characteristics of Unmanned Vehicle Network for Remote Control", Proceeding of the Spring Conference of the Korea Institute of Military Science and Technology, pp. 1910-1911, 2017.
6. H. Kang, H. Chung, T. Kang, and G. Sung, "Interworking Test of Multiple Robots for Light Combat", Proceeding of the Spring Conference of the Korea Institute of Military Science and Technology, pp. 1721-1722, 2016.
7. J.S. You, J.S. Choi, H. Kang, and W.B. Jang, "High-Capacity Data Transmission Technology Research based on 4x4 MIMO System", Proceeding of the Spring Conference of the Korea Institute of Military Science and Technology, pp. 379-382, 2012.
8. The Newspaper Report on Firing Demonstration of the Korean Unmanned Robot, https://www.chosun.com/politics/politics_general/2021/01/10/PEANTHHPDBFNZADGL5KKJGALQY/ [accessed: Jan. 10, 2021]

저자소개
강 홍 구 (Hongku Kang)

1998년 2월 : 성균관대학교 전자공학과(공학사)

2000년 2월 : 광주과학기술원 정보통신공학과(공학석사)

2004년 2월 : 광주과학기술원 정보통신공학과(공학박사)

2004년 2월 ~ 현재 : 국방과학연구소 연구원

관심분야 : 무선통신, 통신신호처리, OFDMA, 무인로봇

김 남 곤 (Namgon Kim)

2004년 2월 : 전남대학교 컴퓨터공학과(공학사)

2006년 2월 : 광주과학기술원 정보통신공학과(공학석사)

2012년 8월 : 광주과학기술원 정보통신공학과(공학박사)

2012년 9월 ~ 2019년 12월 : (주)케이티 융합기술원 연구원

2019년 12월 ~ 현재 : 국방과학연구소 연구원

관심분야 : 네트워크가상화, In-Vehicle Network, 무인로봇

김 종 원 (Jong-Won Kim)

1990년 2월 : KAIST 경영과학과(이학사)

1999년 2월 : KAIST 경영공학과(공학석사)

1990년 3월 ~ 현재 : 국방과학연구소 연구원

관심분야 : 무인체계 설계 및 안전, 실시간 원격제어