ConvLSTM을 이용한 도로 구간 속도 예측 기법

Ⅰ. 서 론

도로의 특정 구간을 뜻하는 도로링크(Road link)[1]의 미래 속도를 예측하는 것은 빠른 길 찾기 등의 다양한 교통 분야 위치 기반 서비스에서 중요한 기술이다. 교통 혼잡은 막대한 사회/경제적 비용을 발생시키고 있다. 도로의 특정 구간 및 미래 시간의 속도를 예측하는 것은 빠른 길 찾기 등의 다양한 교통 분야 위치 기반 서비스에서 중요한 기술이다. 도로링크 별 정확한 미래 속도 예측은 개인 차량 이동 시간을 절약할 수 있을 뿐 아니라 물류비용을 개선할 수 있어 사회적 비용 절감은 물로 산업적인 측면의 비용감소에도 큰 영향을 미친다.

도로링크의 미래 속도를 예측하기 위한 다양한 연구가 진행된 바 있다. 시계열 데이터 예측의 대표적인 방법의 하나인 ARIMA(Autoregressive Integrated Moving Average) 기반의 방법[2], KNN(K Nearest Neighbor) 기반의 방법[3], 베이지안(Baysian) 네트워크 기반의 방법[4] 등 다양한 방법들이 존재한다. 최근에는 다양한 딥 뉴럴 네트워크(Deep neural network)[5]-[9] 네트워크를 이용한 도로링크 속도 예측 연구들이 진행되고 있다.

도로 네트워크에서 어떤 도로링크의 속도는 시간적인 특징과 함께 이웃하는 도로링크의 속도 변화에 종속되는 공간적 특징을 동시에 가지고 있다. 딥 뉴럴 네트워크 기반의 속도 예측기법 중 [8]에서는 RCNN(Recurrent Convolution Neural Network)을 이용하여 도로 네트워크의 시간적 특징과 공간적 특징을 모두 반영하는 예측 모델을 제안하고 있다. 이에반해 [9]에서는 도로링크의 시간적 특징만을 반영하는 LSTM(Long Short-Term Memory) 기반의 예측모델을 제안하고 있다. 하지만 [8]은 속도 예측 시 속도를 4개 구간 중 하나로 분류하는 방식을 사용하여 연속적인 속도예측을 하지 못한다. 반면에 [9]에서는 중기, 장기에 걸쳐 연속적인 속도 예측이 가능하다.

이 논문에서는 [8]에서처럼 분류하는 방식이 아닌 [9]에서처럼 미래의 속도를 연속적으로 예측하기 위한 두 가지의 새로운 방법을 제안하고 실험을 통해 예측모델의 정확도 성능을 검증한다. 첫 번째 방법은 ConvLSTM(Convolutional LSTM)[10]을 기반으로 도로의 공간적인 특징과 연속적인 속도의 시간적인 특징을 모두 고려하는 방법이다. 두 번째 방법은, LSTM의 다대다(Many-to-many) 형식의 모델을 이용해서 연속적인 속도 예측을 수행하는 방법이다.

본 논문에서는 속도 예측 모델 생성을 위해서 ITP(인천테크노파크)에서 제공하는 데이터[11]를 이용한다. ITP가 제공하는 데이터는 인천 지역 도로링크 별 5분 단위 평균 속도, 통행량 등이다. 이 데이터를 이용하여 기존 방법[9]과 제안하는 두 가지 방법을 구현하고 실험을 진행하여 속도 예측의 정확도를 비교하였다.

Ⅱ. 관련 연구

[8]에서는 RNN과 CNN을 이용한 도로링크 속도 예측 모델을 제안하고 있다. 이 방법에서는 특정 도로 구간의 속도가 주변 도로의 속도에 의존적일 수 있으므로 주변 도로를 같이 고려하여 학습데이터를 추출한다. 이 방법에서는 속도를 4개의 클래스(Class) 로 나누어 속도 예측을 분류의 문제로 처리한다.

그림 1은 [8]에서 제안하는 RCNN기반의 이 방법에서는 도로 네트워크의 특정 도로링크의 속도를 예측하기 위해서 해당 도로링크의 오른쪽 도로링크들의 속성(Right context) 및 왼쪽 도로링크들의 속성(Left context)을 결합하여 임베딩(Embedding)을 수행한다. 그림에서 R은 예측하려는 도로링크의 속성, Cli는 왼쪽 도로링크들의 속성, Cri는 오른쪽 도로링키들의 속성이다. 이 방법에서는 RCNN 레이어를 통해 R, Cli, Cri를 임베딩하고 이를 평균 풀링 레이어(Average pooling layer)와 256개의 숨겨진 유닛 (Hidden unit)들로 구성되는 완전 연결 레이어(Fully connected layer)를 통해서 학습하는 구조를 갖는다.

Fig. 1.

Recurrent convolutional neural networks based prediction method for road traffic state [8]

공간적인 특징을 반영하지 않는 LSTM 기반의 속도 예측 모델로 [5]와 앞서 기술한 [9]가 있다. [5]는 LSTM을 기반으로 단기 예측이 가능한 방법을 제안하고 있다. 이 논문에서는 직접 서울에서 부산까지의 속도 데이터를 5분단위로 수집하고 이를 다시 TPI(Traffic Performance Index)로 변환하여 학습데이터로 사용하고 예측도 TPI에 대해 수행한다. 이 방법에서는 단기 TPI에 대한 연속적인 예측이 가능하다.

또한, 도로 네트워크를 그래프 구조로 표현하고그래프 정점들에 대해 디퓨전(Diffusion)을 수행하여 공간적인 특징을 고려하는 방법[12]이 제안된 바 있다. 다른 접근으로 도로 네트워크를 그래프 구조로 표현한 후 GNN(Graph Neural Network) 기법을 이용하여 도로 네트워크의 공간적 특징을 고려하는 방법[13]도 제안된 바 있다.

제안 3하는 ConvLSTM 기반의 방법은 [8]과 유사하게 공간적 및 시간적 특징을 모두 반영하면서 연속적인 속도 예측이 가능하다는 장점이 있다. GNN이나 디퓨전을 이용하는 방법들[12][13]은 공간적 및 시간적 특징을 모두 반영하면서 연속적인 속도 예측이 가능하지만, 상대적으로 학습에 대한 시간 및 공간 복잡도가 높은 단점이 존재한다.

Ⅲ. 제안하는 속도 예측 모델

제안하는 속도 예측 모델에 대해 기술하기 전에 이 논문에서 사용한 데이터 집합 및 전처리 과정에 대해서 먼저 설명한다. 앞서 기술한 바와 같이 이 논문에서는 인천테크노파크(ITP)에서 수집하여 제공하는 도로링크별 교통 데이터를 사용한다. ITP 제공 데이터는 인천광역시에서 스마트도시에 해당하는 송도 1공구, 2공구, 3공구, 4공구와 영종지구, 청라지구의 도로링크 별로 수집한 교통 데이터이다.

교통 데이터는 5분단위로 수집되어 저장되며 그림 2에서와 같은 속성을 갖는다. 각 레코드는 특정 시점에 특정 도로링크로부터 수집된 교통데이터를 포함한다. 교통데이터는 각 도로링크의 평균 교통량, 평균 속도, 평균 점유율이며, 기타 도로에 대한 속성 (도로명, 등급, 유형, 제한속도, 제한차량 등) 데이터도 저장된다.

Fig. 2.

Traffic data for road link of ITP

이 논문에서는 각 도로링크별 5분 간격의 평균 속도를 이용하여 학습데이터를 생성하였다. ITP 데이터 집합에는 평균 속도 속성에 대한 결측치가 다수 존재하였다. 전처리 과정에서 결측치가 존재하는 시간대의 이전 15분, 이후 15분 속도의 평균을 구하여 결측치를 보정하였다. 만일 이전, 이후 각각 15분간의 속도 데이터가 모두 결측되었으면 동일 요일의 동일 시간대의 평균 속도를 이용하여 보정하였다.

이 논문에서는 제안하는 첫 번째 속도 예측 방법은 ConvLSTM을 기반으로 한다. ConvLSTM은 LSTM 에 컨볼루션 리커런트 셀(Convolutional recurrent cell) 을 도입하여 시계열 처리와 컴퓨터 비전을 동시에 가능하게 하는 방법이다.

[8]에서 언급하는 것처럼 특정 도로링크의 속도는 이웃하는 도로링크들의 속도에 종속된다. 또한, 해당 도로링크의 이전 시간의 속도들에 의해 현재 속도가 종속된다. [8]에서는 이런 공간적 특징과 시간적 특징을 모두 고려하기 위해 RCNN 기반의 속도 분류기법을 제안하였다. 이에 반해 이 논문에서는 ConvLSTM을 이용하여 이웃하는 도로링크들의 특징을 컨볼루션 하여 추출하고 이를 LSTM의 셀로 하여 시간 특징을 고려하는 연속적인 도로링크의 속도 예측 방법을 제안한다.

그림 2에서 이 논문에서 제안하는 ConvLSTM 기반의 예측 모델을 보여준다.

입력데이터는 (데이터수, 윈도우크기, 도로링크수, 1, 1) 로 구성된다. 여기에서 윈도우크기는 비디오의 프레임수와 대응 되는 의미로 도로링크별 5분단위로 수집된 데이터의 수를 의미한다. 예를 들어서 어떤 도로링크의 과거 5분 단위 속도 데이터를 시간순으로 S0, S1, ..., Sn 라고 하자. 이때 윈도우크기를 10이라 하면 첫 번째 입력데이터 레코드는 {S0~S9}가 되며 이것은 총 50분간 5분 간격으로 수집한 데이터를 의미한다.

입력데이터의 각 레코드는 윈도우를 슬라이딩(Sliding) 하면서 생성된다. 즉, 첫 번째 레코드가 S0~S9 까지의 속도 데이터를 포함한다면 두 번째 레코드는 S1~S10, 세 번째 레코드는 S2~S11 이 된다. 데이터수와 윈도우크기는 상황에 따라 주어지게 된다. 그림 3에서는 데이터수와 윈도우크기는 변화가 가능하고 도로링크수를 5로 한 예를 보여주고 있다. 두 번째 속도 예측 방법은 [9]와 유사하게 LSTM을 기반으로 한다. 이 방법에서는 특정 도로링크의 과거 5분단위 속도 데이터 집합에 대해서 윈도우를 슬라이딩 하면서 학습데이터를 생성한다. [9]와 다르게 기본적인 LSTM 기반의 네트워크에 추가로 요일 및 휴일이 속도에 영향을 미치는 것을 고려하여 요일 및 휴일 데이터를 같이 입력한다. LSTM은 다대다 방식으로 구성하여 한 번에 예측하는 속도의 시간대를 여러 개로 한다.

Fig. 3.

Prediction model based on ConvLSTM

그림 4은 기본적인 LSTM 구조에 요일 및 휴일 데이터를 LSTM 출력에 합쳐서(Concatenate) 다음 레이어에서 학습하는 과정을 보여준다.

Fig. 4.

Prediction model based on LSTM

그림 4의 예측 모델은 두 가지의 InputLayer를 통해 속도 데이터와 요일 및 휴일 여부에 대한 데이터를 입력받는다. 속도 데이터는 각각 128개의 유닛을 가진 LSTM 레이어를 사용하여 학습한다. 속도에 대한 데이터 하나만 사용하기 때문에 2개의 레이어만 사용한다. 날짜 데이터를 입력받게 되고 학습이 완료된 속도 데이터 특징과 결합하여 최종적으로 다대다 방식의 LSTM 레이어에 입력한다.

Ⅳ. 성능 평가

이 논문에서는 2020년 1월 1일부터 같은해 10월 1일까지의 ITP 데이터 중 10개의 도로링크에 대해 실험을 수행하였다. 10개 도로링크 각각에 대해서 2020년 1월 1일부터 2020년 9월 30일까지의 데이터를 학습데이터로 하고 같은 해 10월 1일 데이터를 테스트 데이터로 사용하였다. 학습을 통해 제안하는 두 방법에 대한 예측모델을 만들고 테스트 데이터를 이용하여 성능을 측정한다. 학습데이터를 생성할 때 윈도우의 슬라이딩은 1시간 단위로 하였으며 성능 척도로 MAE(Mean Absolute Error)와 f1-score를 사용하였다.

실험은 에포크(Epoch)를 50~150로 변경하고, 배치크기(Batch size)는 32, 64, 128로 변경하면서 진행하였다. 또한, 그림 2와 3에서 LSTM 레이어와 Dense 레이어를 추가하거나 제거하면서 실험을 수행하고 가장 성능이 잘 나오는 환경에서 최종 성능 비교를 진행하였다. 다음 표 1은 이 실험에서 사용한 HW, SW, 데이터 집합에 대한 설명이다.

Table 1.

Experimental environments

앞서 기술한 바와 같이 배치크기와 에포크, LSTM 및 Dense 레이어를 변화시켜 가면서 다양한 실험을 수행하였다.

실험 결과 가장 좋은 성능을 보일 때 배치크기는 128, 에포크는 150이었으며 각 예측방법의 딥 뉴럴 네트워크의 레이어는 각각 그림 3과 4일 때 가장 좋은 성능을 보였다. ConvLSTM 기반의 예측방법과 LSTM 기반의 예측방법의 성능평가는 이 환경에서 진행하였다.

제안하는 LSTM 기반의 속도 예측 방법은 과거 3시간 동안의 데이터를 이용하여 미래 1시간 동안의 속도를 예측한다. 이 방법을 통해 24시간 동안의 속도를 예측하기 위해서 미래 1시간의 속도를 예측한 것을 다시 입력으로 해서 그다음 1시간의 속도를 예측하는 방법을 이용하였다.

제안하는 ConvLSTM기반의 속도 예측 방법은 과거 3시간 동안의 속도 데이터를 이용하여 미래 5분 후의 속도를 예측한다. 이 방법을 이용해서 24시간 동안의 속도를 예측하기 위해서는 예측한 5분 후의 속도를 다시 입력으로 하여 다음 5분의 속도를 예측하는 방식을 반복하였다.

이와 같은 실험을 표 1에서 제시한 10개 도로링크 각각에 대해 수행하고 MAE와 f1-score의 평균을 구하였다. 표 2는 제안하는 두 방법(LSTM 및 ConvLSTM 기반의 방법)과 기존에 제안된 방법[8]을 서로 비교한 결과이다. 제안하는 두 방법들은 모두 5분단위로 연속적인 속도 예측이 가능하므로 MAE를 측정할 수 있으나 [8]에서 제안하는 방법은 속도를 4개의 클래스로 구분하고 분류하는 방법이므로 이와 비교하기 위해 예측한 속도를 [8]과 동일한 기준으로 구분하여 4개의 클래스 중 하나로 분류하고 f1-score를 측정하는 방식을 사용하였다.

Table 2.

Experimental results

표 2의 실험 결과를 보면 제안하는 LSTM 기반의 방법과 ConvLSTM 기반의 방법의 경우 ConvLSTM 기반의 방법이 MAE와 f1-score 모두 우수한 것을 볼 수 있다. ConvLSTM은 공간적인 특징을 같이 고려하여 예측하고자 하는 도로링크의 이웃 링크들의 속도를 반영하는 것이 원인으로 보인다. f1-score 측면에서 기존방법과 ConvLSTM 기반의 방법을 비교하면 큰 차이가 없는 것을 볼 수 있다. 두 방법 모두 도로의 공간적인 특징을 반영하기 때문에 차이가 거의 없는 것으로 보인다.

Ⅴ. 결 론

도로링크의 미래 속도 예측 기술은 최적 경로 찾기 등 다양한 위치기반 서비스의 핵심 기술이다. 도로링크의 속도 예측을 위해서는 특정 도로링크의 속도가 인접 도로링크의 속도에 종속되는 특징과, 도로링크의 속도가 시간에 따라 변화하는 시간적 특징을 모두 고려할 필요가 있다. 이 논문에서는 LSTM과 CNN을 결합한 ConvLSTM을 기반으로 특정 도로링크의 이웃 도로링크들의 속도 변화와 도로링크의 속도 변화를 모두 고려한 속도 예측 방법을 제안하였다.

또한, LSTM만을 이용한 속도 예측 방법을 제안하여 이웃 도로링크들을 고려하는 것의 성능 차이를 확인하였다. 마지막으로 기존에 제안된 RCNN 방법[8] 과의 비교를 통해서 비슷한 성능을 보이면서 동시에 연속적인 속도 예측이 가능함을 보였다. 향후 연구에서는 GNN기반의 방법들과 제안하는 방법의 정확도와 실행시간 측면의 비교를 수행할 예정이다.

Acknowledgments

본 연구는 국토교통부/국토교통과학기술진흥원의 지원으로 수행되었음(과제번호 21AMDP-C161756-01).

또한, 국토교통부/국토교통과학기술진흥원의 지원으로 수행되었음(과제번호 21AMDP-C160548-01)

References

• Korea Standard Node/Link, https://www.its.go.kr/nodelink, /. [accessed: Oct. 11, 2021]
• L. Lin, J. Li, F. Chen, J. Ye, and J. Huai, "Road traffic speed prediction: a probabilistic model fusing multi-source data", IEEE Transactions on Knowledge and Data Engineering, Vol. 30, No. 7, pp. 1310-1323, Jul. 2018. [https://doi.org/10.1109/TKDE.2017.2718525]
• J. Sun and J. Sun, "A dynamic Bayesian network model for real-time crash prediction using traffic speed conditions data", Transportation Research Part C: Emerging Technologies, Vol. 54, pp. 176-186, May 2015. [https://doi.org/10.1016/j.trc.2015.03.006]
• M. Nasimifar, S. Thyagarajan, R. Siddharthan, and N. Sivaneswaran, "Robust deflection indices from traffic-speed deflectometer measurements to predict critical pavement responses for network-level pavement management system application", Journal of Transportation Engineering, Vol. 142, No. 3, pp. 04016004, Mar. 2016. [https://doi.org/10.1061/(ASCE)TE.1943-5436.0000832]
• H. Yi, K. N. Bui, and H. Jung, "Implementing a deep learning framework for short term traffic flow prediction", In Proceedings of the 9th International Conference on Web Intelligence, Mining and Semantics, Seoul, Korea, pp. 1-8, Jun. 2019.
• K. N. Bui, H. Yi, H. Jung, and J. Seo, "Big data analytics-based urban traffic prediction using deep learning in ITS", In Proceedings of the International Conference on Artificial Intelligence, Madrid, Spain, pp. 270-273, Nov. 2019.
• H. Yi, "Deep deterministic policy gradient for autonomous vehicle driving", In Proceedings of the International Conference on Artificial Intelligence, Las Vegas, USA, pp. 191-194, Jul. 2018.
• J. Zhu, C. Huang, M. Yang, and G. P. C. Fung, "Context-based prediction for road traffic state using trajectory pattern mining and recurrent convolutional neural networks", Information Sciences, Vol. 473, pp. 190-201, Jan. 2019. [https://doi.org/10.1016/j.ins.2018.09.029]
• H. Yi, K. N. Bui, and C. Seon, "A deep learning LSTM framework for urban traffic flow and fine dust predictio", Journal of KIISE, Vol. 47, No. 3, pp. 292-297, Mar. 2020. [https://doi.org/10.5626/JOK.2020.47.3.292]
• S. H. I. Xingjian, Z. Chen, H. Wang, D. Y. Yeung, W. K. Wong, and W. C. Woo, "Convolutional LSTM network: A machine learning approach for precipitation nowcasting", In Proceedings of the 28th International Conference on Neural Information Processing Systems, Vol. 1, Cambridge, M A, USA, pp. 802–810, Dec. 2015.
• Smart City Bigdata Center, https://www.smartcitydata.kr, /. [accessed: Oct. 11, 2021]
• Y. Li, R. Yu, C. Shahabi, and Y. Liu, "Diffusion Convolutional Recurrent Neural Network: Data-Driven Traffic Forecasting", arXiv e-prints. 2017 Jul:arXiv-1707.
• X. Shi, Q. Heng, S. Yanming, W. Genze, and Y. Baocai, "A spatial-temporal attention approach for traffic prediction", IEEE Transactions on Intelligent Transportation Systems, Vol. 22, No. 8, pp. 4909–4918, Aug. 2021. [https://doi.org/10.1109/TITS.2020.2983651]