Home

The Journal of Korean Institute of Information Technology - Vol. 21 , No. 1


[ Article ]
The Journal of Korean Institute of Information Technology - Vol. 21, No. 1, pp. 29-38
Abbreviation: Journal of KIIT
ISSN: 1598-8619 (Print) 2093-7571 (Online)
Print publication date 31 Jan 2023
Received 15 Dec 2022 Revised 06 Jan 2023 Accepted 09 Jan 2023
DOI: https://doi.org/10.14801/jkiit.2023.21.1.29
카모플라쥬 치료 시스템을 위한 Sliding Window-LSTM 모델 기반 배터리 잔존 수명 예측
박종찬^* ; 김종현^ ; 김찬기^ ; 박용택^* ; 김건우^
*경상국립대학교 AI융합공학과
**경상국립대학교 컴퓨터공학과
***칸투스(주) 대표이사
**경상국립대학교 컴퓨터공학과(교신저자)
Prediction of Battery Remaining Life based on Sliding Window-LSTM for Camouflage Therapeutic System
Jong-Chan Park^* ; JongHyeon Kim^ ; ChanKi Kim^ ; Yong-Taek Park^* ; Gun-Woo Kim^




Correspondence to : Gun-Woo Kim Dept. of Computer Science, College of Natural Science, Gyeongsang National University, Jinju, Korea Tel.: +82-55-772-3323, Email: gunwoo.kim@gnu.ac.kr



Funding Information ▼ Ministry of Education National Research Foundation of Korea NRF-2021R1G1A1006381

초록

최근 유방암 관련 유두, 유선 재건 시술 및 흉터 치료에 활용되는 카모플라쥬 치료 기기의 안정화된 시술 환경 제공이 많이 필요하다. 이러한 안정화된 시술 환경을 위해 치료 기기 내부에 내장형 배터리의 열화 현상, 수명 예측과 같은 소형 디바이스 전용 고신뢰성 리튬이온 배터리 생명주기 예측 기술 개발이 필요하다. 본 논문에서 제안하는 방법으로는 6개의 머신러닝 모델 중 성능 평가 지표로 설정한 RMSE가 최저인 모델인 LSTM 모델을 슬라이딩 윈도우 알고리즘 기반으로 학습 데이터 수를 조절하여 학습을 하는 방법을 제안한다. 실험을 통해 학습 데이터가 전체 데이터 중 약 80%인 1~302사이클 일 때 가장 낮은 RMSE가 0.007의 결과를 얻어 배터리 생명 주기 예측 성능 개선 효과를 검증하였다.

Abstract

Recently, it is necessary to provide a stabilized treatment environment for camouflage treatment devices used for breast cancer-related papilla, mammary gland reconstruction, and scar treatment. For this stable procedure environment, it is necessary to develop a technology for predicting the life cycle of a lithium-ion battery for small devices such as degradation of an embedded battery and life prediction inside a treatment device. As a method proposed in this paper, we propose a method for learning the LSTM model, which has the lowest RMSE set as a performance evaluation index among six machine learning models, by adjusting the number of learning data based on a sliding window algorithm. Through the experiment, when the learning data was 1 to 302 cycles, which is about 80% of the total data, the lowest RMSE was obtained with a result of 0.007 to verify the effect of improving the side performance in the battery life cycle.


Keywords: lithium-ion battery, camouflage therapy, soh, capacity, lstm, sliding window, xgboost, lightgbm, catboost, rnn, gru

Ⅰ. 서 론

최근 반영구화장 기기를 활용한 카모플라쥬 시술 확대가 늘어남에 따라 눈썹, 아이라인 등 미용 목적으로 사용되던 반영구화장 기기의 활용 범위를 확장하여 유방암 관련 유두, 유선, 재건, 백반증 및 흉터 제거 등 치료 목적의 피부, 성형 의료기기로 활용 중이다. 범위가 확장됨에 따라서 시술 / 치료 기기의 사용 안정성 보장 및 효율성이 요구되고 있다. 특히 카모플라쥬 시술의 경우 그림 1과 같이 대부분 정교한 복원 치료를 요구하기 때문에 시술 편의성 향상을 위해 내장형 리튬이온 배터리 활용 요구가 증가되고 있다.

Fig. 1.
Examples of camouflage therapy[1]

21년 기준 1,000만 명의 이용자와 1조 원의 시장가치를 가진 반영구화장 시장에서 의료기기로의 활용 범위 확장으로 인한 이용자 및 시장가치 증가가 예상되고 있다. 특히 20-39세 유방암 환자 수가 2010년 대비 2018년 약 16%로 급속하게 중가하였는데 유방암 환자들이 수술을 한 뒤에 생기는 휴유증을 카모플라쥬 시술을 통해 여성의 회복, 심리적 효과 등을 이유로 치료 기기가 확대중이다. 카모플라쥬 치료의 경우 대부분 다양한 각도에서 실시하는 정교한 복원 치료를 요구하기 때문에 시술 편의성 향상을 위해 내장형 배터리 활용 요구가 증가되고 있다. 또한 환자에게 출혈 통증, 감염을 유발하는 부정확한 시술 방지를 위해 장시간의 기기 사용이 요구됨에 따라 안정적인 전력 공급 및 배터리 잔존 수명 파악이 필요하다.

내장형 리튬이온 배터리 활용 시 치료 단계에서 환자에게 안정화된 시술 환경을 제공하기 위해 배터리 열화, 팽창, 수명 예측과 같은 소형 디바이스 전용 고 신뢰성 배터리 생명주기 탐지 기술이 필요하다. 기존 배터리 수명 관련 연구는 배터리 충전율(SoC, State of Charge), 수명(SoH, State of Health) 등 전압 관련 데이터만 이용하여 배터리 용량 기반 40-60% 충전율 영역에서 충전율에 대한 전압의 변화율이 작기 때문에 예측값과 실측값 사이에 큰 오차가 존재한다[2]-[5]. 지속적인 충, 방전으로 인해 발생되는 내장형 리튬이온 배터리의 성능 저하 및 부품, 폭발 등과 같은 문제점을 보완하기 위해 배터리 열화의 전조 현상을 사전에 SoH를 통해 예측하는 배터리 열화 현상 탐지 기술 연구가 필요하다.

본 연구는 칸투스(주)에서 카모플라쥬 치료 시스템을 위한 Tooche N2 소형 디바이스의 배터리 생명 주기 예측을 위해서 연구되었다. 특히 실제 칸투스(주)에서 카모플라쥬 Tooche N2 소형 디바이스를 충·방전 실험을 통해 데이터셋 수집 환경을 Lithium-ion Battery INR18650 MJ1 데이터셋 수집 환경과 동일하게 수집중이다. 데이터 수집을 위해 싸이클 400회이상 시간이 많이 소요되기 때문에 해당 연구에서는 사전에 카모플라쥬 치료 시스템을 위해 Lithium-ion Battery INR18650 MJ1 데이터 셋을 사용하였다. 먼저 데이터 전처리를 통해 가공을 한 뒤 XGBoost, LightGBM, CatBoost, RNN, LSTM, GRU 모델에 학습을 진행하였으며 가장 높은 성능을 보이는 모델을 기반으로 학습 데이터 수를 조절하며 성능 평가를 실시하여 생명 주기 예측 성능 개선을 하고자 하였다.

본 논문의 구성은 다음과 같다. 3장에서는 LSTM 모델을 사용하여 배터리 수명 예측을 하는 관련 연구를 소개하고 4, 5, 6장에서는 UCL 리튬이온 배터리 데이터셋 데이터 전처리 과정과 모델 선정을 위한 다양한 모델 실험을 통해 RMSE가 최적의 모델을 찾아는 실험 과정을 설명한다. 이어서 7장에서 최적의 모델인 Sliding Window-LSTM을 설명한다. 7, 8장에서는 실험 및 결과를 Sliding Window 알고리즘을 적용한 LSTM 모델에 대한 RMSE 결과를 그래프와 표를 통해 나타내었다. 끝으로 8장에서는 결론 및 향후 과제를 논한다.

Ⅱ. 관련 연구

2.1 DNN-LSTM 결합 모델을 사용한 배터리 노화 상태 추정 방법 연구

해당 연구는 LSTM 단일 모델만으로 배터리 SoH를 추정할 때 정확도가 떨어지는 문제를 발견하였다. SoH 추정 과정에서 배터리 충·방전 동작 사이에 휴지기가 존재하면, 불규칙적으로 용량이 증가하거나 감소하는 비선형적인 특성을 가진 Capacity Regeneration 현상이 발생한다. 해당 문제를 보완하기 위해 그림 2와 같이 DNN과 LSTM을 결합하는 DNN-LSTM 결합 모델을 사용하여 SoH 예측 성능을 개선했다. 결합된 모델을 통해 MAE는 4.86%에서 1.78%로 감소하였고, MSE는 0.303%에서 0.065%로 감소하는 좋은 결과를 얻었다[6].

Fig. 2.
Comparison of SoH estimation performance of DNN-LSTM model and LSTM model[6]

2.2 중요 데이터 샘플링을 활용한 LSTM 기반 리튬이온 배터리 용량 예측

해당 연구는 INR18650-MH1 데이터 셋을 사용하였다. 제안한 방법으로는 배터리의 열화에 따른 용량 감소를 예측하기 위하여 사이클 별 충전 구간에서 열화 특성을 반영하는 중요 샘플링을 선정한 후 도출된 인자를 활용하여 배터리의 용량 감소를 예측하였다. 중요 샘플링은 사이클 별 중요 샘플링 지점의 전압 변화량을 추출하는 방식으로 샘플링을 하였다.

제안하는 방식을 통해 그림 3과 같이 예측 성능이 크게 개선되는 결과를 얻었다[7].

Fig. 3.
Total dataset capacity prediction curve with various model[7]

2.3 LSTM 모델 기반 리튬이온 배터리의 SoH 예측

해당 연구는 마찬가지로 충·방전으로 인한 배터리 성능 저하 문제를 해결하기 위해 연구되었다. 제안하는 방법은 Feature Selection, Data Extraction, Normalization, LSTM Prediction의 네 가지 단계를 수행하였다. 제안하는 모델의 성능을 RNN(Recurrent Neural Network) 기반 모델의 성능과 비교하였다. 그림 4와 같이 RNN 기반 모델의 SoH 예측 결과와 비교하여 LSTM이 평균적으로 28.07% 더 높은 SoH 예측 정확도를 보였다[8].

Fig. 4.
SoH prediction results of RNN-based model for various size of training dataset[8]

Ⅲ. 제안하는 방법

3.1 UCL 리튬이온 배터리 데이터셋

본 연구에서는 카모플라쥬 디바이스용 소형 배터리 생명주기 예측을 위해 UCL(University College London)에서 제공하는 Lithium-ion Battery INR18650 MJ1 Data(EIL-015)[9] 데이터를 사용하였다. 해당 데이터는 실제 카모플라쥬 시술용 디바이스에서 사용되고 있는 배터리와 동일한 규격과 제품의 하나의 셀에 대한 측정값으로 충전 및 방전 시 배터리의 전압(V) 및 온도(℃), 측정 시간(Hrs), 용량(Ah) 총 4가지의 Feature로 구성되어 있으며 실내 온도가 24℃로 설정된 방에서 제조사의 권장 충·방전 프로토콜로 400사이클 동안 측정된 값이다.

충전 시에는 1.5A의 정전류로 4.2V가 될 때까지 정전류(Constant current)-정전압(Constant voltage) 조건 및 제한 전류를 100mA로 설정해 충전을 진행하였고 방전 시에는 4.0A의 정전류로 설정하여 2.5V의 차단 전압(Cut-Off voltage)까지 방전을 진행하였으며 데이터 수집에 활용된 배터리인 INR18650 MJ1의 공칭사양은 표 1과 같다[10].

Table 1.
Nominal specification of INR18650 MJ1

Item	Specification
Energy(charge)	Nominal 3500mAh
Energy(discharge)	Minuimum 3400mAh
Nominal Voltage(average)	3.635V
Standard charge	CC-CV 0.5C(1.7A) / 4.2V / 50mA cut-off
Standard discharge	CC 0.2C(0.68A) / 2.5V cut-off
Operating temperature	Charge: 0 ~ 45°C Discharge: -20 ~ 60°C

또한 본 데이터는 85, 109, 202, 285사이클에서 배터리 셀 내부 안정화를 위한 네 번의 휴지기간을 가지며 측정 시간 Feature는 휴지기간이 종료되는 시점까지 소요된 시간을 누적 합산한 뒤 휴지기간 직후 사이클에서 시간을 새롭게 초기화하여 시간을 합산한 값이다.

3.2 목표변수 설정 및 데이터 전처리

데이터 전처리 이전 배터리 생명주기 예측을 위해 만충 대비 배터리의 현재 충전 상태를 나타내는 SoC 대신 배터리 내부 저항에 기초하여 배터리 노화 상태를 나타내는 SoH를 목표변수로 설정하였다. SoH는 배터리 초기용량 대비 현재 용량을 수치로 나타낸 값으로 보통 80% 미만이 되면 배터리의 수명이 다했다고 판단하여 배터리를 교체하게 되며 식 (1)과 같이 계산한다.

SoH=Current CapacityNominal Capacity×100%

(1)

학습을 위한 데이터 준비를 위해 다음과 같은 데이터 전처리 과정을 수행하였다. 먼저 충전 및 방전 데이터를 분리하여 각 사이클 이후의 충·방전 이후 잔여 용량을 기준으로 SoH를 계산하여 추가해주었다. 그리고 주어진 데이터는 SoH가 각각 90, 88, 85, 82%인 지점에서 휴지기간을 가지는데, 각 사이클당 충전 및 방전에 소모되는 시간은 배터리의 노화에 큰 영향을 미치므로 본 연구에서는 사이클 별 측정 시간을 별도로 계산하여 학습을 위한 데이터로 전처리해주었다. 이후 충·방전 데이터를 하나의 데이터로 통합하여 전처리를 완료하였으며, 그림 5는 최종적으로 전처리를 마친 학습 데이터의 사이클에 따른 용량 및 SoH 변화를 나타낸 그림이다.

Fig. 5.
Graph of battery capacity and SoH change for cycle(a-b)

3.3 최적 모델 탐색

본 연구에서는 더욱 정확한 수명 예측을 위해 기계학습 기반 모델 3종과 딥러닝 기반 모델 3종을 선정하여 총 6종의 모델에 대한 성능평가를 진행하였다. 기계학습(Machine learning) 기반 모델은 트리 알고리즘을 기반으로 하는 XGBoost[11], LightGBM[12], CatBoost[13]에 대한 실험을 진행하였으며, 딥러닝 기반 모델은 시계열 데이터에 최적화된 RNN[14], LSTM[15], GRU[16]에 대한 실험을 진행하였다.

실험을 위해 학습(Train)-검증(Validation)-실험(Test) 데이터의 크기는 6:2:2로 cycle을 기준으로 분할하였으며, 학습 데이터는 1~240 cycle, 검증 데이터는 241~320 cycle 그리고 실험 데이터는 321~400 cycle로 설정하여 실험을 진행하였다. 그리고 각 특징의 측정 단위가 달라 학습 저하 현상이 발생하는 것을 방지하고 특징별 범위를 같게 설정하기 위해 최대-최소(Min-Max) 정규화(Normalization)를 수행하였으며 최대-최소 정규화는 데이터가 0과 1 사이의 범위가 되도록 변환하는 과정으로서 식 (2)와 같이 수행된다.

Min-Max=X-XminXmax-Xmin

(2)

각 모델의 성능 평가는 더욱 정확한 잔존 수명의 예측을 위해 정답 값과 예측값의 오차가 클 때 더 높은 페널티를 부여하여 이상치(Outlier)에 민감한 평균 제곱근 오차(RMSE, Root Mean Square Error)를 이용하여 진행하였다. 평균 제곱근 오차는 식 (3)과 같이 나타내며 변수 N은 전체 데이터 개수를 의미하고, y_i는 정답 값, y^i는 예측값을 뜻한다.

RMSE=1N∑i=1Nyi-y^i2

(3)

모델 선정을 위한 실험 결과는 LSTM, RNN, GRU, LightGBM, CatBoost, XGBoost 순으로 낮은 평균 제곱근 오차를 기록하였으며 LSTM과 RNN의 RMSE는 각각 0.00931과 0.00935로 비슷한 성능을 보여주었다. 트리 알고리즘 기반 기계학습 모델들은 모두 예측 성능이 딥러닝 모델보다 비교적 떨어졌으며 일정한 값을 예측하는 모습을 보여주었다.

반면 딥러닝 기반 시계열 데이터 모델들의 결과는 정확한 값은 아니지만, 배터리의 노화에 따른 SoH 감소 추세 예측은 잘 예측하는 것을 확인할 수 있었다. 최종적으로 수명 예측을 위한 학습용 모델은 평균 제곱근 오차가 가장 낮은 LSTM 모델을 선정하였으며 각 모델의 RMSE는 표 2와 같고 기계학습 기반 모델의 잔존 수명 예측 그래프는 그림 6의 (a)-(c)와 같으며 딥러닝 모델 기반 잔존 수명 예측 그래프는 그림 7의 (d)-7(f)와 같다.

Table 2.
RMSE of machine learning and deep learning based model

Model	RMSE
XGBoost (a)	0.19982
LightGBM (b)	0.17772
CatBoost (c)	0.17788
RNN (d)	0.00935
LSTM (e)	0.00931
GRU (f)	0.00949

Fig. 6.
Graph of model SoH prediction based on machine learning(a-c)

Fig. 7.
Graph of model SoH prediction based on deep learning(d-f)

3.4 Sliding Window-LSTM 기반 배터리 잔존 수명 예측

3.3절에서는 단일 시점을 이용하여 잔존 수명을 예측하였지만, 본 절에서는 더 나은 수명 예측을 위해 과거의 관측값과 미래의 관측값으로 현재 시점에 해당하는 값을 예측하는 슬라이딩 윈도우 알고리즘(Sliding window algorithm)을 활용하였다. 슬라이딩 윈도우 알고리즘을 활용하면 시계열 데이터를 활용한 문제를 기존의 비지도 학습(Unsupervised learning)에서 지도 학습(Supervised learning)으로 변환시켜 열화 현상과 다양한 실험 환경에서 수집된 데이터의 불규칙 문제들의 복잡성을 낮출 수 있다는 장점이 있다.

또한 LSTM 모델의 학습 데이터의 양에 따른 성능 비교를 위해 학습 데이터를 80%, 70%, 60%, 50%일 때 각각 잔여 수명 예측을 진행하였다.

IV. 실험 및 결과

실험은 PyTorch 1.10.0에서 진행하였다. 이때 최적화 알고리즘(Optimizer)으로는 Adam[17]을 사용하였으며 세부 설정값으로는 Learning Rate는 1e-3, Batch Size는 128, LSTM Hidden Layer Size는 128, Sliding Window Size는 5로 설정하여 총 1000 epoch만큼 학습을 진행하였고 실험 환경은 표 3과 같다.

Table 3.
Experiment environment

CPU	GPU	RAM	OS
Intel i9-10900X (3.70GHz)	RTX 2080 Ti 12GB (4,352 CUDA cores)	48GB	Windows 10

실험 결과 학습 데이터가 1 ~ 320사이클인 80%일 때 가장 좋은 RMSE인 약 0.007을 기록하였으며 각 학습데이터 비율에 따른 RMSE는 표 4와 같고 잔존 수명 예측 그래프는 그림 8과 같다. 또한 학습 데이터의 양에 상관없이 SoH의 감소 추세는 잘 예측하는 것처럼 보이지만 학습 데이터의 양이 감소할수록 실제 SoH와 예측 SoH간의 오차가 크다는 것을 확인할 수 있었다.

Table 4.
RMSE of training data on LSTM

Train data (%)	80 (a)	70 (b)	60 (c)	50 (d)
RMSE	0.0077	0.0139	0.0174	0.0205

Fig. 8.
LSTM SoH prediction depending on quantity of training data(a-d)

Ⅴ. 결론 및 향후 과제

본 연구는 카모플라쥬 치료 시스템을 위한 Tooche N2 소형 디바이스의 배터리 생명 수명 예측 기법을 제안한다. 예측을 위해 먼저 6개의 모델 XGBoost, LightGBM, CatBoost, RNN, LSTM, GRU를 이용하여 성능 비교를 진행하였다. 해당 모델 중 성능 평가 지표로 설정한 RMSE가 최저인 모델은 LSTM으로 약 0.009의 값을 도출했으며, 이는 성능이 가장 낮았던 XGBoost 모델과 비교하여 약 0.19만큼의 오차 개선 결과를 보여주었다. 비교 모델 중 가장 성능이 좋았던 LSTM 모델을 슬라이딩 윈도우 알고리즘 기반으로 학습 데이터 수를 조절하여 실험한 결과 학습 데이터가 전체 데이터 중 약 80%인 1~320사이클 일 때 가장 낮은 RMSE인 0.007 가량을 기록하였으며, 본 연구에서 제안한 기법을 통해 성능 개선 효과를 얻을 수 있음을 검증하였다. 향후 과제로 실제 카모플라쥬 치료 기기를 통해 얻은 데이터셋을 Sliding Window-LSTM 모델에 학습하여 실시간으로 잔존 수명 예측을 하는 연구를 할 예정이다.

Acknowledgments

본 논문은 2022년도 정부(교육부)의 제원으로 한국연구재단의 지원을 받아 수행된 기초연구사업(NRF-2021R1G1A1006381)과 교육부와 한국연구재단의 재원으로 지원을 받아 수행된 3단계 산학연협력 선도대학 육성사업(LINC 3.0)의 연구결과임

References


1.	Bntnews, "Covering scars with semi-permanent makeup?", https://www.bntnews.co.kr/article/view/bnt201007150183 [accessed: Jan. 03, 2023]
2.	Y. Liu, G. Zhao, X. Peng, and C. Hu, "Lithium-ion Battery Remaining Useful Life Prediction with Long Short-term Memory Recurrent Neural Network", PHM_CONF, Vol. 9, No. 1, Oct. 2017.
3.	J. K. Lee, S. H. Kim, W. Kim, and W. J. Choi, "A Research on the Estimation Method for the SOC of the Lithium Batteries Using AC Impedance", The Korean Institute of Power Electronics, Vol. 14, No. 6, pp. 457-465, Dec. 2009.
4.	J. Y. Kim, D. H. Kim, T. W. Noh, and B. K. Lee, "Remaining Useful Life Prediction for Litium-Ion Batteries Using EMD-CNN-LSTM Hybrid Method", The Korean Institute of Power Electronics, Vol. 27, No. 1, pp. 48-55, Feb. 2022.
5.	S. U. Kwon, D. H. Han, S. Y. Park, and J. H. Kim, "Long Short Term Memory-Based State-of-Health Prediction Algorithm of a Rechargeable Lithium-Ion Battery for Electric Vehicle", The transactions of The Korean Institute of Electrical Engineers, Vol. 68, No. 10, pp. 1214-1221, Oct. 2019.
6.	J. W. Park, E. R. Jeong, and S. W. Bae, "Battery State-of-Health Estimation Method Adopting DNN-LSTM Combination Model", Power Electrionics Conference, pp. 400-401, Jul. 2022.
7.	J. Y. Kim, S. Y. Park, S. U. Kwon, S. W. Lee, and J. H. Kim, "LSTM based lithium-ion battery capacity prediction using important data sampling", Power Electronics Conference, pp. 370-371, Jul. 2021.
8.	H. N. Go, S. B. Lee, and E. J. Kim, "LSTM Model-Based SOH Prediction for Lithium-Ion Battery", Journal of Digital Contents Society, Vol. 22, No. 4, pp. 697-703, Apr. 2021.
9.	T. Heenan, A. Jnawali, M. Kok, T. Tranter, C. Tan, A. Dimitrijevic, R. Jervis, D. Brett, and P. Shearing, "Lithium-ion Battery INR18650 MJ1 Data: 400 Electrochemical Cycles(EIL-015)", University College London, May 2020.
*10.*	T. M. M. Heenan, A. Jnawali, M. D. R. Kok, T. G Tranter, C. Tan, A. Dimitrijevic, R. Jervis, D. J. L. Brett, and P. R. Shearing, "An Advanced Microstructural and Electrochemical Datasheet on 18650 Li-Ion Batteries with Nickel-Rich NMC811 Cathodes and Graphite-Silicon Anodes", Journal of The Electrochemical Society, Vol. 167, No. 14, Nov. 2020.
*11.*	T. Chen and C. Guestrin, "Xgboost: A scalable tree boosting system", Association for Computing Machinery, pp. 785-794, Aug. 2016.
*12.*	G. Ke, Q. Meng, T. Finley, T. Wang, W. Chen, W. Ma, Q. Ye, and T. Y. Liu, "LightGBM: A Highly Efficient Gradient Boosting Decision Tree", In Proc. of the 31st International Conference on Neural Information Processing Systems(NIPS’17), pp. 3149-3157, Dec. 2017.
*13.*	L. Prokhorenkova, G. Gusev, A. Vorobev, A. V. Dorogush, and A. Gulin, "CatBoost: unbiased boosting with categorical features", In Proc. of the 32nd International Conference on Neural Information Processing Systems(NIPS’18), pp. 6639-6649, Dec. 2018.
*14.*	W. S. McCulloch and W. Pitts, "A logical calculus of the ideas immanent in nervous activity", The bulletin of mathematical biophysics, Vol. 5, No. 4, pp. 115-133, Dec. 1943.
*15.*	S. Hochreiter and J. Schmidhuber, "Long short-term memory", Neural computation, Vol. 9, No. 8, pp. 1735-1780, Nov. 1997.
*16.*	K. H. Cho, B van Merrienboer, Caglar Gulcehre, F Bougares, H Schwenk, and Yoshua Bengio, "Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation", In Proc. of the Conference on Empirical Methods Natural Lang. Process. (EMNLP), pp. 1724-1734, Oct. 2014.
*17.*	D. P. Kingma and J. Ba, "Adam: A Method for Stochastic Optimization", arXiv, Dec. 2014.