MOX 가스센서의 시료 주입 전후패턴들을 이용한 신경회로망 기반의 적포도주 분류

Ⅰ. 서 론

적포도주는 그 안에 포함된 폴리페롤의 일종인 레스베라트롤, 에피세틴, 카데틴, 프로안토시니딘과 같은 항산화물질로 인해 적정량을 섭취하였을 때 치매 예방, 혈당조절 및 심혈관 기관 강화에 도움이 된다고 일반적으로 알려져 있다[1]. 일반적으로 적포도주는 포도 재배 및 수확, 분쇄, 주스 분리, 발효, 정화, 정제, 여과, 원심분리, 냉장, 이온 교환, 가열, 숙성 및 병입을 통해 생산된다[2]. 각 공정에서 적포도주의 품질을 지속적으로 모니터링하고 제어하는 것은 각 생산의 품질을 유지하는 데 매우 중요하다. 프랑스는 적포도주 산지로 잘 알려져 있으며 많은 포도주 양조장이 있다. 와인에는 다양한 농도 범위의 수백 가지 화합물이 있으며 품질은 일반적으로 맛, 향 및 색을 평가하는 잘 훈련된 전문가 패널에 의해 평가된다. 그러나 분석 패널의 활동은 비용과 시간이 많이 소요된다. 한편, 전자코는 지난 수십 년 동안 환경감시, 질병진단, 식품산업 등 여러 분야에서 개발되어 사용되고 있다. 최근에는 와인 품질 관리에도 사용되어지고 있다[3].

1968년에 Taguchi가 SnO2 기반의 MOX(Metal OXide) 가스센서를 상용화한 이후로 현재까지 MOX 가스 센서는 여러 장점 (고감도, 저가, 긴 수명, 주변 회로의 간결성 등)으로 인해 광범위하게 사용되고 있으나 안전 방재 영역에서 필수적인 선택성과 안정성 문제는 많은 연구에도 불구하고 여전히 충분하게 해결되지 않고 있었다. 그러나 1982년에 Persaud와 Dodd[4]가 처음으로 센서 어레이와 패턴인식 기술을 이용하여 인간의 후각을 모방할 수 있다는 개념을 소개한 이후로 1994년에 Gardner와 Bartlett[5]에 의해 전자 코는 냄새를 감지하는 완전한 선택성을 가지지 않는 센서 어레이와 단일 혹은 복합적인 냄새를 분별할 수 있는 패턴인식 시스템을 가지는 어떤 장치로 정의된 후에 MOX 가스센서는 전자코의 주요 센서로 채택되었고 MOX 가스센서의 낮은 선택성은 MOX 가스센서 어레이를 이용한 패턴 인식 기술을 이용하여 획기적으로 개선되어지고 있다. 그렇지만 MOX 가스센서의 안정성의 문제(MOX 가스센서의 Drift[6][7])는 여전히 중대한 문제로 남아 있다. MOX 가스센서의 Drift 문제의 개선을 위하여 과거에는 주로 MOX 가스센서의 샘플 측정 전의 데이터를 기준값으로 이용하는 보정 방법을 주로 사용하였으나 최근에는 그 문제의 획기적인 개선을 위하여 기계 학습과 패턴 인식 기술[8]을 이용한 MOX 가스센서의 Drift 보정 연구가 수행되어지고 있다.

기계 학습에는 문제 접근 방법에 따라 여러 알고리즘이 있다. 그 중 패턴 인식 기술에 많이 사용되는 것으로는 서포트 백터 머신(SVM, Support Vector Machine)과 신경회로망(Neural network)을 들 수 있다. SVM은 서포트 백터를 사용하여 초평면(Hyperplane)으로 데이터 간의 경계를 나누어 분류하는 방법이다. 신경회로망은 인간의 뉴런에서 영감을 얻은 학습 알고리즘으로서 패턴 분류를 포함한 다양한 방면에 응용되고 있다[9][10]. 패턴 분류에 사용되는 신경회로망 모델은 일반적으로 다층 퍼셉트론(Multilayer perceptron)과 컨볼루션 신경망(CNN, Convolution Neural Network)을 들 수 있다.

본 논문에서는 프랑스의 4개 지역에서 생산된 적포도주의 분류를 위해 패턴 분류 문제에 많이 사용되는 모델인 SVM와 CNN을 사용하였다. 분류를 위해서 샘플 측정 전후의 MOX 가스센서의 데이터를 사용하여 SVM, CNN 기반의 적포도주 분류 모델을 구축하였고, 실험을 통해 각 모델의 적포도주 분류성능을 검증하였다.

Ⅱ. 실험 및 데이타 분석 방법

2.1 사용된 MOX 가스센서와 적포도주 샘플들

적포도주를 분류하기 위하여 사용된 MOX 가스센서는 SGX Sensortech 사의 MICS5914 센서를 사용하였다. 분류를 위한 4종류의 적포도주는 모두 13.5%의 알코올 함유량을 가지며 그림 1에서 표시된 것과 같이 프랑스의 보르도(BOR, Bordeaux), 포제레(FAU, Faugeres), 듀하스(DUR, Duras), 그리고 렁게독(LAN, Languedoc)에서 생산된 적포도주를 샘플로 사용하였다. 포도주는 생산지에 따라서 재배 환경이 다르고 포도주를 만드는 와이너리에 따라서 그 맛과 향에 차이를 가지고 있다.

Fig. 1.

Cultivation site of red wine used in the experiment

각각의 포도주는 50mL씩 샘플로 25℃의 실내 온도에 시료병을 두고 시료병을 밀폐시킨 후 상부 공간(Headspace)에 형성된 기체 샘플을 20mL씩 주사기를 이용하여 채취하여 20cm³의 부피를 가지는 테프론으로 만들어진 센서 챔버에 주입하였다.

2.2 MOX 가스센서의 구동 및 획득된 데이터

그림 2는 본 실험에서 구성된 MICS5914 센서의 구동 회로를 나타낸다. 일반적으로 MOX 가스센서는 대상 가스의 감지를 위하여 센서를 일정 온도로 가열하여야 한다. 그로인해 MICS5914도 내부의 히팅 부분과 센싱 부분으로 구분되어져 있다. 그림 2에 보여지는 것과 같이 히팅 부분에는 공급 전압을 0V에서 2.3V까지 16단계로 각각 40ms 동안 공급하여 각각의 단계에서 MICS5914의 센싱 부분에 직렬로 연결된 10kΩ 저항 양단의 전압을 시료에 대한 측정 데이터로 획득한다. 이 경우 1회 측정 시 총 16개의 데이터를 하나의 시료에 대한 패턴으로 획득할 수 있다.

$\[ Sample Data=\{d1,d2,d3,\cdots ,d14,d15,d16\} \]$

(1)

Fig. 2.

Circuit of the sensor

표 1은 이 과정에서 각각의 단계에서 공급된 전력과 단계별 시간을 나타낸다.

Table 1.

Power and supply time supplied to the sensor

일반적으로 짧은 시간 안에 MOX 가스센서를 다른 동작 온도에서 작동시키는 Temperature modulation 방법[11]은 하나의 센서를 사용하면서 마치 센서 어레이를 사용하는 것과 같이 데이터 패턴을 얻을 수 있는 효과적인 방법으로 널리 알려져 있으며 그 Temperature modulation의 최적화는 trial & error에 의해서 되곤 한다.

Ⅲ. 제안된 적포도주 분류 알고리즘

본 논문에서 제안한 적포도주 분류 알고리즘은 그림 3과 같다. 제안한 알고리즘은 MOX 가스 센서에서 측정 전 데이터와 측정 후 데이터를 획득하는 데이터 수집 단계, 그리고 적포도주의 재배지를 분류하는 패턴 분류 단계로 구성되어 있다.

Fig. 3.

Structure of the red wine classification algorithm

먼저 MOX 가스 센서에서 획득한 샘플 측정 데이터와 샘플 측정 전의 데이터를 기계학습 모델에 입력한다. 기계학습 모델로 SVM과 CNN을 사용한다. 값이 입력된 후 모델은 BOR, FAU, DUR, LAN의 네 가지 패턴으로 분류한다.

3.1 SVM

SVM은 기계 학습 알고리즘 중 하나이며, 주로 분류와 회귀 분석을 위해 사용한다. SVM은 훈련 데이터 세트를 비선형 매핑(Mapping)을 통해 고차원으로 변환한다. 이 새로운 차원에서 초평면과 가장 인접한 서포트 백터들과의 마진(Margin)을 최대로 하는 최대-마진 초평면(Maximum-margin hyperplan)을 찾아서 분류를 수행한다. SVM 구조는 그림 4와 같이 나타낸다.

Fig. 4.

Structure of support vector machine

하지만 선형으로 분리할 수 없는 문제에 대해서는 커널(Kernel) 사용하여 최대-마진 초평면이 원래의 입력공간보다는 훨씬 더 큰 차원을 가지는 비선형 매핑을 통해 비선형 분류를 수행할 수 있다[12].

일반적으로 임의의 데이터 x가 주어질 때, 커널 SVM의 결정 함수(Decision function)는 식 (1)과 같다[13].

$\[ f\left(x\right) =\sum _{i=1}^N{\alpha }_i{y}_{i}K\left(x_i, x\right)+b \]$

(1)

여기서 α_i는 라그랑제 승수이고, x_i와 y_i는 각각 입력과 출력 데이터이다. b는 바이어스이며, K()는 커널 함수이다. 본 논문에서는 RBF 커널을 사용하였다. RBF 커널은 식 (2)와 같다.

$\[ K \left(x_i, x\right) = \exp \left(-\frac{{‖x_i-x‖}^2}{2{\sigma }^2}\right) \]$

(2)

여기서 σ는 사용자가 지정한 상수이다.

3.2 CNN

CNN은 고양이의 시신경을 모방한 구조이다. CNN은 기존의 패턴 분류 모델과는 달리 데이터의 특징(Feature)를 추출하여 데이터의 특징의 패턴을 파악하여 분류하는 알고리즘이다. CNN은 복수의 컨볼루션 레이어(Convolution layer)와 풀링 레이어(Pooling layer)로 구성된다[14][15]. CNN의 구조는 그림 5와 같이 나타낸다.

Fig. 5.

Structure of convolutional neural network model

컨볼루션 레이어는 커널을 사용하여 입력된 데이터와 합성곱 연산이 수행된다. 커널의 크기는 사용자가 설정할 수 있으며 합성곱 연산이 수행된 결과는 특징맵(Feature map)으로 출력된다. 컨볼루션 레이어의 출력은 식 (3)과 같이 나타낸다[16].

$\[ y_i^l=h\left(W_i^l\otimes y^{l-1}\right) \]$

(3)

여기서 $$ W_i^l$$는 l번째 컨볼루션 레이어의 i번째의 커널의 가중치를 나타낸다. y^l-1는 이전 레이어의 출력을 나타내며, h는 활성화 함수를 나타낸다.

풀링 레이어는 출력된 특징맵의 차원을 줄인다. 이 과정에서 특징맵의 크기를 줄여 계산량을 줄이고 필요한 특징만을 추출한다. 풀링에는 여러 가지 방법이 있지만, 본 논문에서는 맥스 풀링(Max pooling) 방법을 사용한다.

CNN의 학습으로 Adam을 사용하였다. Adam은 가중치 업데이트시 기울기가 급격하게 변하는 것을 방지하는 모멘텀 기법과 파라미터 갱신 정도를 조절하는 RMSprop을 혼합한 방식이다[17]. Adam은 식 (4)에서 (8)로 나타낸다.

$\[ m_{t }={\beta }_1{m}_{t-1}+\left(1-{\beta }_1\right){\nabla }_{\theta }f\left(\theta \right) \]$

(4)

$\[ \widehat{m_t}=\frac{m_t}{\left(1-{\beta }_1^t \right)} \]$

(5)

$\[ v_t={\beta }_2{\upsilon }_{t-1}+\left(1-{\beta }_2\right){\left({\nabla }_{\theta }f\left(\theta \right)\right)}^2 \]$

(6)

$\[ \widehat{v_t}=\frac{v_t}{\left(1-{\beta }_2^t \right)} \]$

(7)

$\[ W_{t+1}=W_t-\eta \frac{\widehat{m_t}}{\sqrt{\widehat{{\upsilon }_t}+\epsilon }} \]$

(8)

여기서 m_t는 모멘텀, υ_t는 적응항, β₁과 β₂는 각각 모멘텀과 적응항의 감쇄율이며, ∇_θf(θ)는 네트워크의 기울기이다. η는 학습률이며, ϵ는 분모가 0이 되지 않게 하는 작은 값이며 본 논문에서는 10^-8으로 설정하였다.

Ⅳ. 실험 및 결과

본 연구에서는 SVM 모델과 CNN 모델을 구현하기 위해 파이썬 3.7버전과 케라스(Keras)와 사이킷런(Sklearn) 라이브러리를 사용하였다. SVM 모델은 RBF(Radial Basis Fuction)커널을 사용하였고 trial & error를 통해 C와 γ가 각각 10과 0.01일 때 가장 우수한 성능을 보여 이 설정값을 사용하였다. CNN 모델은 16개 또는 32개의 입력을 받는 입력층과 두 개의 컨볼루션 레이어와 두 개의 풀링 레이어과 합성곱 결과를 평탄화(Flatten)하기 위한 FC 레이어(Fully connected layer)로 구성하였다. 각각의 컨볼루션 레이어와 FC 레이어는 활성화 함수로 ReLU를 사용하였고[18] 학습 알고리즘은 Adam을 사용하였다. 그리고 최종 출력층에는 Softmax를 사용하여[19] 분류하도록 설계하였다. CNN의 구성은 표 2와 같다.

Table 2.

Structure of proposed CNN model

1) 샘플에 대한 센서값만 사용한 결과

먼저 적포도주의 패턴을 학습하기 위해 MOX 가스 센서에서 획득한 데이터를 기반으로 학습을 진행하였다. 1개의 패턴은 16개의 샘플로 구성되어 있다. 프랑스의 4개 지역에서 생산되는 적포도주의 종류마다 15개의 패턴을 사용하였으며, 10개의 패턴은 학습으로 5개의 패턴은 테스트로 사용하였다. 분류를 위한 적포도주는 BOR, FAU, DUR, 그리고 LAN을 사용하였다.

실험 및 분류결과는 혼동행렬(Confusion matrix)를 사용하여 모델을 평가하였다. 즉 표 3에서 표 6까지에서 세로는 분류모델에 의한 분류결과를 의미하며 가로는 실제 포도주를 의미한다. 한 예를 설명하면, 표 3의 경우에 BOR 포도주는 분류기에 의해 2개의 패턴은 BOR로 분류되었고, 나머지 3개의 패턴은 FAU로 분류되었음을 나타낸다. 나머지 LAN, DUR 및 FAU의 경우도 같은 방법으로 분류결과를 작성하였다.

Table 3.

Red wine classfication results of SVM model using only sensor data

표 3은 SVM을 사용하여 패턴 분류를 진행한 결과이다. 실험 결과를 보면 각 지역 포도주에 대한 데이터가 크게 차이가 나지 않아서 4가지 포주에 대한 패턴이 BOR와 FAU로만 분류됨을 알 수 있었다.

표 4는 CNN을 사용하여 패턴 분류를 진행한 결과이다. CNN도 데이터의 패턴이 서로 비슷하여 FAU 패턴으로만 분류하였음을 확인할 수 있었다. 즉, 표 3과 표 4의 분류결과들로부터 각 포주주의 샘플에 대한 센서값만을 사용한 경우에는 SVM과 CNN을 분류기로 사용한 모든 경우에 대해 각 포도주를 정확하게 분류하지 못함을 알 수 있었다.

Table 4.

Red wine classfication results of SVM model using only sensor data

2) 샘플 측정전 센서 기준값 패턴과 샘플에 대한 센서값 패턴을 함께 사용한 결과

샘플에 대한 센서값만을 사용한 결과 분류가 전혀 되지 않음을 확인할 수 있었다. 이에 데이터 패턴의 차이를 주고자 샘플 측정전 센서 기준값 패턴과 샘플에 대한 센서값 패턴을 합쳐서 학습을 진행하였다. 합친 데이터의 패턴은 1개의 패턴에 32개의 샘플로 구성되어 있으며, 학습 및 테스트에 사용한 패턴 개수는 1)의 실험과 같다.

표 5와 표 6의 결과들로부터 샘플 측정전 센서 기준값 패턴과 샘플에 대한 센서값 패턴을 함께 고려하여 분류하는 경우에는 SVM 모델과 CNN 모델을 각각 사용한 모든 경우에 대해서 4가지 적포도주를 정확하게 분류하였음을 확인할 수 있었다.

Table 5.

Red wine classfication results of SVM model using sensor data before and after their injection

Table 6.

Red wine classfication results of CNN model using sensor data before and after their injection

Ⅴ. 결 론

본 논문에서는 MOX 가스센서의 시료 주입 전후패턴들 이용한 기계학습 기반의 적포도주 분류 알고리즘을 제안하였다. 4종류의 적포도주의 패턴 분류를 위해 종류마다 15개의 패턴 중 10개는 학습 5개는 테스트로 사용하여 학습에는 40개의 패턴을 사용하였고 테스트는 20개의 패턴을 사용하여 실험을 진행하였다.

제안한 모델의 성능 평가를 위해 두 가지 실험을 진행하였다. 첫 번째 실험은 샘플에 대한 센서값만 사용한 경우이며, 두 번째는 샘플 측정전 센서 기준값 패턴과 샘플에 대한 센서값 패턴을 함께 사용한 경우이다. 실험 결과 첫 번째 실험 결과는 데이터 간의 패턴이 비슷하여 SVM 모델과 CNN 모델 전부 데이터를 분류하지 못하였다. 두 번째 실험 결과는 SVM 모델과 CNN 모델 전부 정확하게 모든 패턴을 분류하였으며 100%의 정확도를 보여주었다.

추후 연구과제로는 적포도주의 종류를 더 확장하고 각각의 포도주의 제조 과정중 숙성의 정도를 실시간 모니터링하고 분류하여 적절한 품질의 포도주를 제조할수 있게 하는 전자코 기술에 본 논문의 실험적 결과를 적용하는 것이다.

References

• L. Snopek et al., "Contribution of red wine consumption to human health protection", Molecules, Vol. 23, No. 7, 1684, Jul. 2018. [https://doi.org/10.3390/molecules23071684]
• Britannica, https://www.britannica.com/topic/wine/The-wine-making-proces, . [accessed: Jan. 29, 2022]
• M. Aleixandre, J. M. Cabellos, T. Arroyo, and M. C. Horrillo, "Quantification of Wine Mixtures with an electronic nose and a human Panel", Frontiers in bioengineering and biotechnology, No. 6, Feb. 2018. [https://doi.org/10.3389/fbioe.2018.00014]
• K. Persaud and G. Dodd, "Analysis of discrimination mechanisms in the mammalian olfactory system using a model nose", Nature, Vol. 299, No. 5881, pp. 352-355, Sep. 1982. [https://doi.org/10.1038/299352a0]
• J. W. Gardner and P. N. Bartlett, "A brief history of electronic noses", Sensors and Actuators B: Chemical, Vol. 18, No. 1-3, pp. 210-211, Mar. 1994. [https://doi.org/10.1016/0925-4005(94)87085-3]
• F. Hossein-Babaei and V. Ghafarinia, "Compensation for the drift-like terms caused by environmental fluctuations in the responses of chemoresistive gas sensors", Sensors and Actuators B: Chemical, Vol. 143, No. 2, pp. 641-648, Jan. 2010. [https://doi.org/10.1016/j.snb.2009.10.006]
• A. C. Romain and J. Nicolas, "Long term stability of metal oxide-based gas sensors for e-nose environmental applications: An overview", Sensors and Actuators B: Chemical, Vol. 146, No. 2, pp. 502-506, Apr. 2010. [https://doi.org/10.1016/j.snb.2009.12.027]
• H. Liu and Z. Tang, "Metal oxide gas sensor drift compensation using a dynamic classifier ensemble based on fitting", Sensors, Vol. 13, No. 7, pp. 9160-9173, Jul. 2013. [https://doi.org/10.3390/s130709160]
• B. B. Chaudhuri and U. Bhattacharya, "Efficient training and improved performance of multilayer perceptron in pattern classification", Neurocomputing, Vol. 34, No. 1-4, pp. 11-27, Sep. 2000. [https://doi.org/10.1016/S0925-2312(00)00305-2]
• K. Chatfield, K. Simonyan, A. Vedaldi, and A. Zisserman, "Return of the devil in the details: Delving deep into convolutional nets", arXiv preprint arXiv:1405.3531, , 2014. [https://doi.org/10.5244/C.28.6]
• A. P. Lee and B. J. Reedy, "Temperature modulation in semiconductor gas sensing", Sensors and Actuators B, Vol. 60, No. 1, 2, pp. 35-42, Nov. 1999. [https://doi.org/10.1016/S0925-4005(99)00241-5]
• I. S. Lee, J. H. Cho, H. M. Seo, and Y. S. Nam, "A Study on a Fault Detection and Isolation Method of Nonlinear Systems using SVM and Neural Network", Journal of Institute of Control, Robotics and Systems, Vol. 18, No. 6, pp. 540-545, Jun. 2012. [https://doi.org/10.5302/J.ICROS.2012.18.6.540]
• V. Makara, K. E. Ko, S. M. Park, and K. B. Sim, "Physiological Responses-Based Emotion Recognition Using Multi-Class SVM with RBF Kernel", Journal of Institute of Control, Robotics and Systems, Vol. 19, No. 4, pp. 364-371, Apr. 2013. [https://doi.org/10.5302/J.ICROS.2013.13.1879]
• A. F. Agarap, "An architecture combining convolutional neural network (CNN) and support vector machine (SVM) for image classification", arXiv preprint arXiv:1712.03541, , 2017.
• W. Sun, R. Zhao, R. Yan, S. Shao, and X. Chen, "Convolutional discriminative feature learning for induction motor fault diagnosis", IEEE Transactions on Industrial Informatics, Vol. 13, No. 3, pp. 1350-1359, Feb. 2017. [https://doi.org/10.1109/TII.2017.2672988]
• A, Dasgupata and S. Singh, "A fully convolutional neural network based structured prediction approach towards the retinal vessel segmentation", In 2017 IEEE 14th International Symposium on Biomedical Imaging (ISBI 2017), IEEE, Melbourne, VIC, Australia, pp. 248-251, Apr. 2017. [https://doi.org/10.1109/ISBI.2017.7950512]
• D. P. Kingma and J. Ba, Adam, "A method for stochastic optimization", arXiv preprint arXiv:1412.6980, , 2014.
• L. Weng, et al., "Towards fast computation of certified robustness for relu networks", International Conference on Machine Learning, PMLR, Stockholm, Sweden, Jul. 2018.
• W. Liu, Y. Wen, Z. Yu, and M. Yang, "Large-margin softmax loss for convolutional neural networks", ICML 2016, Vol. 48, New York NY USA, Vol. 48, pp. 507-516, Jun. 2016.