Home

자연어 처리를 위한 사전 훈련 언어 모델에는 ELMo[7], OpenAI GPT[8] 등이 있다. 두 방식은 동일한 목적 함수로 학습을 수행할 뿐만 아니라 일방향이나 얕은 양방향성을 가지는 한계점을 보인다. 이 문제점을 해결하기 위해 제안된 BERT[4]는 입력값 전체와 마스킹된 토큰을 한 번에 트랜스포머 인코더에 넣고 원래 토큰값을 예측하므로 깊은 양방향성을 보인다. BERT는 다른 자연어 처리 모델보다 탁월한 성능을 보이며, 사전 학습되어 적은 자원으로도 자연어 처리를 수행하지만, 형태소 단위로 이루어진 한국어 처리에는 미흡한 면을 보인다.

자연어 처리를 위해서는 말뭉치, 토큰 생성, 형태소 분석, 품사 태깅이 제공되어야 한다. 이러한 작업을 수행하는 대표적인 파이썬 패키지로는 NLTK가 있다[9]. NLTK를 기반으로 개발된 한국어 형태소 분석기가 바로 Konlpy이다. 본 연구에서는 Konlpy를 사용하여 한국어 질문을 분석하였다.

본 논문에서는 결정 트리보다 그 성능이 뛰어나고 앙상블 모델로써 널리 쓰이는 랜덤 포레스트 기법[10]을 사용하였다. 지도 학습 머신러닝 기법 중 하나인 결정 트리는 오버피팅(Overfitting)될 가능성이 높다. 이 문제점을 해결하기 위해 제안된 앙상블 모델이 랜덤 포레스트이다. 랜덤 포레스트 기법은 그림 2와 같이 동일 데이터에 대해 여러 개의 결정 트리를 형성한 후 가장 많이 득표한 결과를 최종으로 선택한다.

Fig. 2. 
Principle of random forest

이 과정에서 훈련 집합의 부분을 랜덤하게 활용하는 배깅(Bagging)을 사용한다. 각 트리의 가지를 치지 않고 데이터가 전부 분류될 때까지 크기를 늘리기 때문에 트리 하나하나는 오버피팅이 날 수 있지만 전체적으로는 분산이 낮아져 오버피팅이 나지 않는다[10]. 본 논문에서는 랜덤 포레스트를 사용하여 뽑아낸 키워드를 기반으로 어떤 유형의 질문인지 파악하였다.

본 시스템은 Pytorch를 활용하여 구현하였으며, Pandas, sklearn, Konlpy 등의 라이브러리를 사용하였다. 미국 주식 데이터 정보는 yfinance API[12]를 통해 수집하였다.

그림 3은 제안 시스템의 자연어 처리 과정이다. 한국어 질의 문장을 띄어쓰기 단위로 자른 다음 Konlpy의 Okt 모델로 형태소 단위로 토큰화하였다. 토큰화된 문장은 단어 카운트(CountVectorizer)를 거친 후 KeyBERT 모델을 사용하여 키워드를 추출한다. 추출한 키워드들은 코사인 유사도에 따라 중요도를 매긴 후 문장과의 유사도 및 단어의 중요도에 따라 순서화된 키워드 집합으로 출력한다. 질의어 중 영어로 된 주식 종목의 이름이나 섹터 명칭의 경우에는 NLTK와 KeyBERT를 사용하여 인식한다.

Fig. 3. 
Principle of NLP text interface

랜덤 포레스트 모델을 사용하여 질의어의 유형을 파악한다. 한국어로 된 섹터 명칭은 구글 번역 패키지로 영어로 변환하여 사용하였다.

종목 프로필 질의는 표 2와 같이 세 가지 유형으로 구분되며 실행결과는 그림 4와 같다.

Fig. 4. 
Stock profile query result

주가 유형의 경우 수정 종가와 1년 중 최고가와 비교하여 몇 퍼센트가 더 낮은지 분석한다. 거래량 제시의 경우 하루의 거래량을 출력하고, 회사 소개의 경우 그 종목의 사업 종류, 섹터와 기업 소개를 출력한다.

표 3은 종목 분석 질의 유형이다. 종목 분석을 위해 주가수익비율(PER), 1년간 주가 변화율, 기업 가치, 영업 순이익 비율, 거래량, 그리고 전문가들의 평가를 활용한다. 기업 가치의 경우에는 100만과 10억 단위로 압축하였고, 전문가 평가는 최신 5개만 사용하였다. 그림 5는 질의 실행 결과이다.

Fig. 5. 
Stock profiling query result

종목 비교는 표 4와 같은 질의 유형이 가능하며 그림 6과 같이 최대 3개 종목까지 각 지표별 평가 점수를 합산하여 최종 순위를 평가한다.

Fig. 6. 
Stock comparison query result

ETF 분석 질의 유형은 표 5와 같으며, 그림 7과 같이 ETF에서 질의 종목의 수정 종가, 거래량, 시장 가치가 높은 순으로 검색한다.

Fig. 7. 
ETF profile query result

섹터 시장 분석에서는 그림 8과 같이 가격 및 거래량을 포함하는 질의 처리가 가능하다.

Fig. 8. 
Market investigation query result