Home

[16][17]이 제안하는 연구는 사용자 평점 정보가 존재하는 영화 추천을 위해 Word2Vec과 합성곱 신경망을 활용한 모델을 사용하였다. 사용된 데이터는 LibRec에서 제공하는 filmtrust 데이터 셋으로 1508명의 사용자가 2071개 영화에 대해 0.5점에서 4점 사이의 영화 평점을 수집했다. 사용자 ID와 영화 ID를 단어처럼 활용하여 문장을 구성했으며, 문장에 대응되는 단어 조합으로 말뭉치를 구성하여 입력으로 사용했다. 90%를 훈련 데이터로 10%를 테스트 데이터로 사용했으며 훈련 데이터의 일부는 검증 데이터로 사용했다. Word2Vec을 통해 구한 사용자와 영화 벡터를 입력으로 하는 사용자 합성곱 모델과 영화 합성곱 모델을 별도로 구성하고 합친 앙상블 합성곱 모델을 학습에 사용했다. 성능 평가 에서 MAE=0.65748로 기존 협업 필터링 기반 추천에 비해 영화 추천의 정확도를 개선하였다[16][17]. 하지만 이 연구에서 사용하는 평가 지표인 MAE만으로는 실제 추천 시스템이 적용되는 검색 엔진의 추천 정확도를 명확하게 표현하는데 어려움이 있다. 따라서 본 논문에서는 실제 추천 순위에 가중치를 두어 시스템 성능을 평가하는 지표인 nDCG로 결과를 도출했다.

[19]에서 제안하는 연구는 음악 요소 데이터와 사용자의 선호경향 데이터를 활용하여 선형 회귀분석을 통한 개인화된 음악추천모델을 제안했다. 최근 5년간 연간 100위권 내에 진입한 총 460곡에 대한 음악적 분석과 설문 조사를 통해 개인별 선호 경향을 분류한 후, 다중 선형 회귀분석을 통해 곡의 선호 여부를 실험했다. 피험자에게 음악추천모델을 통해 예측된 음악을 추천하고, 추천된 곡의 선호 여부 조사를 통해 추천 모델의 정확도를 확인했으며, 피험자 평균 예측 정확도 75.0%의 결과를 보였다[19]. 이 연구는 음악 요소 데이터와 사용자의 선호경향 데이터를 활용해서 개인화된 음악추천모델을 설계했다는 점에서 본 논문의 제안 방식과 유사하다. 본 논문에서는 사용자의 선호경향 데이터라고 할 수 있는 음악 플레이리스트 데이터와 플레이리스트에 수록되어 있는 음악에 대한 정보들을 단어로 취급하여 하나의 리스트로 결합된 문장 형식으로 변환하여 추천 모델의 학습 데이터로 사용했다.

[11]이 제안한 연구는 아이템 기반 협업 필터링에 SGNS을 적용(Item2Vec)하여 기존 추천 시스템에서 대중적으로 사용되고 있는 아이템 간 SVD(Singular Value Decomposition) 알고리즘과 성능 비교를 실험했다. 사용된 데이터는 두 가지 서로 다른 유형의 데이터 셋으로, Microisoft XBOX Music service에서 검색된 사용자-아티스트 관계와 Microsoft Store의 물리적인 상품 주문이 포함된 정보를 수집했다. SVD 기반 아이템 유사도 모델과 Item2Vec 모델 훈련으로 생성된 아이템 벡터의 클러스터링 결과에서는 Item2Vec이 아이템 벡터를 더 효과적으로 군집화하는 것을 볼 수 있었으며, 장르 분류 분석 정확도 결과에서도 Item2Vec이 다양한 크기의 데이터 셋에서 SVD보다 약 2~3% 높은 정확도를 보였다[11]. 이 연구에서는 데이터에서 사용자-아이템 관계를 문장으로 표현하여 아이템 벡터를 생성하였다. 본 논문에서는 사용자-아이템 관계를 문장으로 표현할 때, 아이템에 대한 정보를 하나의 단어가 아닌 여러 단어들로 구성된 문장으로 표현하여 아이템 벡터를 생성하는 방식으로 개선을 하여 해당 연구의 방법론과 비교 결과를 도출했다.

Skip-gram은 문장에서 주어진 중심 단어에 대해 주변 단어를 예측하는 알고리즘이다[10][12][13]. 주변 단어들은 중심 단어 주위에서 샘플링을 통해 예측하는데, 가까이 위치한 단어일수록 중심 단어와 관련이 많은 단어인 것을 전제로, 중심 단어와 멀리 떨어져 있는 단어일수록 낮은 확률로 샘플링하는 방법을 채택한다. Skip-gram의 학습은 식 (1)을 최대화하는 방향으로 학습을 진행한다.

식 (1)에서 c는 중심단어, o는 주변 단어, v는 입력층과 은닉층을 잇는 가중치 행렬 W의 행백터, u는 은닉층과 출력층을 잇는 가중치 행렬 W＇의 열백터다. 출력층에서 나오는 점수에 소프트맥스 함수를 적용해 확률값으로 변환한 후, 이를 정답과 비교해 역전파하는 구조를 통해 학습을 진행한다. 학습 과정에서 소프트맥스 함수를 적용하려면 식 (1)의 우변의 분모와 같이 중심단어와 주변 단어의 내적을 계산한 뒤, exp를 취해야 한다. 이는 전체 문장에서 나타나는 단어의 개수를 고려했을 때, 계산량이 매우 커지는 문제점이 발생한다.

SGNS에서 Negative Sampling은 Skip-gram에서 전체 단어들에 대한 소프트맥스 계산 및 정규화 대신, 정답 단어의 일부를 추출하고 사용자가 지정한 중심 단어 주변 범위 내에 등장하지 않는 단어인 negative sample과 합쳐 계산을 진행한다. 중심 단어 주변 범위 내에 등장하지 않는 단어 w_i가 negative sample로 선택될 확률은 식 (2)로 정의한다. f(w_i)는 해당 단어가 말뭉치에 등장한 비율을 의미한다.

본 논문에서는 카카오 아레나에서 제공하는 Melon Playlist Continuation 대회 데이터를 사용했다[20]. 해당 데이터는 멜론 서비스에서 수집된 플레이리스트의 일부로, 총 148,826개의 플레이리스트에 대한 메타데이터와 707,989개의 곡에 대한 메타데이터가 수록되어 있다.

플레이리스트 메타데이터는 표 1과 같이 구성되어 있으며, 총 데이터 148,826개에서 훈련, 검증, 테스트 데이터를 각각 115,071개(77%), 23,015개(16%), 10,740(7%)개로 구분하였다. 훈련에 사용된 플레이리스트 데이터는 각 플레이리스트에 대해 모든 곡과 태그가 수록되어 있으나, 검증 및 테스트 데이터에는 훈련 데이터와 다르게 곡과 태그의 일부가 수록되어 있다.

곡 메타데이터는 훈련, 검증, 테스트 데이터로 나눠진 플레이리스트에 수록된 모든 곡에 대한 메타데이터가 포함되어 있으며, 표 2와 같이 구성되어 있다.

데이터 전처리 과정은 그림 1과 같다. 먼저, 플레이리스트 데이터에 수록된 태그 리스트를 곡 메타데이터에 추가한다. 다음으로 곡 메타데이터에 포함되어 있는 각 곡마다 아티스트 리스트, 곡 장르 리스트, 곡 세부 장르 리스트, 태그 리스트를 하나로 결합하여 곡을 표현하는 하나의 문장을 생성한다. 마지막으로, 생성된 문장으로부터 단어 말뭉치를 구성한다.

Fig. 1. 
Data preprocessing process

본 논문에서는 데이터셋 내의 플레이리스트 중 보여지는 부분의 곡 태그, 장르, 세부장르, 가수명 등 곡에 대한 정보를 SGNS을 통해 곡을 다차원 벡터 공간에 임베딩하여 각 곡을 표현하는 벡터를 생성했다. 이 때, 곡에 대한 정보를 단어들로 취급하는 하나의 리스트로 결합된 문장 형식으로 변환하여 학습을 진행한다. 최종적으로 임베딩된 곡의 코사인 유사도를 기반으로 상위 100개의 곡을 추출하여 플레이리스트 중 숨겨진 부분에 대한 곡을 예측했다. 또한 본 논문에서 제안한 방법론과 baseline으로 설정한 Item2Vec 방법론을 nDCG를 통해 성능을 비교했다.

실험은 Google Cloud Platform에서 Intel Broadwell CPU 8개, 메모리 용량 52GB, GPU는 NVIDIA Tesla P100를 사용한 VM 인스턴스 환경에서 진행했으며, 패키지 버전은 Python 3.8.3, Tensorflow 2.2.0, Cuda 10.1을 사용했다.

SGNS 모델의 하이퍼 파라미터를 표 3과 같이 설정하여 플레이리스트 내 곡들을 다차원 벡터 공간에 임베딩하고, 식 (3)으로 정의된 코사인 유사도를 통해 곡 간의 유사도 s(A,B)를 계산한다.

플레이리스트 곡 추천의 경우, 그림 2와 같이 플레이리스트 데이터에 수록되어 있는 일부 곡들의 곡 간 유사도 합이 높은 순으로 해당 플레이리스트에 수록되어 있지 않는 곡들을 추천한다.

Fig. 2. 
Playlist song recommendation procedure

본 논문에서는 멜론 음악 데이터 셋에서 각 아이템에 대해 다양한 카탈로그 형식을 활용하여 데이터 임베딩과 클러스터링을 통한 새로운 방식의 추천 방식을 제안하였다. 제안하는 데이터 임베딩을 활용한 사용자 플레이리스트 기반 음악 추천 방식은 곡의 태그, 장르, 세부장르, 가수명 등 곡에 대한 정보를 단어들로 취급하는 하나의 리스트로 결합된 문장 형식으로 변환하여 SGNS의 입력으로 사용했다. SGNS를 통해 곡을 다차원 벡터 공간에 임베딩하고 임베딩된 곡의 유사도를 기반으로 추천하는 방식과 Item2Vec 방식에 대한 비교 성능 평가를 실시하여 추천 성능을 개선하였음을 보인다. 추천 방식에 있어 기존 Item2Vec 방식의 성능과 비교 측정하였다. 측정 방식은 nDCG로 Item2Vec 모델의 평균 nDCG는 0.1850, 제안 방식의 평균 nDCG는 0.2996로 추천 성능을 향상시켰다. 또한, 제안 모델을 통한 학습 결과를 시각화한 결과로 풍부한 해석이 가능한 것을 확인했다. 따라서, 기존 추천 방식보다 더 풍부한 해석과 다양한 추천 방향을 제안할 수 있을 것으로 예상된다.

본 논문에서는 모델 학습을 진행할 때, 곡에 대한 정보를 하나의 문장으로 취급하여 학습에 사용한다. 곡에 대한 정보는 아티스트 리스트, 곡 장르 리스트, 곡 세부 장르 리스트, 태그 리스트를 사용하였는데, 곡에 대한 Mel-spectrogram 등 추가 정보를 입력한다면 성능을 더욱 끌어올릴 수 있을 것으로 기대한다. 또한, 하이퍼 파라미터는 기존에 널리 알려진 기본 값으로 설정하였다. 이는 제안 모델에 최적화되어있지 않은 값이다. 그리드 탐색을 통해 최적의 하이퍼 파라미터를 탐색한다면 추천 성능을 더욱 끌어올릴 수 있을 것으로 예상된다. 또한, 노래에 대한 플레이리스트를 넘어서 동영상, 영화, 방송, 도서 등 다양한 분야에 대해 적용해볼 수 있을 것으로 기대한다.