Next Item Recommendation with Self-Attentive Metric Learning

2. Overview

GRU4REC 논문 이후로 RNN 계열에 attention mechanism을 적용한 연구들은 NARM을 포함하여 여러 논문들이 등장했다. 단순히 아이템 임베딩들에 어탠션을 적용한 연구도 있었고, hierarchical하게 long-term과 short-term에 대해서 어탠션을 적용한 경우, 최근의 아이템에 대해서만 어탠션을 적용한 연구들도 있었다. 이와 같이 단순한 soft attention에 대한 적용이 다양하게 일어나고 있는 와중 작년 Transformer 논문에서 각광받았던 self-attention을 이에 적용한 연구들이 등장하고 있다. 본 논문에서는 최근 몇 개의 아이템들에 대해 self-attention이라는 메커니즘을 적용했고, 각 시퀀스들이 어떻게 영향을 주는지에 대한 정보를 short-term preference에 담으려고 했다. 이와 동시에 general한 taste도 담기 위해 유저 임베딩에 대해서도 preference를 구한다. 또한 본 논문에서는 스코어를 구하는 전통적인 방식인 matrix factorization을 이용하지 않고, distance 기반의 metric learning을 이용하게 된다. MF 방식이 가지는 단점을 지적하고 이를 보완한다는 contribution과 함께, 각 시퀀스들이 가지는 서로에 대한 interaction과 user의 general한 taste까지 반영하여 성능을 향상시키고자 하였다.

3. 발표자료 및 발표영상

[1] 발표자료

[2] 발표영상