분류 전체보기101 [Recommender System / Paper review] #22 Factorization Machines 논문 링크(2689회 인용) Summary SVM의 장점과 matrix factorization의 장점을 모아둔 factorization machines을 제안한다. 개별적인 변수의 latent vector뿐만 아니라 변수간의 interaction에 존재하는 latent vector도 추정한다. 일반적인 데이터 형태 모두를 입력값으로 넣을 수 있으며 파라미터 최적화 방법도 동일하게 gradient descent을 사용하면 된다. 모델 파라미터가 데이터 수에 linear하게 최적화되기 때문에 scalability을 확보한다. Motivation fm은 svm의 장점을 살리면서 단점을 보완하고자 개발된 알고리즘이다. fm은 모든 변수들간에 interaction effect을 latent vector로 추정한.. 2023. 4. 21. [Recommender System / Paper review] #21 Deep Neural Networks for YouTube Recommendations 논문 링크(2695회 인용) Summary 유튜브 추천 알고리즘에 관한 논문으로, 2010년과 달리 neural network을 사용했다는 것이 달라진 점이다. candidate generation, ranking에서 neural network을 사용한다. 주목할만한 점은, 다양한 feature을 neural network의 input으로 넣는다는 점이다. 유저의 비디오 시청 시간, 횟수, 인구학적 정보 등의 feature가 concatenate 된다. 이러한 feature은 모델의 추천 성능을 향상시킴을 경험적으로 증명했다. Motivation 유튜브의 영상 추천 알고리즘은 아래 세가지 문제를 해결하고자 한다. scale: 유튜브의 데이터는 크기가 매우 크기 때문에, 이런 대용량 데이터에 맞게 추천 .. 2023. 4. 20. [Recommender System / Paper review] #20 The YouTube Video Recommendation System 논문 링크(1370회 인용) Summary 2010년에 나온 유튜브의 첫 추천 알고리즘 관련 논문으로, 비디오별로 candidates을 생성하고 그것에 따라 ranking을 부여하며 이를 기반으로 추천을 진행한다. 비디오별 $v_i$와 다른 비디오 $v_j$ 간의 relatedness을 계산하는데 두 비디오가 같이 방문(co-visitation)되는 횟수에 따라 계산된다. 계산된 relatedness인 $r(v_i, v_j)$에 따라 상위 N개의 비디오 세트를 seed video $R_i$라고 정의한다. $R_i$을 사용하여 candidates을 생성한다. 이때, 사용자에게 novelty을 주도록 구성한다. 비디오의 다양한 signals에 따라 비디오를 랭킹하고 정해진 갯수를 유저에게 추천한다. Moti.. 2023. 4. 19. [Recommender System / Paper review] #19 Fast Matrix Factorization for Online Recommendation with Implicit Feedback 논문 링크(967회 인용) Summary 기존의 방법과는 다르게, 본 논문에서 제안하고자 하는 mf는 implicit feedback을 이용하되 관측되지 않은 feedback은 서로 다른 weight을 준다. 이는 item popularity을 반영한 weight이다. 또한 기존의 시간 복잡도 측면에서 기존의 ALS 방법을 개선하여, online recommendation이 가능하도록 eALS을 제안한다. 기존 방법에 비해 K배만큼의 복잡도가 개선됨을 보인다. online recommendation을 목표로 하기 때문에, 실시간으로 유저와 아이템간의 interaction 데이터가 들어왔을 때 어떤 식으로 업데이트할지에 대한 방법을 제시한다. Motivation implicit feedback을 이용한 m.. 2023. 4. 19. [Recommender System / Paper review] #18 Neural Collaborative Filtering 논문 링크(4700회 인용)Summary유저와 아이템간의 interaction을 벡터의 내적이 아닌 neural network으로 모델링하는 neural cf을 제안한다.embedding layer을 통해 유저와 아이템에 대한 latent vector을 만들고 이를 neural cf layers의 입력값으로 넣는다.neural cf layers는 각자 입맛에 맞게 구성하면 된다. activation function을 정하고 몇개의 layer을 쌓을 것인지 정한다.최종 output activation function을 통해 $\hat{y}_{ui}$을 생성한다.본 논문은 implicit feedback의 binary 값이 발생할 확률을 정의하고 이를 최대화하는 방향으로 likelihood 최적화를 진행한다.. 2023. 4. 18. [Recommender System / Paper review] #17 Logistic Matrix Factorization for Implicit Feedback Data 논문 링크(258회 인용) Summary implicit feedback을 사용하는 연구의 흐름으로, matrix factorization을 수행하되 logistic function을 사용한다. probabilistic approach을 사용하는데, 유저 u가 아이템 i를 선택하는 이벤트의 확률을 모델링하도록 likelihood function을 세운다. 베이지안 방법을 사용하여 prior을 spherical gaussian distribution으로 가정한다. posterior을 전개해보면, 이는 곧 파라미터에 대해 L2 정규화를 가정하는 것과 같다. optimization은 유저벡터와 유저 bias 벡터, 그리고 아이템벡터와 아이템 bias 벡터간에 alternating gradient ascent.. 2023. 4. 18. 이전 1 ··· 5 6 7 8 9 10 11 ··· 17 다음