부스트캠프 AI 5주차(Day-29) 회고록

Day 29

Graph Neural Network

• Graph를 사용하는 이유
  1. 관계, 상호작용과 같은 추상적인 개념을 다루기에 적합.
     • 소셜 네트워크, 바이러스 확산, 유저–아이템 소비 관계 등.
  2. Non-Euclidean Space의 표현 및 학습이 가능.
     • 우리가 흔히 다루는 이미지, 텍스트, 정형 데이터는 격자 형태로 표현 가능하다. 그러나 SNS 데이터, 분자(molecule) 데이터 등은 non-Euclidean space로 다루는 것이 알맞다.
• Naïve Approach
  • 그래프 및 피쳐 데이터를 인접 행렬로 변환하여 MLP에 사용하는 방법
    • 노드가 계속 증가하면 InputLayer가 계속 증가하며 모델의 복잡도와 증가하고 연산량도 증가하는 문제가 있음.
    • 입력데이터가 Sparse 해지는 문제가 있음.
    • 순서의 정보가 없던 row 성분들을 Input Layer에 입력을 순차적으로 주게 되므로 나중에 입력 순서가 달라질 때 의미가 변할 수 있다는 문제가 있음.
• Graph Convolution Network(GCN)
  • Naïve Approach의 한계를 보완.
  • Local connectivity : 물리적으로 이웃한 입력들을 함께 활용.
  • Shared weights : 같은 Convolution의 커널(필터)를 활용.
  • Multi-layer : 컨볼루션 Layer를 여러개 사용해 더 멀리 있는 입력들까지 참고해 활용.

  

Neural Graph Collaborative Filtering

• 배경
  • 처음 GCN이 추천시스템을 풀기 좋은 모델이란 것을 제시함.
  • 신경망을 적용한 기존 CF 모델(ex. MF)는 유저벡터 아이템벡터를 임베딩한 후 내적해 표현한다 → 유저 아이템 상호작용을 “임베딩 단계”에서 접근하지 못함.
  • Latent factor 추출을 interaction function에만 의존하므로 “sub-optimal”한 임베딩을 사용함. (부정확한 추천의 원인이 될 수 있음, 최적이 아님)

• High-order Connectivity

  • Collaborative Signal이 많아질수록 기존의 그래프로는 모든 상호작용을 표현하기엔 한계가 존재함.

    

  • u₁과 u₂는 i₂를 통해 상호작용한다. u₂의 i₄ i₅ 가 u₁에 전달된다. u₃의 i₄가 u₁에 전달되고 u₂의 i₄도 u₁에 전달되므로 i₄가 추천될 확률이 더 높아진다.

  
  

  

• MF는 임베딩 벡터로 바로 인터렉션을 구하는 반면 NGCF는 임베딩 레이어에서 임베딩벡터를 생성하고, 임베딩 전파 레이어(GNN)를 통해 전파시킨다.

• 임베딩 레이어(Embedding Layer): 유저-아이템의 초기 임베딩 제공.
  • 기존의 MF, Neural CF 모델에서는 임베딩이 곧바로 interaction function에 입력됨 NGCF에서는 이 임베딩을 GNN 상에서 전파시켜 ‘refine’함.

• 임베딩 전파 레이어(Embedding Propagation Layer): high-order connectivity 학습.

  • 유저-아이템의 collaborative signal을 담을 ‘message’를 구성하고 결합하는 단계.
    • Message Construction: 유저-아이템 간 affinity를 고려할 수 있도록 메시지를 구성. (weight sharing)

  

  • Message Aggregation: !의 이웃 노드로부터 전파된 message들을 결합하면 1-hop 전파를 통한 임베딩 완료.

  

  • Higher-order Propagation
    • l 개의 임베딩 전파 레이어를 쌓으면, 유저 노드는 l-차 이웃으로부터 전파된 메시지 이용 가능.

  

• 유저-아이템 선호도 예측 레이어(Prediction Layer): 서로 다른 전파 레이어에서 refine된 임베딩 concat.
  • L차 까지의 임베딩 벡터를 concatenate하여 최종 임베딩 벡터를 계산한 후, 유저-아이템 벡터를 내적하여 최종 선호도 예측값 계산.

  

• 임베딩 전파 레이어가 많아질수록 모델의 추천 성능 향상.
  • 다만, 레이어가 너무 많이 쌓이면 overfitting 발생 가능.
  • 실험 결과, 대략 L = 3 ~ 4일 때 가장 좋은 성능을 보임.
• MF 보다 더 빠르게 수렴하고 recall 도 높음
  • Model Capacity가 크고 임베딩 전파를 통해 representation power가 좋아졌기 때문
• MF와 비교하여 유저-아이템이 임베딩 공간에서 더 명확하게 구분됨 (레이어가 많아질수록 명확해짐)

LightGCN

• 배경
  • Recommender System with GNN
  • GCN의 가장 핵심적인 부분만 사용하여, 더 정확하고 가벼운 추천 모델을 제시함.
  • Light Graph Convolution: 이웃 노드의 임베딩을 가중합 하는 것이 convolution의 전부, 학습 파라미터와 연산량이 감소.
  • Layer Combination: 레이어가 깊어질수록 강도가 약해질 것이라는 아이디어를 적용해 모델을 단순화 함.
• LightGCN Propagation Rule (vs. NGCF)
  • feature transformation이나 nonlinear activation를 제거하고 가중합으로 GCN 적용.
  • 연결된 노드만 사용하였기 때문에 self-connection이 없음.
  • 학습 파라미터는 0번째 임베딩 레이어에서만 존재.
• LightGCN Model Prediction (vs. NGCF)
  • k-층으로 된 레이어의 임베딩을 각각 α_k배 하여 가중합으로 최종 임베딩 벡터 계산.
    • α_k는 k-층임베딩벡터의가중치로,하이퍼파라미터혹은학습파라미터둘다가능.(논문에서는 (K+1)^-1 사용)
    • 층이 늘어날수록 점점 들어드는 가중치. (층이 깊어질수록 임베딩의 시그널이 낮아질 것이라 가정)
• 결과 및 요약
  • 학습을 통한 손실 함수와 추천 성능 모두 NGCF보다 뛰어남.
  • training loss가 낮으면서 추천 성능이 좋다는 것은 모델의 Generalization Power가 크다는 것

GRU4Rec

• 배경
  • Recommender System with RNN
  • Session based Recommender System
    • Session: 유저가 서비스를 이용하는 동안의 행동을 기록한 데이터
  • ‘지금’ 고객이 원하는 상품을 추천하는 것을 목표로, 추천 시스템에 RNN을 적용한
  • Session이라는 시퀀스를 GRU 레이어에 입력하여 바로 다음에 올 확률이 가장 높은 아이템을 추천.
• Input Layer
  • One-hot encoding된 session
  • (참고) 임베딩 레이어를 사용하지 않았을 때의 성능이 더 높음
• GRU Layer
  • 시퀀스 상 모든 아이템들에 대한 맥락적 관계 학습
• Output Layer
  • 다음에 골라질 아이템에 대한 선호도 스코어
• 학습
  • Session Parallel Mini batches
    • 길이가 짧은 세션들이 단독 사용되어 idle 하지 않도록, 세션을 병렬적으로 구성하여 미니 배치 학습
  • Sampling on the output
    • 현실에서는 아이템의 수가 많기 때문에 모든 후보 아이템의 확률을 계산하기 어려움 따라서, 아이템을 negative sampling하여 subset만으로 loss를 계산함
    • 사용자가 상호작용을 하지 않은 아이템은 존재 자체를 몰랐거나 관심이 없는 것을 전제로 아이템의 인기가 높은데도 상호작용이 없었다면 사용자가 관심이 없는 아이템이라고 가정한다. → 인기에 기반한 Negative Sampling 제시.
• 결과 및 요약
  • 특정 데이터셋에서 item-KNN 모델 대비 약 20% 높은 추천 성능
  • GRU 레이어의 hidden unit이 클 때 더 좋은 추천 성능을 보임 (Cross Entropy Loss만 예외)

Click-Through Rate Prediction

• CTR 예측: 유저가 주어진 아이템을 클릭할 확률(probability)을 예측하는 문제
• 예측해야 하는 y값은 클릭 여부, 즉 0 또는 1이므로 이진 분류(binary classification) 문제에 해당.
• 모델에서 출력한 실수 값을 시그모이드(sigmoid) 함수에 통과시키면 (0, 1) 사이의 예측 CTR 값이 됨.
• CTR 예측은 광고에서 주로 사용됨
• 광고가 노출된 상황의 다양한 유저, 광고, 컨텍스트 피쳐를 모델의 입력 변수로 사용
• 유저 ID가 존재하지 않는 데이터도 다른 유저 피쳐나 컨텍스트 피쳐를 사용하여 예측할 수 있음
• 실제로 현업에서는 유저 ID를 피쳐로 사용하지 않는 경우가 많음
• 다양한 CTR 모델들이 Logistic으로 부터 발전함

Context-aware Recommendation

• 배경
  • 행렬 분해(MF) 기법을 활용한 협업 필터링(CF)의 한계
  • 유저의 데모그래픽이나 아이템의 카테고리 및 태그 등 여러 특성(feature)들을 추천 시스템에 반영할 수 없음.
  • 상호작용 정보가 아직 부족할 경우, 즉 “cold start”에 대한 대처가 어려움.
• 유저와 아이템 간 상호작용 정보 뿐만 아니라, 맥락(context)적 정보도 함께 반영하는 추천 시스템의 등장.
  • 유저와 아이템 간 상호작용 정보 뿐만 아니라, 맥락(context)적 정보도 함께 반영하는 추천 시스템 X를 통해 Y의 값을 추론하는 일반적인 예측 문제에 두루 사용 가능

Factorization Machines (FM)

• 배경
  • SVM과 Factorization Model의 장점을 결합한 FM을 처음 소개한 논문
  • CF 환경에서는 SVM보다 MF 계열의 모델이 더 높은 성능을 내왔으나 MF 모델은 특별한 환경 혹은 데이터에만 적용할 수 있었다.
    • X: (유저, 아이템) → Y: (rating)으로 이루어진 데이터에 대해서만 적용이 가능했다.
  • SVM과 MF의 장점을 결합할 수 없을까?
  • D2L 17.9 Factorization Machines 리뷰 발표자료

  

  • Sparse한 데이터셋에서 예측하기.

  

  • FM의 장점
    • 매우 sparse한 데이터에 대해서 높은 예측 성능을 보임
    • 선형 복잡도(O(#$))를 가지므로 수십 억 개의 학습 데이터에 대해서도 빠르게 학습함.
    • 여러 예측 문제(회귀/분류/랭킹)에 모두 활용 가능한 범용적인 지도 학습 모델.
    • 일반적인 실수 변수(real-value feature)를 모델의 입력(input)으로 사용함.

Field-aware Factorization Machine (FFM)

• 배경
  • FM의 변형된 모델인 FFM을 제안하여 더 높은 성능을 보인 논문.
  • CTR예측 데이터셋 즉 (Context aware Rec)에서 가장 활발하고 풀리고 있는 문제에 대해 높은 성늘을 보임.
  • Field-aware Factorization Machine (FFM)은 FM을 발전시킨 모델로서 PITF(3차원으로 MF를 확장시킨 모델) 모델에서 아이디어를 얻음.
  • 여러 개의 필드에 대해서 latent factor를 정의한 것이 FFM.
• 특징
  • 입력 변수를 필드(field)로 나누어, 필드별로 서로 다른 latent factor를 가지도록 factorize함
    • 기존의 FM은 하나의 변수에 대해서 k개로 factorize했으나 FFM은 f개의 필드에 대해 각각 k개로 factorize함.
  • Field는 모델을 설계할 때 함께 정의되며, 같은 의미를 갖는 변수들의 집합으로 설정함
    • Field를 적절하게 직접 설계 해야함.
  • CTR 예측에 사용되는 피쳐는 매우 다양한데, 피쳐의 개수만큼 필드를 정의하여 사용할 수 있음

  

  • FFM의 필드 구성
    • Categorical Feature
    • Numerical Feature
      • dummy field
        • numeric feature 한 개당 하나의 필드에 할당하고 실수 값을 사용
      • discretize
        • numeric feature를 n개의 구간으로 나누어 이진 값을 사용하고, n개의 변수를 하나의 필드에 할당
  • 결론 및 요약
    • Sparse한 데이터에 대해 FM이나 FFM이 굉장히 효율적이다.
    • 데이터셋에 조금씩 다르고 표현력에 따라 다르지만 대체적으로 FM과 FFM이 더 좋은 성능을보임.
    • 데이터셋에 따라 FM이 FFM보다 좋았던 이유는 어떤 데이터셋은 필드를 사용해 명시적으로 구별하는게 별로 도움이 되지 않을 수 있기 때문이다.
    • FFM은 필드 개수만큼 parameter가 늘어나기 때문에 필드를 사용하는게 적절하지 않을때 오히려 오버피팅이나 언더피팅이나 생길 수 있다.

Gradient Boosting Machine (GBM)

• 배경
  • CTR 예측을 통해 개인화된(personalized) 추천 시스템을 만들 수 있는 또 다른 대표적인 모델
  • 다른 추천 모델(FM 계열 포함)보다 높은 성능을 보임
  • 예) 하쿠나 라이브 @ 하이퍼커넥트
    • 실시간 서비스의 데이터 특성상 다양한 환경에 따라 데이터의 특성이 자주 변하기 때문에 비교적 데이터 특성에 관계없이 Hyperparameter에 민감하지 않은(robust) 모델을 사용하고 싶었음.
    • ( FM, FFM, DeepFM 모델 ) < ( 기존에 사용하던 휴리스틱 모델 ) < ( GBM 계열 모델 )

• Gradient descent을 사용하여 loss function이 줄어드는 방향(negative gradient)으로 week learner들을 반복적으로 결합함으로써 성능을 향상시키는 Boosting 알고리즘.

  

• 통계학적 관점에서, Gradient Boosting은 잔차(residual)를 적합(fitting)하는 것으로 이해할 수 있음.
  • 이전 단계의 weak learner까지의 residual을 계산하여, 이를 예측하는 다음 weak learner를 학습함.
  • 회귀 문제에서는 예측값으로 residual을 그대로 사용하고, 분류 문제에서는 log(odds) 값을 사용함.

  

• 장점
  • 대체로 random forest보다 나은 성능을 보임
• 단점
  • 느린 학습 속도
  • 과적합 문제 (prediction shift)
• XGBoost
  • Extreme gradient boosting의 약자로, 병렬처리 및 근사 알고리즘을 통해 학습 속도를 개선한 라이브러리
• LightGBM
  • Microsoft에서 제안한, 병렬 처리 없이도 빠르게 Gradient Boosting을 학습할 수 있도록 하는 라이브러리
• CatBoost
  • 범주형 변수에 효과적인 알고리즘 등을 구현하여 학습 속도를 개선하고 과적합을 방지하고자 한 라이브러리

의문점

• Collaborative의 정확한 느낌. Collaborative 환경? Collaborative 한 모델
  • 8강 퀴즈 중 아이템 정보를 사용하는 방법론을 고르라는 문제가 있엇는데 여기서 헤멘게 이 의문 떄문인거 같다.
• GBM에서 회귀 문제에서는 예측값으로 residual을 그대로 사용하고, 분류 문제에서는 log(odds) 값을 사용함
  • 분류 문제에서는 0과 1 사이로 예측하는걸 실수로 표현하기 애매해서 log(odds) 값을 사용.
  • odds가 이전에 정리하려고 했던 logit 부분의 연장되는 개념인듯하다.

피어세션

• Collaborative의 정확한 느낌. Collaborative 환경? Collaborative 한 모델
• FFM의 필드 구성 중 Numerical Feature에서 descritize란?
• GRU4Rec 중 Session Parallel Mini batches 부분이 잘 이해가 안됐다
• SVD에서 MF와 차이가 Sparse한 데이터가 적다는 것인데 이 부분이 잘 이해가 안됐다.