요기요 데이터 사이언티스트의 추천시스템: 트랜스포머 기반 Sequential 모델 구현

강의 목표

• 추천시스템은 일반적인 딥러닝 모델의 평가지표(MAE, MSE) 뿐만 아니라, 다른 평가지표들도 함께 고려하게 됩니다. 추천시스템에서 주로 사용되는 평가지표들을 익히고 컨텐츠기반 추천시스템이 무엇인지 배웁니다. 회사에서 새로운 서비스를 오픈하고 딥러닝 기반의 추천시스템을 도입하기 위해서는 많은 데이터가 쌓여야 합니다. 많은 데이터가 쌓이기 전, 간단하게 적용할 수 있는 추천시스템으로 TF-IDF를 활용한 컨텐츠기반 추천시스템 및 협업 필터링 모델을 사용할 수 있습니다. 

이론

• 추천 시스템 평가지표 알아보기
• 컨텐츠기반 필터링 원리 파악하기
• TF-IDF란?
• 이웃기반 협업 필터링 원리 파악하기

실습

• TF-IDF 알고리즘을 활용한 추천시스템 구현하기
• 여러 추천 시스템 평가지표를 활용한 TF-IDF 추천시스템 평가하기
• User-Based & Item-Based 협업 필터링 구현하기

강의 목표

• 이전 강의에서 배운 모델들에 비해서 많은 데이터를 요구하지만, 더 높은 성능을 내기 위해서 딥러닝 모델들이 나오고 있습니다. 
  지난 회차에서 배운 협업필터링 모델에 이어서 모델기반 협업 필터링 모델을 학습한 후, 널리 사용되고 있는 딥러닝 추천시스템 모델들의 원리를 파악해보고 실습을 진행합니다. 또한, 각 모델들이 어떻게 발전되었고 차이가 무엇이지를 한번에 익힐 수 있습니다.

이론

• 모델 기반 협업 필터링 원리 파악하기
• Neural Collaborative Filtering 모델 원리 파악하기
• Factorization Machine 모델 원리 파악하기
• Wide & Deep Learning for Recommender System 원리 파악하기
• DeepFM 모델 원리 파악하기

실습

• Matrix Factorization을 활용한 모델기반 협업필터링 구현하기
• Neural Collaborative Filtering 모델 구현하기
• Factorization Machine 모델 구현하기
• Wide & Deep Learning for Recommender System 구현하기 
• DeepFM 모델 구현하기

강의 목표

• Transformer 모델의 경우, BERT 및 GPT-3과 같이 널리 사용되는 언어 모델의 핵심이라고 할 수 있습니다. 기존에는 자연어처리(NLP)를 위해 개발되었지만, 현재는 Sequential 추천시스템 구현에도 많이 활용되고 있습니다. 
  본 강의에서는 Transformer 모델이 무엇인지 알아보고 어떻게 추천시스템에 적용할 수 있는지 배웁니다. 또한, 가장 잘 알려진 Sequential 추천시스템인 SASRec 및 BERT4Rec을 배웁니다.

이론

• Transformer 모델의 원리
• Sequential 추천 시스템의 발전과 원리
• SASRec 모델과 BERT4Rec 모델 원리 파악하기(아이디어스 추천 시스템)

실습

• SASRec 모델 구현
• BERT4Rec 모델 구현

강의 목표

• 국내외 주요 IT 플랫폼 회사들에서 어떤 추천시스템 서비스들을 제공하고 있는지 파악합니다. 
  이후, 몇가지 서비스들에 대해서 유사하게 적용을 해보고자 합니다. 실제로 현업에서는 주요 회사들 기술블로그에 작성된 추천서비스들을 살펴보며 벤치마킹해서 적용하기도 하고, 실제 서비스하고 있는 모델관련 논문을 찾아 적용해보기도 합니다.
  이번 강의에서는 앞의 강의에서 소개했던 BERT4Rec의 발전된 모델인 DIF-SR 및 BST 모델을 학습하고, 모델 경량화를 통해 Transformer 모델 학습속도를 높이는 방안을 배워봅니다.

이론

• 카카오뱅크의 추천시스템 활용방법
• Alibaba 추천 서비스 원리 파악하기
• 네이버 플레이스 추천 서비스 원리 파악하기(모델 경량화)

실습

• DIF-SR 모델과 BST 모델 구현하기(BERT4Rec + Side information)
• Progressive Layer Dropping을 통한 Transformer 모델 경량화 적용하기

기강의 목표

• 이전 강의에 이어서 IT 플랫폼 회사들의 추천시스템 서비스들을 통해서 학습합니다. 
• 이번 강의에서는 추천시스템 마지막 단계인 Re-ranking에 대해서 알아보고 비즈니스 정책에 맞춰 컨트롤이 가능한 추천시스템을 어떻게 구현하는지 배워봅니다. 
  마지막으로, 추천시스템 결과에 대한 이유를 설명할 수 있는 Post-Hoc 방식의 설명가능한 추천시스템을 구현해봅니다.

이론

• Re-ranking의 중요성 및 Controllable 모델이란?
• Spotify 추천 서비스 원리 파악하기
• Explainable 모델인란?
• 카카오 웹툰 추천 서비스 원리 파악하기

실습

• Controllable 추천 시스템 구현하기
• Post-Hoc 방식의 Explanation 모델 구현하기