많은 분들이 처음 공부할 때 이 둘의 차이점을 많이들 헷갈려 하십니다. 1회차 강의에서는 이런 머신러닝, 딥러닝에 대해 알아보고 딥러닝에 들어가기 전 머신러닝에서 사용되고 있는 회귀(regression), 분류(classification) 등의 개념에 대해 알아봅니다. 실습시간에는 텐서에 대해 배운 후 텐서를 자유롭게 다루는(slicing등등) 연습을 합니다. 또한 linear regression, logistic regression을 직접 구현하여 실험합니다.

이론
– 인공지능, 머신러닝 딥러닝이란?
– 지도학습, 비지도학습이란?
– 선형회귀(Linear Regression)이란?
　• 손실 함수(loss function)이란?
　• 경사하강법(gradient descent)란?
– 로지스틱 회귀(Logistic Regression)이란?
　• 로지스틱 회귀에서의 손실 함수란?

실습
– pytorch를 이용하여 tensor를 자유자재로 다루는 연습
– pytorch로 Linear Regression을 구현
– pytorch로 Logistic Regrssion을 구현

머신러닝의 많은 종류 중 하나인 뉴럴넷이 어떻게 만들어져 있는지 확인해 봅니다. 많은 뉴럴넷을 이루고 있는 딥러닝을 학습시키려면 단순 gradient descent만을 사용해서는 학습이 거의 불가능합니다. 이런 뉴럴넷을 지금까지도 어떻게 학습시키고 있는지 같이 직접 계산해보면서 확인해 봅니다.

이론
– 인공신경망(Artificial Neural Network)이란?
– 역전파(Backpropagation)란?

실습
– pytorch의 Dataset과 DataLoader 알아보기
– Neural Network를 이용하여 손글씨 인식하기
– 학습이 잘 되고있는지 확인하기 위해 gradient checking 코드 만들어보기

CNN(Convolutional Neural Network)는 영상, 음성, 텍스트 분야에서 사용되고 있습니다. 그중에서 영상 인식을 위해 많이 사용되고있습니다. CNN을 구성하고 있는 Convolution 필터에 대해 알아보고 중요한 특징을 추출하기 위한 Pooling 방법에 대해 알아봅니다. 걸그룹 데이터를 이용하여 딥러닝 모델을 학습시키기 위한 Dataset, DataLoader를 구성하고 학습시켜 인식을 해봅니다.

이론
– Convolution 필터에 대해 알아보자
– Pooling Layer에 대해 알아보자

실습
– 걸그룹 얼굴 데이터를 이용하여 Dataset, DataLoader를 구성해보자
– CNN을 이용하여 걸그룹 얼굴을 구별해 보자

딥러닝을 학습을 시키다 보면 오버 피팅(overfitting), local minima라는 문제를 주로 겪게 됩니다. 이를 해결하기 위한 여러 optimizer 혹은 학습 테크닉 등이 연구되었고 현재도 계속 연구가 되고 있습니다. 이런 방법들을 이용하여 여러 CNN구조들도 연구 되었습니다. 실습시간 때는 여러가지 CNN모델 중 DenseNet 논문을 직접 읽고 직접 구현하여 걸그룹 얼굴 데이터를 학습시켜 봅니다.

이론
– 모델 성능을 향상시킬 수 있는 다양한 optimize를 알아보자
– 모델 초기화(initialization)를 하는 방법들을 알아보자
– 오버피팅을 방지하는 배치 정규화(Batch Normalization), 드롭아웃(Dropout)을 알아보자
– 다양한 합성곱 신경망(CNN) 모델들에 대해 알아보자

실습
– ResNet논문을 직접 읽으면서 구현하여 걸그룹 얼굴을 인식해보자

딥러닝 연구분야 중 설명 가능한 인공지능 XAI(Explanable AI)라는 분야가 있습니다. 즉 딥러닝이 왜 잘되는지 모르기때문에 설명하기 위해 연구되는 분야입니다. 영상 분야에서는 CNN이 영상의 어느 부분을 보고 예측하는지 표시해 주는 Grad-CAM이라는 방법을 주로 사용합니다. 이번 시간에는 Grad-CAM 논문을 직접 읽고 구현한 후 걸그룹의 어느 부분을 보고 예측하는지 실험해봅니다.

이론
– GRAD-CAM 논문 살펴보기

실습
– 4회차에서 구현 한 ResNet을 이용하여 Grad-CAM논문을 구현하자
– 걸그룹 이미지의 어느 부분을 보고 예측하는지 실험해보자

시간에 따라 변하는 데이터를 처리하기 위한 순환 신경망(Recurrent Neural Network)가 있습니다. 처음에 나온 RNN은 gradient vanishing, gradient exploding문제로 인해 여러가지 형태로 발전되었습니다. 이번 시간에는 RNN, LSTM, GRU에 대해 알아봅니다. 또한 실습시간 때는 미국 주식 데이터(S&P500) 데이터를 가지고 주식가격을 예측해 보고 결측값이 있는 데이터에 사용되는 GRU-I 논문을 읽은 후 GRU-I를 구현하여 실험해봅니다.

이론
– RNN에 대해 알아보기
– LSTM에 대해 알아보기
– GRU에 대해 알아보기

실습
– 미국 주식 데이터(S&P500) 데이터 전처리 해보기
– 기본 GRU를 튜닝한 GRU-I논문을 읽고 직접 구현하여 주식가격을 예측해보자