강의탐색

데이터사이언스
초급, 중급

대용량 트래픽을 지탱하는 MLOps : 머신러닝 디자인 패턴부터 AWS 아키텍처 설계까지

[실습+현업 TIP] 클라우드 기반 머신러닝 프로젝트 인프라 요소, 서빙 인프라 구축, 모델 서비스/운영까지! 그동안 흩어져있던 MLOps의 개념과 최신 트렌드를 체계적으로 배워보세요.

3기

강의 일정: 23.07.15 ~ 23.08.19 (총 6회) 매주 토요일 14:00 ~ 17:00 (총 18시간)

오프라인

- 지도확인

단순한 모델 배포가 아닌우리 서비스에 머신러닝을 구현하고 싶다면?

MLOps는 이제 선택이 아닌 필수입니다.머신러닝 모델 구축부터 프로덕션 배포, 그리고 대규모 엔터프라이즈 유즈케이스 기반 실무 적용까지!

강의소개

비즈니스 가치를 만들어내는 머신러닝 시스템의 핵심!모델을 프로덕션에 안정적이고 지속적으로 배포하는MLOps 엔지니어링 노하우를 공개합니다.

01. 클라우드 서비스를 활용하여 모델을 서빙하는 인프라 구축을 해보고 싶다면?

국내 클라우드 점유율 1위, AWS 서비스를 활용하여 머신러닝 프로젝트의 구성 요소를 학습하고 실습을 매 주차 진행합니다. MLOps의 개념 뿐만 아니라 AWS의 주요 서비스들의 특징과 사용법을 익힐 수 있습니다.

02. 현업에서 활용할 수 있는 대규모 엔터프라이즈 수준으로 프로덕션 배포를 경험해보고 싶다면?

본 강의는 대규모 엔터프라이즈에서 경험한 실제 유즈케이스를 기반으로 최대한 현업에서 활용 가능하도록 구성하였습니다. 실제 엔터프라이즈 환경에서 일어날 수 있는 다양한 문제점과 해결방법을 배우고, 실무에 바로 적용해보세요.

03. DevOps, Data Engineer, Data Scientist 간 협업 역량을 키우고 싶다면?

머신러닝 모델을 실제 서비스에 배포하기 위한 엔지니어링 과정을 익히고 싶으신가요? 혹은 머신러닝 엔지니어와 협업 과정에 어려움을 겪고 계신가요?데이터 적재부터, 배포 및 서빙, 모니터링까지 MLOps 엔지니어링에 필요한 영역은 매우 방대합니다. 고성능 모델을 빠르고 정밀하게 배포하고 운영하기 위한 협업의 과정에서 겪어왔던 수 많은 시행착오 과정과 그를 줄일 수 있는 핵심 노하우를 모두 전달드리겠습니다.

본 강의에서

무엇을 얻어갈 수 있나요?

MLOps의 개념부터 CI/CD 파이프라인 구축, 모니터링 대시보드 설계, AWS 서비스 활용 역량까지!

인프라 구축부터 클라우드 활용

MLOps의 핵심

MLOps는 모델을 프로덕션에 배포하고 서빙하기 위한 인프라와 도구를 구축하는 것에서부터 시작합니다. 머신러닝 프로젝트의 특징과 MLOps의 필요성부터 AWS 환경에서 머신러닝 프로젝트 구축부터 로깅 및 모니터링 대시보드를 통해 모델과 데이터의 품질을 관리하는 방법까지 모두 다뤄봅니다.
Google MLOps Lv. 2 아키텍처

실무에 바로 적용 가능한 실습

MLOps 관련 이론 공유에만 그치지 않고, 구글에서 정의하는 MLOps의 최고 수준인 Google MLOps Lv. 2에 가까운 실습을 진행합니다. 다년간의 경험을 녹인 실습을 통해 수강생분들께서 실제 현업에서 그대로 활용하시는 것을 목표로 강의를 설계했습니다.
안정적인 모델 배포

엔지니어링 영역의 모든 것

본 강의에서는 머신러닝 모델 개발에 대한 내용은 자세히 다루기 보다는 머신러닝 프로젝트의 인프라 요소들을 직접 구축하고 연동하는 실습을 BLACK BOX 형태로 진행하며, 모델 코드를 둘러싼 엔지니어링 요소에 집중합니다.

머신러닝 시스템의 전체 생애주기에서 모델 코드는 약 5%에 불과합니다.머신러닝 모델의 인프라 구성 요소와 도구를 정복하고,대체불가한 엔지니어로 성장하세요.

본 강의가 특별한 이유는

무엇인가요?

대규모 트래픽 서비스 내 MLOps 도입 노하우를 습득합니다.

본 강의는 머신러닝 모델의 개발부터 프로덕션 배포 및 서빙되는 머신러닝 프로젝트의 생애주기 전체 과정을 함께 짚어보며 직접 구축할 수 있는 역량을 쌓는데 초점이 맞추어져 있습니다.대규모 엔터프라이즈 실무 사례를 기반으로 강의 커리큘럼을 구성하여 현업에서 필요로하는 클라우드에서의 MLOps 구축 및 머신러닝 모델 배포 및 운영 능력을 높일 수 있습니다.

상황별 적합한 MLOps 구현을 위한 다양한 디자인 패턴을 학습합니다.

MLOps에서 가장 중요한 부분은 요구사항에 적절한 인프라 아키텍쳐를 설계하고 적합한 서비스를 구성하는 능력입니다. 요구사항 별 적합한 MLOps 디자인 패턴을 소개해드리고, 해당 패턴들이 왜 적합한지와 동작 원리에 대해서 알려드릴 예정입니다. 원리를 바탕으로 다양한 요구사항에 적절한 아키텍쳐 설계와 서비스 선택 능력을 향상시킬 수 있습니다.

AWS를 기반으로 클라우드 서비스 활용 역량을 확장합니다.

MLOps 대표 플랫폼인 Amazon SageMaker뿐만 아니라 AWS CodeBuild, CodePipeline, Amazon DynamoDB, AWS Lambda, MWAA등을 활용하여 클라우드에서 CI/CD 파이프라인 구축, AWS Lambda와 Dynamo DB 연동, 워크플로우 설계 및 구축, 모델 코드를 변경하고 배포하는 전반적인 엔지니어링 과정을 실습해봅니다. 강사님과 질의 응답을 주고받으며 AWS를 활용한 모델 배포 과정의 A to Z를 경험한다면, 이를 기반으로 Azure, GCP 등 어떤 다른 서비스도 보다 쉽게 대응할 수 있습니다.

여기서 잠깐! 혹시 머신러닝이 처음이신가요?

* 본 강의는 엔지니어링 영역을 다루기 때문에 머신러닝에 대한 기본 이해가 없어도 괜찮습니다.
* 본 강의는 머신러닝 모델을 프로덕션에 배포하기 위한 엔지니어링 영역을 다루며, 머신러닝 모델의 아키텍쳐, 알고리즘, 구성 요소(옵티마이저, 활성화 함수 등), 계층, 커스텀 학습 루프 등의 사이언티스트의 실무 영역은 다루지 않습니다.

FAQ

강의에 대해

궁금한 점이 있으신가요?

Q. 수강 시, 준비 사항은 어떤 것이 있을까요?

실습을 위해 개인 PC와 AWS 계정이 꼭 필요합니다.

Q. 기초 지식이 없어도 수강이 가능한가요?

Python(기본 문법과 클래스 정도)과 Docker 기초 지식, 그리고 Github 기본 활용 경험이 필요합니다.다만 본 강의는 엔지니어링 영역을 다루기 때문에 머신러닝에 대한 기본 이해가 없어도 괜찮습니다.

수강대상

이런 분들은 꼭 들으셔야 해요!

머신러닝 엔지니어로의 직무 전환을 준비중이신 분

현업에서 머신러닝 엔지니어와의 협업에 어려움을 느끼시는 분

머신러닝 모델 개발 경험은 있지만 실제 서비스에 배포하기 위한 엔지니어링 과정이 궁금하신 분

강사소개

우리 강사님을 소개할게요!

이인우

이력사항

(전) 티빙, Data Engineer & ML Engineer
(전) 데이터 솔루션 기업, CTO
(전) 크몽, Data Engineer

프로젝트

대규모 트래픽 서비스 내 딥러닝 기반 추천 모델 6종 배포 및 MLOps 도입
공공기관 내 딥러닝 기반 예측 모델 1종 개발 및 배포
AWS Industry Week 2022, MLOps 세션 발표 - TIVING의 Data Analytics부터 개인화 추천까지
기상청, 딥러닝 기초 특강
코멘토, Data Engineering 멘토링

1. 자기소개 부탁드립니다.

안녕하세요, MLOps 엔지니어링 강의를 하게 된 이인우입니다. 저는 수년간 데이터 엔지니어 및 ML 엔지니어 직무를 통해 MLOps 엔지니어링의 실무 능력과 노하우를 터득했습니다. 머신러닝 프로젝트의 가장 중요한 엔지니어링 영역에 대해 궁금하거나, 머신러닝 모델을 프로덕션에 안정적으로 배포하고 싶은 분들께 제 경험과 노하우를 기반으로 현업에서 활용하실 수 있는 수준까지 도와드리겠습니다.

2. 강의에서는 주로 어떤 내용을 다룰 예정이시고, 어떤 형태로 진행되나요?

MLOps는 방대한 지식과 영역을 다루는 분야입니다. 따라서 MLOps 엔지니어링에는 다양한 영역에서 많은 실무자를 필요로 합니다. 하지만 대부분의 기업에서 프로젝트에 많은 인원을 투입하기가 쉽지 않습니다. 그래서 본 강의에서는 클라우드(AWS) 환경의 관리형(Managed) 서비스들을 적극 활용하여 혼자서도 MLOps 엔지니어링 전체 과정을 수행할 수 있도록 구성하였습니다. 첫 주차에는 머신러닝 프로젝트의 특성을 이해하는 데에 집중하고, 다음 주차부터는 주차 별로 AWS에서의 MLOps 엔지니어링 실습 과정들로 구성되어 있습니다. 단순히 따라 하는 기초적인 실습 과정이 아니라 서비스의 특성을 충분히 이해하고 활용할 수 있도록 구성하였습니다.

3. 본 수업이 필요한 이유는 무엇인가요?

머신러닝 모델을 프로덕션에 배포하고 운영하기 위해서는 방대한 지식을 알아야하고 수많은 시행착오를 거쳐야 합니다. 스스로 학습하기에는 학습할 지식이 너무 많고 파편화 되어 있어 어디서부터 무엇을 해야 할지 로드맵을 그려나가기가 매우 어렵습니다. 본 강의를 통해 현업에서 필요한 핵심 개념들을 압축해서 정리해드리고 시행착오를 줄일 수 있는 노하우들을 전달드리고자 합니다.

4. 본 강의에서 배운 내용을 수강생 분들이 어떻게 활용할 수 있을까요?

본 강의에서 머신러닝 모델 배포의 모든 디자인 패턴을 다루지는 않기 때문에 현업의 사례와 다를 수 있습니다. 하지만 강의에서는 탄탄한 기본 개념와 원리를 알려드리기 때문에 이를 기반으로 현업의 다른 사례들도 쉽게 풀어나가실 수 있을 거라 확신합니다. 또 MLOps 엔지니어링은 DevOps 엔지니어링을 포함하고 있기 때문에 머신러닝 시스템이 아닌 다른 소프트웨어의 엔지니어링에도 학습한 내용을 활용하실 수 있습니다.

5. 마지막으로 수강생들에게 하고 싶으신 말이 있다면?

MLOps의 영역이 워낙 방대하여 제한된 시간 안에 핵심적인 내용들을 강의로 구성하는 것이 쉽지 않았습니다. 또 전달드리고 싶은 내용이 너무 많아 강의에 모든 내용을 담지는 못했지만, 수강생분들께서 최대한 유익한 내용들을 얻어가실 수 있도록 핵심 내용들과 실무 노하우 등을 압축하여 담았습니다. 강의가 끝나는 시점에는 MLOps를 이해하고 설계 및 구현 능력까지 갖출 수 있으실 거라 자신합니다.

커리큘럼 (6)

1주차. 머신러닝 프로젝트와 MLOps의 이해
강의목표
머신러닝 프로젝트의 특징과 문제를 알아보고, MLOps의 필요성에 대해 이해합니다.
이론
머신러닝의 기본 용어 및 개념
머신러닝 모델의 개발 과정
머신러닝의 직군
머신러닝 개발의 다양한 문제
머신러닝의 인프라 요소
머신러닝의 배포 요소
MLOps의 필요성
실습
머신러닝 샘플 프로젝트 구축
2주차. 머신러닝 모델 프로젝트 구축하기 with Amazon SageMaker
강의목표
Amazon SageMaker를 활용한 머신러닝 모델 프로젝트를 구축하고 활용법을 실습합니다.
이론
Amazon SageMaker 개요
Amazon SageMaker의 세부 기능 및 장단점
Amazon SageMaker의 세부 기능별 동작 원리
실습
Amazon SageMaker Studio 기반 작업 환경 생성
Amazon SageMaker Processing 실습하기
Amazon SageMaker Training Job 실습하기
Amazon SageMaker Experiments & report 실습하기
3주차. 서빙 인프라 구축하기-코드 저장소 및 CI/CD 파이프라인 구축
강의목표
머신러닝 프로젝트의 형상관리를 위한 코드 저장소 및 CI/CD 파이프라인을 구축합니다.
이론
AWS CodeBuild 개요 및 기능 살펴보기
AWS CodePipeline 개요 및 기능 살펴보기
AWS CodeDeploy 개요 및 기능 살펴보기
실습
AWS CodeBuild, CodePipeline, CodeDeploy 등의 개발자 도구를 활용하여 CI/CD 실습하기
4주차. 서빙 인프라 구축하기-데이터베이스(DynamoDB) 및 API 서버(Lambda) 설계 및 구축
강의목표
모델의 추론 결과 서빙을 위한 스토리지 및 API 서버를 구축합니다.
이론
Amazon DynamoDB 개요
Amazon DynamoDB 특징 및 세부 기능
Amazon DynamoDB 키 디자인
AWS Lambda 개요
AWS Lambda 동작 원리
AWS Lambda 특징 및 세부 기능
실습
DynamoDB 테이블 생성하기
DynamoDB 데이터 질의하기
DynamoDB 성능 측정하기
AWS Lambda 생성하기
5주차. 서빙 인프라 구축하기-API Gateway 및 워크플로우(Airflow) 설계 및 구축
강의목표
모델의 추론 결과 서빙을 위한 API Gateway 및 워크플로우를 구축한다.
이론
API Gateway 개요
API Gateway의 세부 기능
머신러닝 워크플로우 툴 비교 및 Airflow 개요
Airflow 동작원리 및 세부 기능
실습
API Gateway 생성하기
API 리소스 및 메서드 생성 및 설정하기
API 키 생성하기
API 배포하기
API 스테이지 설정하기(캐싱, 환경변수 등)
MWAA(Amazon Managed Workflow for Apache Airflow) 생성하기
워크플로우 DAG 작성 및 수행하기
6주차. 서빙 인프라 구축하기-로깅 및 모니터링 대시보드 설계 및 구축 / 모델 서비스 및 운영
강의목표
로깅 및 모니터링 대시보드를 통해 모델과 데이터의 품질을 관리하는 방법을 실습합니다.
모델의 추론 결과를 배포하고 운영하는 과정을 실습합니다.
이론
머신러닝 시스템에서 관찰해야 하는 로깅 및 모니터링 지표 살펴보기
Amazon CloudWatch 개요 및 기능 살펴보기
모델 서비스 및 운영 방법에 대해 살펴보기
실습
Amazon CloudWatch Logs를 활용하여 지표 생성하기
Amazon CloudWatch Logs Insights를 활용하여 로그 분석하기
Amazon CloudWatch Dashboards를 활용하여 대시보드 생성하기
모델 코드 변경하고 배포하기
변경 된 모델 서비스에 적용하기