커머스 플랫폼 지표를 개선하는 대화형 AI : 프롬프트 엔지니어링, 커스텀 LLM

안녕하세요 박정훈, 이진원입니다. 성균관대학교와 KAIST 출신으로 현재 주식회사 와들에서 Tech Lead와 LLM Lead로 활동하고 있습니다. 시각장애인을 위한 배리어프리 음성 쇼핑 플랫폼 소리마켓, 대화형 쇼핑 플랫폼 '아씨오'를 시작으로, LLM과 커머스 플랫폼을 연결하는 다양한 개발 작업을 진행해 왔습니다. 와들이 ChatGPT 출시 2년 전부터 대화형 인터페이스 연구개발을 해 온 만큼, 자연어처리 및 언어모델을 활용하여 데이터를 깊게 다루는 일은 경력 초기부터 지금까지 몰입한 분야입니다.

이러한 과정에서 실제 프로덕트를 개발하며 prompt engineering의 노하우를 직접 체험하고 쌓아나갔습니다. 이 과정에서 다양한 시행착오와 크고 작은 성공/실패의 경험도 있었습니다. LLM을 실제 사용자들에게 도움이 되는 서비스로 제공하기 위한 여러 시도를 해 오며, 그 과정에서 전문성을 키워나갔습니다.
이렇게 기술과 사회를 직접 연결하는 다양한 프로젝트에 관심을 가지고 있습니다.

커머스와 플랫폼에서 LLM이 활용되는 사례를 기반으로, 어떤 기술적 요소들이 적용되었을 때 플랫폼의 성장에 기여할 수 있는지를 가장 먼저 이야기합니다. 이론과 실습을 통해 자기 서비스에 활용할 수 있는 최적의 LLM 모델과 요소 기술을 학습하고, 장단점을 파악해 직접 적용하는 방법까지 실습합니다.

강의와 실습 모두 실제 사례 및 실제 환경의 데이터(더미 데이터)를 기반으로 하는 만큼, 이론으로 배운 내용을 바로 구현하여 확인하는 방식으로 진행될 것입니다.

이론과 실습을 통해 배운 요소 기술들을 활용하여 실제 자신의 서비스와 데이터를 활용한 적용이 가능합니다. 또한 LLM 분야는 지속적으로 새로운 기술이 등장하는데, 이들을 받아들이고 활용할 수 있는 힘을 기를 수 있습니다.

서비스/플랫폼마다 특성과 데이터 구성이 매우 상이하기 때문에 각자의 데이터를 활용해 실습 시간에 100% 적용하기는 어렵습니다. 가장 최적의 AI 적용 방법에 대한 간단한 컨설팅까지 제공합니다.

LLM과 관련한 많은 강의들이 있고, 상황에 따라 다양한 선택지가 있을 것입니다. 대부분의 강의는 LLM의 구조 및 근본적인 인공지능에 대한 이해, Fine-tuning, AutoGPT 등 LLM과 관련하여 새로 등장하는 유망한 기술들을 폭넓게 구현해 보는 것에 초점을 맞추거나 실제로 가볍게 구현할 수 있는 LLM 연관 프로덕트를 만들어 보는 방향으로 구성되어 있습니다.

본 강의는 이에 비해 커머스/플랫폼 분야에 초점을 맞춘, 좀 더 실질적인 차원의 강의입니다. 깊고 최신의 기술적인 내용을 전부 커버한다기보다는, 실제 활용할 수 있는 기술에 대해 배우고, 다양한 시행착오를 통해 발견한 최선의 방법론(Best Practice)을 나눕니다.

ChatGPT의 등장으로 많은 것이 자동화되고 편리해질 것이라는 기대감은 굉장히 높습니다. 그렇지만 때로는 기술 발전과 내 서비스에 이를 적용하는 것은 서로 다른 문제로 느껴지고, 뒤처질 수 있다는 불안감이 될 수도 있습니다. 그렇지만 뜯어 보면, 막연히 두려워할 정도로 까다롭지는 않습니다. 전체 프로세스를 나누어 이해하고, 한 단계씩 차근차근 따라가다 보면 단순히 LLM의 적용만을 넘어서, 자신만의 방식으로 새로운 기술을 받아들이고 응용하는 능력까지도 키울 수 있다고 확신합니다.

이 산업은 매일매일 변화하고 발전하고 있습니다. 그래서 단순한 기술 스킬만큼이나, 이 기술의 근본 구조와 원리를 깊게 이해하고, 어떤 새로운 기술이 출현하더라도 적절히 활용할 수 있는 능력이 중요합니다. 이 기술들을 깊게 이해하고, 더 나아가 이를 활용해 보실 수 있습니다.