Question 1
어떤 개발자가 들어야 하나요?
머신러닝, 딥러닝 사전지식이 필요한가요?
초격차 패키지: 프롬프트 엔지니어링으로 시작하는 AI/LLM 서비스 개발: 9개 프로젝트로 챗봇부터 AI 에이전트까지
Online
프롬프트 엔지니어링으로
시작하는 AI/LLM 서비스 개발
9개 프로젝트로 챗봇부터 AI 에이전트까지
-
01 LLM 기반의 9개 AI 서비스 개발
야*자, 카*오, 배달의 민* 등 실서비스의 AI 기능을 따라 구현하며 챗봇 그 이상의 AI 서비스 개발
-
02 프롬프트엔지니어링과 RAG 방식
AI 서비스 개발 프로세스에 따라 프롬프트 개발 라이프사이클을 익히고 대세 RAG 까지 적용
-
03 MS, 카카오 GenAI 파트 리드 강사님
Microsoft AI Specialist, 카카오 GenAI Part Lead 등 AI 서비스 개발 경험이 풍부한 강사진
(자동)
코스 프로모션 배너 전용입니다.
0일
0시간
0분
0초
코스 프로모션 배너 전용입니다.
실제 AI 기능을 도입한 대부분의 회사가
GPT 모델 + 프롬프트 엔지니어링 방식으로
다양한 LLM 서비스를 개발했습니다.
더 이상 머신러닝 엔지니어나 데이터 사이언티스트가 막대한 시간과 비용을 들여
모델을 개발하고 파인튜닝하는 과정을 거치지 않아도 됩니다.
딥러닝 지식 없이,
ChatGPT + Prompt Engineering 만으로도 LLM 기반 서비스 완성!
9가지 포인트를 소개합니다!
| SPECIAL POINT |
초격차 구성 1
챗봇 ∙ 생성 ∙ 요약 ∙ 추천 등
9개 프로젝트로 끝내는 LLM 기반 서비스 & 기능 개발
타사 토이 프로젝트 수준의 API [실습] 이 아닌,
카*오 ∙ 야*자 ∙ 쏘* ∙ 배* 등 실제 기업이 개발한 기능을 구현하는 실무 초밀착 [프로젝트] 입니다!
0총 9개의 단계별 프로젝트 구성
강의만 잘 따라오면 실무에 바로 써먹는 AI 서비스 개발 역량을 쌓을 수 있어요
초격차 구성 2
LLM 필수 지식, 프롬프트 엔지니어링 & RAG
두 가지 핵심 기술을 한 번에!
더 이상 비용과 시간이 많이 드는 LLM 모델 개발할 필요 없는 이유?
OpenAI가 잘- 만든 GPT3.5, GPT4를 사용해 프롬프트 엔지니어링만 잘 하면 되기 때문!
여기서 한 단계 더? 최근 주목받는 RAG까지 활용하면 더욱 완성도 높일 수 있어요!
*할루시네이션: AI 모델이 정확하지 않거나 사실이 아닌 정보를 생성하는 것.
기존 개발 방식인 [ Fine-tuning, Pre-Training] 방식과 비교한 장단점이 궁금하다면? 자세히보기
파인튜닝은 모델을 학습하는 과정이 필요합니다. 모델을 학습하기 위해서는 데이터셋이 필요합니다.
데이터셋을 구축하는 것은 제일 중요하고 힘든 일이며, 모델을 학습하는데는 시간과 GPU 비용이 들어갑니다.
반면, 프롬프트 엔지니어링은 모델을 학습하는 것이 아니기 때문에 데이터셋이 필요없고 모델을 학습할 GPU도 필요없습니다.
그렇다면 파인튜닝을 왜 하냐고 생각할 수 있을텐데 프롬프트 엔지니어링만으로 해결되지 않는 태스크가 존재합니다.
원하는 성능이 나오지 않을수도 있고 도메인이 워낙 특이해 LLM이 동작하지 않을 수 있습니다. 이럴때 파인튜닝을 하게됩니다.
입문자부터 현업의 AI/ML 엔지니어까지
누구나 만족할 수 있는 실무 중심의 이론 & 프로젝트로 진행됩니다!
초격차 구성 3
프롬프트 라이프 사이클부터 기존 서비스와 연동까지!
실무 AI 서비스 개발 프로세스 그대로
기존 서비스 개발 프로세스 vs. AI 서비스 개발의 프로세스는 완전히 달라요!
심지어 개발한 AI 기능을 기존 서비스에 연동할 수 있도록 API 화하여 실무 유사도를 높였습니다.
AI 서비스 개발 프로세스
| ML/DL 엔지니어 없이, 실무에서 AI 서비스 개발하는 방법?
모델 선정부터 데이터 전/후처리, RAG 파이프라인 구축, API 화까지! 실제 AI 서비스 개발 프로세스를 그대로 밟습니다.
· 가장 첫 번째 프로젝트로는, AI 서비스 개발을 위한 프롬프트 라이프 사이클를 학습할 수 있는 프로젝트를 진행합니다.
· OpenAI도 LLM 개발을 요약으로 시작했던 것처럼 가장 난이도 낮은 테스크를 통해 AI 서비스 개발의 기초를 탄탄하게 학습합니다.
· 다음으로 동시에 다양한 자연어처리 태스크를 처리하는 프롬프트를 개발합니다.
· 3가지 태스크를 각자 수행해도 되지만, 프롬프트를 개선하여 3가지 태스크를 통합하여 한번에 응답을 받는 프롬프트로 개선하고 API화 합니다.
· 이 때 프롬프트 난이도에 따라 모델이 수행하지 못하는 부분들이 있어 응답을 파싱하며 생기는 문제점을 해결해봅니다.
Special Point
백엔드 개발자를 위해 준비한 실무 초밀착 포인트
기존 서비스 연동을 위한 JSON 값 생성법까지!
한석현 강사님
현대 웹 애플리케이션은 다 API 기반으로 동작합니다. 이에 개발한 AI 기능을 API화 하고 JSON 형식으로 호출 및 파싱하여
기존 서비스에 쉽게 연동할 수 있는 방법과 노하우를 알려드리겠습니다. 특히, 해당 부분은 제가 실무에서 어려움을 겪은 포인트로
직접 겪었던 시행착오 과정을 담아 각각의 방법을 비교하고 작성시 유의사항까지 알려드리겠습니다.
초격차 구성 4
비용, 속도, 보안까지 고려한
프로덕션 레벨의 완성도 높은 AI 서비스
AI 서비스 개발 시 모든 기업이 고민하는 대표적인 문제와 현실적인 이슈들을 고려하여
‘실제 서비스 가능’한 수준의 AI 서비스를 처음부터 끝까지 개발합니다.
★ 대화형(실시간) 추천을 프로덕션 레벨로 구현할 때 고려해야할 3가지 포인트 ★
-
POINT 1
비용절감을 위한
실질적인 해결방안
LLM 호출 수를 줄이기 위한 캐싱, 호출 제한,
월 별 비용 제한, GPT 버전별 비용 비교 등
실무를 고려한 다양한 비용 절감 방법을 설명하고, 프로덕션 레벨에서 비용효율적으로 AI 서비스를
운영할 수 있는 노하우를 전수합니다. -
POINT 2
상용 LLM 모델별 특징 비교부터
전략적인 모델 선정 가이드까지
GPT 3 vs. GPT 3.5 Turbo vs. GPT 4 그리고 Claude 3 등 선택 가능한 상용 LLM 모델을 비교하고 개발하려는 서비스/기능의 특성을 고려해 전략적으로 LLM모델을 선정할 수 있도록 가이드를 드립니다. -
POINT 3
실제 서비스를 개선하여
대화형 추천 구조로 응용
이미 만들어진 서비스에 대해 수정 작업을 진행해보고, 아직 시중에 없는 대화형 추천 구조를 ChatGPT 응용을 통해 직접 구축해봄으로써 AI 서비스 개발 응용 역량을 키우고, 자신감을 가질 수 있는 강의의 가장 큰 차별점입니다.
정민수 강사님
LLM 기반 서비스 개발에서 가장 힘든 점은 고품질의 데이터셋을 확보하고 처리하는 것입니다.
특히, 특정 도메인 지식이 포함된 데이터를 처리할 때는 전문가가 개입해야하므로 시간과 비용이 많이 들 수 있습니다.
따라서 본 강의에서는 보안상 외부 API를 연동하기 어려운 금융 도메인의 특성을 살려 사전학습된 sLLM을 다운받아,
실시간 온프레미스 환경에서 RAG를 구축합니다. 이로써 금융 특화된 LLM 서비스를 개발하실 수 있습니다 :)
· 엔티티 중심의 감성 분석 구현
- 분류 기반의 개체명 인식(spaCy) vs 생성 기반의
개체명 인식 (LLM)
- 분류 기반의 감성 분석 {긍정/부정/중립} VS
생성 기반의 감성 분석 {“긍정” : 0.8, “부정” : 0.2}
· Aspect-based Sentiment Analysis 파이프라인 구현
- 문장 전체의 감성이 아닌, 특정 대상 입장에서의
감성 추출하기
· 실시간 뉴스 데이터 수집
- 오픈 소스 API 활용 (GDELT)
· 뉴스와 기업 공시 자료에서 이벤트 추출 후 분석
- 정형 분석, 요약, 호재/악재 리즈닝 스텝을 프롬프트 엔지니어링으로 구현
- 뉴스 & 공시 카테고리 분류 프롬프트 엔지니어링
- 이벤트 추출 프롬프트 엔지니어링
· MongoDB에 분석 결과 적재
· Embedding 구현
- API 기반 문서 임베딩 vs 온프레미스 기반 문서 임베딩
· PyPDF 기반 텍스트 파싱
· 검색 파이프라인 구현
- Langchain Spiltter로 문서 쪼개기
- Langchain Retriever 검색 구현
- BM25 결합하여 하이브리드 서치 구현
· 온프레미스 RAG 아키텍처 구현
- SBERT 모델 선정, 임베딩 로직 구현
- sLLM 을 활용한 문장 생성, RAG 아키텍처 구현
초격차 구성 5
똑똑한 AI Agent 개발하는 방법?
Function Calling 을 활용한 외부 API 연동
단순 답변만 내놓는 챗봇이 아닌, 다음 액션을 제안하고 수행하는 진.짜. AI 서비스!
실무에서 가장 활용도가 높은 Agent 기반의 AI 서비스까지 개발해봅니다.
-
STEP 1. 일정 관리 기능
| 구현 기능
일정 관리 기능 with Slack, Google Calendar
| 연동 API
GPT API, Google Calendar API, Slack
| Point
GPT Function Calling 기능으로 채팅으로 간편하게 일정을 추가, 삭제, 수정할 수 있는 슬랙봇 구현 -
STEP 2. 일정 알림 기능
| 구현 기능
일정 알림 발송 기능 with Slack, Gmail
| 연동 API
Gmail API, Google Calendar API, Slack
| Point
지시하지 않아도 알아서 슬랙과 메일로 알림을 발송해주는 나만의 일정 알림 에이전트 구현
-
Step 1. 배송, 상품, 조회 API 개발
| 구현 기능
GPT Function Calling으로 연동할 데모 API 제작
| 기술 스택
Python, Fast API
| Point
배송, 상품, 주문조회 등 이커머스 대표적인 기능들의 API 제작 -
Step 2. 쇼핑 에이전트 구현
| 구현 기능
채팅으로 원하는 액션까지 이어지도록 Agent 개발
| 연동 API
데모 API - 배송조회, 상품조회, 주문조회
| Point
GPT Function Calling 기능으로 앞서 만든 API를 연동하여 Plan과 Action까지 이어지는 Agent 구현
초격차 구성 6
LLM 최대 단점, Hallucination
RAG를 활용한 정확하고 최신의 답변 생성하기
빅테크 기업들이 할루시네이션 해결에 필수로 사용하고 있는 기술, RAG!
RAG 아키텍처를 구축하여 LLM이 학습하지 않은 데이터에도 정확한 답변을 생성할 수 있도록 합니다.
-
Vector Embedding
벡터 임베딩이란 자연어를 숫자 형태로 나타내는 벡터 변환 과정입니다. 이 과정을 통해 자연어로 된 데이터끼리의 연관성을 계산할 수 있습니다. -
Vector DB
벡터DB는 다양한 형태의 정보를 분석하고 검색할 수 있도록 만들어진 DB입니다. 벡터화된 데이터를 처리하는데 최적화되어 있어 신속한 검색 작업이 가능합니다. -
Vector Search
벡터 검색을 통해 질문과 연관된 데이터를 가져와, 정확한 답변을 생성합니다. 벡터 간의 유사도를 기반으로 연관된 데이터를 검색할 수 있습니다.
-
Step 1. 회사 내규 데이터 학습
| 실습 내용
-Priviate 데이터 확보 : 회사 내규 데이터 생성 with GPT-4
데이터 전처리: 텍스트 청크화
벡터 임베딩 : OpenAI 임베딩 API 호출 후 임베딩 생성 -
Step 2. 회사 내규 데이터 검색 후 응답 생성
| 실습 내용
벡터 임베딩 : OpenAI 임베딩 모델과 Pytorch로 임베딩
벡터 검색 : 유사도 기반, 회사 내규 데이터 검색
Q&A 답변 생성 : 검색된 회사 내규 기반으로 응답 생성
-
Step 1. FAQ 생성 및 VectorDB 저장
| 실습 내용
데이터 확보 : 더미 상품 데이터 생성
FAQ 생성 : GPT API 호출 후 FAQ 아웃풋 파싱
벡터DB 구축 : 생성된 FAQ를 벡터 DB에 적재 -
Step 2. 고객 Q&A 생성
| 실습 내용
벡터 임베딩 : OpenAI 임베딩 API 호출 후 임베딩 생성
벡터 검색 : 벡터DB에서 유사도 기반 FAQ 검색
Q&A 답변 생성 : 검색된 FAQ 기반으로 응답 생성
내부 데이터부터 실시간 데이터까지
다양한 데이터를 활용한 RAG 파이프라인을 구축해 ‘근거 있는 생성’
김민석 강사님
RAG는 비용 측면으로도 큰 이점이 있습니다. 답변 정확도를 위해 언어 모델을 직접 처음부터 개발한다고하면
GPU 구매 및 운영 비용 등으로 초기 비용이 매우 큰 편입니다. 파인튜닝 비용도 그만큼은 아니지만 리소스가 많이 듭니다.
반면 RAG 기술을 적용하면, 외부 소스를 적절히 줘서 목적에 맞는 LLM 서비스를 만들 수 있습니다.
기업이나 개인의 내부 데이터를 학습 시키는 등 현실적으로 니즈가 많은 부분도 충족이 되구요.
초격차 구성 7
AI 서비스 완성도를 높이는 한 끗!
안정성을 위한 가드레일 & 자연스러운 페르소나 설정
어떤 질문을 할지 모르는 유저들에게 안전하지 않은 답변을 내놓지 않도록!
또한 기업의 브랜드와 꼭 맞는 페르소나를 가진 AI로 자연스러운 AI 경험을 제공합니다.
가드레일이란?
윤리적 가이드라인 준수, 데이터 보호 등 필수적으로 가드레일을 설정해야 합니다.
위 세가지 프로젝트에서 다양한 방식으로 가드레일을 설정하여 안전하게 AI 서비스를 운영하는 방법을 학습합니다.
초격차 구성 8
베스트셀러 저자가 떠다먹여주는 LLM 개론 강의
& 입문자를 위한 파이썬 문법
LLM 대체 어디서부터 시작해야할지 모를때?
바로 여기서부터! 시작하시면 됩니다!
초격차 구성 9
Microsoft, 카카오, 11번가 등
실무에서 AI 서비스 개발한 4명의 강사님
AI 서비스 개발 쉽게 할 수 있는 이 시기. 누구나 자체 AI 프로젝트 경험은 있지만,
MS, 카카오, 11번가, 신한은행 등 국내 탑급 대기업에서 실전 개발 경험을 가진 강사님들이 하는 강의는 다릅니다.
김민석 강사님
카카오 GenAI 파트 Lead, 사내 RAG 강의 경험
| 담당파트
프롬프트 엔지니어링, RAG, 야놀자 리뷰 요약, 카카오 대화 요약, 배민 대화형 추천, 사내 업무 에이전트
| 이력
현) 카카오 GenAI 파트 Lead - Gen AI 서비스 도입, 사내 RAG 강의 경험
전) 카카오 선물하기 AI 추천 Tech Lead -신규 AI 기능 도입, 딥러닝 활용 추천 시스템 연구 및 개발
| 담당파트
프롬프트 엔지니어링, RAG, 야놀자 리뷰 요약, 카카오 대화 요약, 배민 대화형 추천, 사내 업무 에이전트
| 이력
현) 카카오 GenAI 파트 Lead - Gen AI 서비스 도입, 사내 RAG 강의 경험
전) 카카오 선물하기 AI 추천 Tech Lead -신규 AI 기능 도입, 딥러닝 활용 추천 시스템 연구 및 개발
안녕하세요. 김민석 입니다. 현재 카카오에서 생성형 AI 파트 리드로 근무 중입니다. 서비스 요구사항에 맞춰 생성형 AI 기술을 개발하고 적용하는 업무를 하고 있으며 주요 업무는 파인튜닝을 포함한 언어 모델 학습과 외부 API 활용하고 있습니다. 그 전에는 카카오톡 선물하기 AI추천 리딩을 하여 AI선물 탐험 같은 신규 기능을 개발했고, 그 외에도 딥러닝을 활용한 추천 연구/개발 업무를 리딩했습니다. 카카오 합류 전에는 블록체인, 금융 등 다양한 분야에서 인턴을 해보고, IT 스타트업도 운영해 본 경험이 있습니다. 이번 강의는 ChatGPT API를 활용한 기본 개념들과 현재 실서비스 중인 AI 서비스들을 그대로 구현해보는 실습들로 구성되어 있습니다. 단순하게 이론을 알려드리고 실습을 진행하기 보다는, AI 서비스 제작에 필요한 틀을 갖추어 꼭 강의 실습 주제가 아니더라도 어떠한 주제든 직접 end-to-end 제작을 해보실 수 있도록 구성하였습니다. 이번 강의를 들으면 AI 서비스를 직접 제작하실 수 있습니다. 학생들의 경우 개인 프로젝트를 end-to-end로 제작이 가능하고, 현직자분들은 회사에서 사용 가능한 데모 제작 그리고 실서비스 검토까지 진행하실 수 있습니다.
서지영 강사님
Microsoft AI Specialist, LLM 베스트셀러 집필 및 기업 대상 세미나 다수 진행
| 담당파트
LLM 개론, RAG 이론
| 이력
현) Microsoft Data&AI Specialist
전) 한국은행 Data
| 강연 및 세미나
KB 국민은행, 포스코 등 다수 기업에서 LLM 관련 세미나 진행
| 저서
- 랭체인으로 LLM 기반 서비스 개발
- ChatGPT 거부할 수 없는 미래
- 쉽게 시작하는 쿠버네티스
- 딥러닝 텐서플로 교과서
- 난생처음 인공지능 입문
| 담당파트
LLM 개론, RAG 이론
| 이력
현) Microsoft Data&AI Specialist
전) 한국은행 Data
| 강연 및 세미나
KB 국민은행, 포스코 등 다수 기업에서 LLM 관련 세미나 진행
| 저서
- 랭체인으로 LLM 기반 서비스 개발
- ChatGPT 거부할 수 없는 미래
- 쉽게 시작하는 쿠버네티스
- 딥러닝 텐서플로 교과서
- 난생처음 인공지능 입문
안녕하세요. 서지영입니다. 마이크로소프트에서 매니저로 근무하고 있으며 다수 기업에서 LLM 관련 세미나를 진행하고 있습니다. 저는 IT분야에서 20년 넘게 일해왔고, 주로 DBA (데이터베이스 관리자) 역할을 했습니다. 반복적인 업무로 인해 나태해진다고 생각하여 대학원에 진학하여 AI를 공부했습니다. 이를 계기로 HPE, Microsoft에서 빅데이터 분석 및 AI 관련 일을 할 수 있게 되었습니다. LLM을 알고자 하지만, 어디서부터 시작해야 좋을지 모를때 이 강의를 들으면 좋습니다. 개념적인 부분부터 실습까지 쉬우면서도 전반적인 내용을 다루기 때문입니다. LLM에 대한 개념, OpenAI API 등 주로 개념적인 내용에 대해 전달드려야하는데, 개념적인 부분이라 이해가 어려울 수 있을것이라 예상됩니다. 그래서 많은 부분에 대해 파이썬 코드를 보여드리면서 개념들이 실제로 어떻게 활용되는지 전달드리려고 노력했습니다. 또한 실제로 많은 고객사와 기술 관련 업무를 진행하고 있기에 실무에서 어떻게 사용하고 있는지 전달드릴 수 있을것 같습니다.
한석현 강사님
11번가 LLM 기반 CS 자동화 기능 도입
| 담당파트
네이버 리뷰 분석, AI 고객센터, 나만의 쇼핑 헬퍼
| 이력
현) 11번가 AI TF 프롬프트 엔지니어 Lead - ChtGPT 기반 상담효율 개선, 리뷰, Q&A 분석, AI MD 개발
| 기타
컨퍼런스 발표 (생성형 AI, 이커머스에서의 활용 방안)
| 담당파트
네이버 리뷰 분석, AI 고객센터, 나만의 쇼핑 헬퍼
| 이력
현) 11번가 AI TF 프롬프트 엔지니어 Lead - ChtGPT 기반 상담효율 개선, 리뷰, Q&A 분석, AI MD 개발
| 기타
컨퍼런스 발표 (생성형 AI, 이커머스에서의 활용 방안)
안녕하세요. 한석현입니다. 현재 11번가에서 생성형AI를 활용한 다양한 서비스 및 기능을 개발하고 있습니다. 이번 강의에서는 실질적으로 어떠한 태스크가 가능하고 어떻게 개발할 수 있는지 공유하려합니다. 또한 꼭 딥러닝 개발자가 아니라 백엔드 개발자 등 AI에 대한 지식이 없어도 개발할 수 있도록 강의하려합니다. LLM 자체에 대한 깊은 이해, 모델 구조, 학습 방법 등에 대한 내용보다는 이미 존재하는 LLM을 사용하여 AI 서비스를 개발하는 방법에 대해 다룹니다. 강의 이후 실제 생성형 AI 기반 서비스를 개발하게 된다면 사용하는 데이터와 프롬프트만 바꾸시면 됩니다.
정민수 강사님
前 신한AI, 금융 생성형 AI 서비스 개발
| 담당파트
실시간 뉴스 정리봇, 투자 어시스턴트
| 이력
전) 신한은행 NLP 개발
전) 크래프트테크놀로지스 NLP Researcher
| 기타
자연어 처리 멘토링 활동, AI 강의 제작
| 담당파트
실시간 뉴스 정리봇, 투자 어시스턴트
| 이력
전) 신한은행 NLP 개발
전) 크래프트테크놀로지스 NLP Researcher
| 기타
자연어 처리 멘토링 활동, AI 강의 제작
안녕하세요. 정민수 입니다. 금융 NLP 개발자 정민수입니다. AI 투자 스타트업과 시중 은행에서 경험을 쌓은 후 금융 자연어처리 개발자로서 커리어를 발전시켜왔습니다. 이번 강의는 LLM에 간단한 프롬프트 엔지니어링만으로 원하는 결과를 얻고, 이 과정을 실시간성 서비스로 만들 수 있는 것을 목표로 합니다. 무조건적인 ChatGPT 적용이 아닌, 기존 언어 모델과의 비교를 통해, LLM과 기존 언어 모델의 차이를 확인하여 LLM에 특화된 서비스 개발에 중점을 두고 있습니다. 실제 프로젝트 수행 과정을 기반으로 서비스 기획과 데이터 처리 과정을 포함하여 서비스 기획자와 개발자 모두에게 도움되는 관점으로 강의를 구성하였습니다. LLM이 실제 서비스에서 어떻게 사용되는지, 혹은 LLM으로 당장 어떤 서비스를 만들 수 있을지 궁금할 때에 들으시면 좋겠습니다.
Q&A
프로젝트 진행 중 질문이 생긴다면?
언제든지 질문 가능한 질의응답 게시판에서 해결!
온라인 강의는 강사님과 소통하기 어렵다?
패스트캠퍼스 질의응답 게시판에서 강사님, 그리고 다른 수강생들과 함께 문제 해결!
빠르게 답변을 받을 수 있도록 AI 캐미가 먼저 답변을 작성해드려요
*본 강의는 파트별로 강사님의 질의응답 게시판 참여 여부가 다릅니다.
질의응답 게시판 운영기간 - 24. 5. 13 ~ 26. 4. 14
추천대상
LLM 기반 AI 서비스를 개발하고 싶은 모든 개발자 & AI 엔지니어
프로덕션 레벨의 AI 서비스 개발 실무 프로세스가 궁금한 모든 개발자 & AI 엔지니어
단순한 챗봇을 넘어 스스로 생각하고 행동하는 제대로 된 AI 서비스를 개발하고 싶은 모든 개발자 & AI 엔지니어
보안, 비용, 속도 등 여러가지 이슈에 대한 해결책이 궁금한 분
LLM 필수지식인 프롬프트 엔지니어링과 RAG를 이론부터 실습까지 차근차근 배우고 싶은 분
수강생 여러분들을 대신해
실무에서 AI 서비스를 개발한 4명의 강사님께 질문드렸습니다.
본 강의는 머신러닝 지식이나 AI 개발 경험이 필요한 강의가 아닙니다.
꼭 딥러닝 개발자가 아니라 AI에 대한 지식이 없어도 개발할 수 있도록 구성했습니다.
먼저 프롬프트 엔지니어링, RAG 파트를 통해 AI 서비스 개발의 핵심인 각 기법을 체감해보실 수 있으며,
프로젝트 파트는 어떠한 주제든 직접 end-to-end 제작을 해보실 수 있도록 구성했습니다.
즉, 본 강의는 LLM 자체에 대한 깊은 이해, 모델 구조, 학습 방법 등에 대한 내용보다는
이미 존재하는 LLM을 사용하여 AI 서비스를 개발하는 방법에 대해 다루는 강의입니다.
생성형 AI 기반 서비스를 쉽고 빠르게 도입하고 싶은 모든 개발자(백엔드/프론트엔드/모바일/데이터 등)
그리고 서비스 기획자나 창업자 분들에게도 도움이 되는 강의입니다 :)
*사전지식: API 활용 경험, Python 프로그래밍(부록 제공)
꼭 딥러닝 개발자가 아니라 AI에 대한 지식이 없어도 개발할 수 있도록 구성했습니다.
먼저 프롬프트 엔지니어링, RAG 파트를 통해 AI 서비스 개발의 핵심인 각 기법을 체감해보실 수 있으며,
프로젝트 파트는 어떠한 주제든 직접 end-to-end 제작을 해보실 수 있도록 구성했습니다.
즉, 본 강의는 LLM 자체에 대한 깊은 이해, 모델 구조, 학습 방법 등에 대한 내용보다는
이미 존재하는 LLM을 사용하여 AI 서비스를 개발하는 방법에 대해 다루는 강의입니다.
생성형 AI 기반 서비스를 쉽고 빠르게 도입하고 싶은 모든 개발자(백엔드/프론트엔드/모바일/데이터 등)
그리고 서비스 기획자나 창업자 분들에게도 도움이 되는 강의입니다 :)
*사전지식: API 활용 경험, Python 프로그래밍(부록 제공)
Question 2
기존의 [ LLM 모델 개발 + Fine-tunning ] 방식과 비교해
[ ChatGPT + Prompt Engineering ] 방식은
어떤 장/단점을 가지고 있나요?
실제로 업계에서 사용하나요?
기존의 [ LLM 모델 개발 + Fine-tunning ] 방식과 비교해
[ ChatGPT + Prompt Engineering ] 방식은
어떤 장/단점을 가지고 있나요?
실제로 업계에서 사용하나요?
둘의 차이는 언어 모델을 직접 개발해서 사용하냐 OpenAI 포함 외부 언어 모델을 활용하냐의 차이입니다.
GPT 활용한 프롬프트 엔지니어링의 장점은, 개발이 거의 필요 없을 정도로 간단하고 비용도 GPT 호출 비용 정도로 저렴합니다. 이에 파인튜닝 방식과 비교하여 개발 시간 및 비용이 절감되어 빠른 서비스 적용이 가능합니다.
단점은 트래픽이 많은 서비스의 경우 GPT 호출 비용 또한 비싸질 수 있고, API 호출을 위해 외부에 정보를 보내야 하는 리스크가 있어 일부 태스크에는 적용이 불가한 점이 있습니다. 또한 GPT + 프롬프트 엔지니어링만으로는 해결이 불가능한 문제도 있어 이러한 경우에는 GPT 파인튜닝을 하는 식의 성능을 더 끌어올릴 수 있는 추가적인 방법론이 필요 할 수 있습니다.
만약 언어 모델을 직접 처음부터 개발한다고 했을 때는 GPU 구매 및 운영 비용 등으로 초기 비용이 굉장히 큽니다. 라마2 7B 모델이 A100에서 18만 시간이 필요한데 AWS 가격 기준으로 대략 70억 정도 나옵니다. 언어 모델을 외부에 공개된 모델을 사용하더라도, 파인튜닝 비용도 그만큼은 아니지만 정도에 따라 큰 비용이 나가게 됩니다.
반면, 실질적으로 많은 회사가 딥러닝 모델을 학습하고 운영할 비용과 인력이 없습니다. 그렇기 때문에 ChatGPT + Prompt Engineering 을 통해 딥러닝 개발자 없이도 빠르게, 비즈니스적 가치를 가진 생성 AI 기반 서비스를 출시하는 것에 의의를 두는 것이 현재의 업계 상황입니다.
GPT 활용한 프롬프트 엔지니어링의 장점은, 개발이 거의 필요 없을 정도로 간단하고 비용도 GPT 호출 비용 정도로 저렴합니다. 이에 파인튜닝 방식과 비교하여 개발 시간 및 비용이 절감되어 빠른 서비스 적용이 가능합니다.
단점은 트래픽이 많은 서비스의 경우 GPT 호출 비용 또한 비싸질 수 있고, API 호출을 위해 외부에 정보를 보내야 하는 리스크가 있어 일부 태스크에는 적용이 불가한 점이 있습니다. 또한 GPT + 프롬프트 엔지니어링만으로는 해결이 불가능한 문제도 있어 이러한 경우에는 GPT 파인튜닝을 하는 식의 성능을 더 끌어올릴 수 있는 추가적인 방법론이 필요 할 수 있습니다.
만약 언어 모델을 직접 처음부터 개발한다고 했을 때는 GPU 구매 및 운영 비용 등으로 초기 비용이 굉장히 큽니다. 라마2 7B 모델이 A100에서 18만 시간이 필요한데 AWS 가격 기준으로 대략 70억 정도 나옵니다. 언어 모델을 외부에 공개된 모델을 사용하더라도, 파인튜닝 비용도 그만큼은 아니지만 정도에 따라 큰 비용이 나가게 됩니다.
반면, 실질적으로 많은 회사가 딥러닝 모델을 학습하고 운영할 비용과 인력이 없습니다. 그렇기 때문에 ChatGPT + Prompt Engineering 을 통해 딥러닝 개발자 없이도 빠르게, 비즈니스적 가치를 가진 생성 AI 기반 서비스를 출시하는 것에 의의를 두는 것이 현재의 업계 상황입니다.
Question 3
강의에서 진행하는 프로젝트의 수준은
어느 정도인가요?
강의에서 진행하는 프로젝트의 수준은
어느 정도인가요?
이번 강의는 단순하게 이론을 알려드리고 실습을 진행하기 보다는,
AI 서비스 제작에 필요한 틀을 바탕으로 현재 실서비스 중인 AI 서비스들을 그대로 구현해보는 프로젝트들로 구성되어 있습니다.
또한 각 프로젝트들은 현재 진행 중인 회사 프로젝트에 바로 도입 할 수 있는 수준으로, 이론보다는 서비스에 최우선으로 중점을 두었으니 실제로 회사에 AI 서비스를 구상 중이거나 AI 서비스 진행 중인 일부 부분에서 개선사항이 필요한 경우에도 도움을 받으실 수 있을 것입니다.
AI 서비스 제작에 필요한 틀을 바탕으로 현재 실서비스 중인 AI 서비스들을 그대로 구현해보는 프로젝트들로 구성되어 있습니다.
또한 각 프로젝트들은 현재 진행 중인 회사 프로젝트에 바로 도입 할 수 있는 수준으로, 이론보다는 서비스에 최우선으로 중점을 두었으니 실제로 회사에 AI 서비스를 구상 중이거나 AI 서비스 진행 중인 일부 부분에서 개선사항이 필요한 경우에도 도움을 받으실 수 있을 것입니다.
Question 4
실무에서 LLM 기반 서비스를 개발 할 때
가장 힘든 점 (골치 아픈 점) 이 무엇인가요?
실무에서 LLM 기반 서비스를 개발 할 때
가장 힘든 점 (골치 아픈 점) 이 무엇인가요?
가장 힘든 점은 LLM 기반 서비스 개발에는 아직까진 공개된 곳에 정석적인 방법론이 없고,
비용, 도덕성, 속도 등 실서비스에 고려해야 할 점들이 너무 많다는 점인 것 같습니다.
그 중에서도 품질은 좋으면서 사용에는 이슈가 없는 데이터를 구하는 점이 항상 이슈인 것 같습니다.
이에 본 강의에서는 최대한 제가 실무에서 겪었던 어려움과 그 해결법으로 찾은 것들을 녹여내었습니다. 생성 AI를 활용해 직접 데이터를 생성하는 방법부터 가장 필수적인 AI 서비스 제작 단계를 거치며 일관되지 않은 출력을 조정하는 노하우, 프로덕션 레벨에서 고려해야 할 비용 절감을 위한 캐싱, 호출 제한 그리고 실제 기업들이 사용하는 Guardrail 설정 등..
각종 컨퍼런스에서 짧게 공유한 내용들을 실제 실습으로 프롬프트 작성 방법까지 모두 담았으니, AI 서비스를 개발하는 업무가 주어졌을 때 저보다는 ‘덜’ 헤매시길 바랍니다!
이에 본 강의에서는 최대한 제가 실무에서 겪었던 어려움과 그 해결법으로 찾은 것들을 녹여내었습니다. 생성 AI를 활용해 직접 데이터를 생성하는 방법부터 가장 필수적인 AI 서비스 제작 단계를 거치며 일관되지 않은 출력을 조정하는 노하우, 프로덕션 레벨에서 고려해야 할 비용 절감을 위한 캐싱, 호출 제한 그리고 실제 기업들이 사용하는 Guardrail 설정 등..
각종 컨퍼런스에서 짧게 공유한 내용들을 실제 실습으로 프롬프트 작성 방법까지 모두 담았으니, AI 서비스를 개발하는 업무가 주어졌을 때 저보다는 ‘덜’ 헤매시길 바랍니다!
상세 커리큘럼.
아래의 모든 강의를 초격차 패키지 하나로 모두 들을 수 있습니다.
지금 한 번만 결제하고 모든 강의를 평생 소장하세요!
Part1. LLM 개론
Part2. OpenAI API 살펴보기
Part3. 프롬프트 엔지니어링 이론 및 실습
Part4. 야놀자 리뷰 요약
Part5. 카카오 대화 요약
Part6. 네이버 리뷰 데이터 분석
Part7. RAG 이론 및 실습
Part8. 실전 RAG
Part9. AI 고객센터
Part10. 실시간 뉴스 정리봇
Part11. 나만의 쇼핑 헬퍼
Part12. 사내 업무 에이전트
Part14. 배민 리뷰 기반 메뉴/맛집 추천
부록. 파이썬 프로그래밍
부록. Azure Open AI
해당 강의는 사전 예약 상품입니다.
영상 공개는 다음과 같이 6회에 걸쳐 공개됩니다.
(강의 1회 결제시 모든 영상을 평생 반복 수강 가능합니다.)
-----
1차 공개 24년 4월 15일 (월)
2차 공개 24년 5월 13일 (월)
3차 공개 24년 6월 10일 (월)
4차 공개 24년 7월 15일 (월)
5차 공개 24년 8월 12일 (월)
전체 공개 24년 9월 16일 (월)