Microsoft 현직 AI 개발자 양파가 경험한
RAG 노하우를 공개합니다.
Microsoft Copilot AI 개발자의 RAG 마스터 클래스 : 상황별 RAG 선택과 성능 최적화
23년차 Microsoft, Senior Data Scientist 양파의
실전 LLM 강의, 그 두번째
Lv 1
LLM 기초 / 프롬프트 엔지니어링 / 파인튜닝
AI 서비스 개발부터 운영까지
Lv 2 RAG 시스템 / 실무 적용 / 성능 향상
상황별 RAG 선택과 성능 최적화
Lv 3
Comming Soon
Comming Soon
+ ONLY FASTCAMPUS+
∙ 월간 LLM 세미나는 25년 7월, 8월, 10월 약 3개월간 월 1회씩 라이브로 진행 예정입니다.
∙ 매월 1회 (1시간 내외) Zoom을 통해 온라인으로 진행됩니다.
∙ 자세한 내용은 디스코드 커뮤니티를 통해 공개됩니다.
· 질의응답 커뮤니티는 디스코드를 통해 운영되며, 1차 오픈일부터 27년 2월 09일까지 운영됩니다.
· 운영 기간은 당사 상황에 따라 변경될 수 있습니다.
· 강사의 답변은 영업일 기준 7일 정도 걸릴 수 있습니다.
Point 1
상황별 적합한 RAG 시스템 선택 방법
다양한 상황별로 RAG 적용 기준을 명확히 이해하고,
언제 어떻게 활용해야 하는지 체득합니다.
언제 어떻게 활용해야 하는지 체득합니다.
Point 2
실무에서 자주 활용되는 RAG 기법 11가지
현업에서 사용되는 다양한 RAG 시스템을 학습하고,
실제 워크플로우를 체득합니다.
Point 3
성능을 극대화하는 RAG 최적화 비법
실제 프로젝트에서 발생할 수 있는 검색 성능 저하, 데이터 소스 관리, 필터링 문제 등 다양한 문제를 해결하는 노하우를 공개합니다.
Preview
상황에 맞는 RAG를 선택하는 방법과
최적의 적용 방법을 학습합니다.
-
Scenario 01
하나의 문서에서
정보를 검색하는 상항
#Simple RAG
-
Scenario 02
대화 내용을 반영해
답변을 해야하는 상황
#Simple RAG with Memory
-
Scenario 03
멀티모달 데이터를
활용해야 하는 상황
#Multi-modal RAG
-
Scenario 04
DB, API, PDF 등
여러 소스를 활용하는 상황
#Branched / Multi-source RAG
-
Scenario 05
가장 적절한
답변을 선별해야 할 때
#Ranking & Parsing
-
Scenario 06
키워드와 의미 기반 검색을
함께 활용해야 할 때
#Hybrid RAG
-
Scenario 07
반복 검색을 통해
검색 결과를 높이고자 할 때
#Iterative / Adaptive RAG
-
Scenario 08
AI가 스스로 적절한 답변을
생성해야 할 때
#Fallback
-
Scenario 09
부족한 검색 결과를
AI가 보완해야 할 때
#Self-RAG
-
Scenario 10
잘못된 검색 결과를 수정하고 품질을 개선해야 할 때
#Corrective RAG
-
Scenario 11
엔티티 간 관계를 분석해
연관 정보를 찾아야 할 때
#Graph RAG
-
Scenario 12
사용자의 의도를 이해하고
스스로 실행해야 할 때
#Agentic RAG
각 문제 상황은 아래의 2단계 프로세스를 따라 진행됩니다.
강의를 통해 언제 어떤 RAG 시스템을 적용해야 할지 명확한 기준을 갖출 수 있습니다.
RAG System
현업에서 실제로 쓰이는 RAG 적용법과
그 노하우를 아낌없이 공개합니다.
Beginner 기본 활용
01
Simple RAG
단일 문서 또는 데이터베이스에서 검색하여 LLM이 답변을 생성하는 가장 기본적인 형태의 RAG
단일 문서 또는 데이터베이스에서 검색하여 LLM이 답변을 생성하는 가장 기본적인 형태의 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ 기본 벡터 검색 및 LangChain을 활용한 검색 구현
✦ 간단한 벡터DB(Faiss 등) 사용법 및 LLM 프롬프트 기초 학습
✦ ︎단일 문서 검색을 통한 기본적인 RAG 개념 익히기
✦ ︎간단한 프로젝트에서 프로토타이핑 가능
✦ 기본 벡터 검색 및 LangChain을 활용한 검색 구현
✦ 간단한 벡터DB(Faiss 등) 사용법 및 LLM 프롬프트 기초 학습
✦ ︎단일 문서 검색을 통한 기본적인 RAG 개념 익히기
✦ ︎간단한 프로젝트에서 프로토타이핑 가능
02 Simple RAG with Memory
대화의 맥락을 기억하여, 사용자의 이전 질문과 관련된 답변을 생성할 수 있도록 하는 RAG
대화의 맥락을 기억하여, 사용자의 이전 질문과 관련된 답변을 생성할 수 있도록 하는 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ 멀티턴 질의에서 컨텍스트를 유지하는 기법
✦ 대화 기록을 활용한 검색 최적화 및 LLM 프롬프트 관리
✦ ︎사용자 기록을 반영하여 더욱 정확한 답변 제공
✦ ︎사용자 기록을 반영한 최적화된 검색 구현
✦ 멀티턴 질의에서 컨텍스트를 유지하는 기법
✦ 대화 기록을 활용한 검색 최적화 및 LLM 프롬프트 관리
✦ ︎사용자 기록을 반영하여 더욱 정확한 답변 제공
✦ ︎사용자 기록을 반영한 최적화된 검색 구현
Intermediate 성능 최적화
03 Multi-modal RAG
이미지, 오디오, 영상 등의 멀티모달 데이터를 분석하여 의미 있는 정보를 검색하는 RAG
이미지, 오디오, 영상 등의 멀티모달 데이터를 분석하여 의미 있는 정보를 검색하는 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ OCR, CLIP, Whisper 등 멀티모달 임베딩 활용
✦ 이미지·음성 데이터에서 정보를 검색하는 기법 학습
✦ ︎다양한 멀티모달 데이터를 LLM과 연결하는 방법 익히기
✦ ︎텍스트 외 다양한 정보를 활용해 정확도와 유용성 향상
✦ OCR, CLIP, Whisper 등 멀티모달 임베딩 활용
✦ 이미지·음성 데이터에서 정보를 검색하는 기법 학습
✦ ︎다양한 멀티모달 데이터를 LLM과 연결하는 방법 익히기
✦ ︎텍스트 외 다양한 정보를 활용해 정확도와 유용성 향상
04 Multi-source RAG (Branched)
DB, API, PDF, 웹 문서 등 여러 소스에서 정보를 검색하고 이를 통합하여 최적의 답변을 도출하는 RAG
DB, API, PDF, 웹 문서 등 여러 소스에서 정보를 검색하고 이를 통합하여 최적의 답변을 도출하는 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ 다중 검색 엔진(인덱스) 활용 및 검색 결과 통합 전략
✦ 데이터베이스, 문서, API 등 여러 소스 결합시 고려사항
✦ ︎다양한 소스에서 풍부한 검색 결과를 도출하는 방법 익히기
✦ ︎여러 데이터 소스를 효율적으로 관리하는 기술 습득
✦ 다중 검색 엔진(인덱스) 활용 및 검색 결과 통합 전략
✦ 데이터베이스, 문서, API 등 여러 소스 결합시 고려사항
✦ ︎다양한 소스에서 풍부한 검색 결과를 도출하는 방법 익히기
✦ ︎여러 데이터 소스를 효율적으로 관리하는 기술 습득
05
Iterative RAG
검색과 답변 생성 단계를 반복하여 더욱 정밀한 정보를 추출하는 방식 가장 기본적인 형태의 RAG
검색과 답변 생성 단계를 반복하여 더욱 정밀한 정보를 추출하는 방식 가장 기본적인 형태의 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ 검색과 답변 생성 단계를 반복하며 최적의 문서 찾기
✦ 피드백 루프를 활용한 검색 결과 보정 기법
✦ ︎복잡하고 애매한 질문에서도 높은 정확도와 일관된 답변 제공
✦ ︎검색을 반복적으로 최적화하는 시스템 설계
✦ 검색과 답변 생성 단계를 반복하며 최적의 문서 찾기
✦ 피드백 루프를 활용한 검색 결과 보정 기법
✦ ︎복잡하고 애매한 질문에서도 높은 정확도와 일관된 답변 제공
✦ ︎검색을 반복적으로 최적화하는 시스템 설계
06 Adaptive RAG
실시간으로 문서를 검색하고 맥락을 업데이트하여, 사용자 요구에 맞춰 검색 전략을 조정하는 RAG
실시간으로 문서를 검색하고 맥락을 업데이트하여, 사용자 요구에 맞춰 검색 전략을 조정하는 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ 실시간으로 문서를 검색 및 결합해 답변을 생성하는 동적 검색 전략
✦ 적응형 모델 업데이트 및 강화 학습 기법을 통한 검색·생성 프로세스 최적화
✦ ︎다양한 상황 변화에도 즉각적으로 대응해 높은 정확도 유지
✦ ︎불확실성이나 데이터 부족 상황에서 더 유연한 검색 및 답변 생성 가능
✦ 실시간으로 문서를 검색 및 결합해 답변을 생성하는 동적 검색 전략
✦ 적응형 모델 업데이트 및 강화 학습 기법을 통한 검색·생성 프로세스 최적화
✦ ︎다양한 상황 변화에도 즉각적으로 대응해 높은 정확도 유지
✦ ︎불확실성이나 데이터 부족 상황에서 더 유연한 검색 및 답변 생성 가능
07 Hybrid RAG
키워드 기반 검색과 의미(벡터) 기반 검색을 함께 활용하여 검색 성능을 극대화하는 RAG
키워드 기반 검색과 의미(벡터) 기반 검색을 함께 활용하여 검색 성능을 극대화하는 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ 키워드 매칭 및 벡터 검색 결합 전략
✦ 검색 정확도를 높이기 위한 최적화 기법 적용
✦ ︎키워드 매칭·의미 매칭 동시 활용으로 검색 정확도 상승
✦ ︎사소한 오탈자·문맥 차이에 대한 검색 누락 감소
✦ 키워드 매칭 및 벡터 검색 결합 전략
✦ 검색 정확도를 높이기 위한 최적화 기법 적용
✦ ︎키워드 매칭·의미 매칭 동시 활용으로 검색 정확도 상승
✦ ︎사소한 오탈자·문맥 차이에 대한 검색 누락 감소
Advanced 자동화
08 Corrective RAG
과거 검색 결과의 오류를 분석하고, 데이터를 보정하여 보다 정확한 정보를 제공하는 RAG
과거 검색 결과의 오류를 분석하고, 데이터를 보정하여 보다 정확한 정보를 제공하는 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ 자동 오류 감지 및 수정 로직 구현
✦ Self-Consistency, Chain-of-Thought 기법 활용
✦ ︎반복적인 오답 교정을 통한 검색 정확도 향상
✦ ︎ ︎사용자 피드백을 빠르게 반영하여 지속적 학습 가능
✦ 자동 오류 감지 및 수정 로직 구현
✦ Self-Consistency, Chain-of-Thought 기법 활용
✦ ︎반복적인 오답 교정을 통한 검색 정확도 향상
✦ ︎ ︎사용자 피드백을 빠르게 반영하여 지속적 학습 가능
09 Self-RAG
검색된 데이터가 부족하거나 신뢰도가 낮을 경우, AI가 자체적으로 데이터를 확장하여 답변을 생성하는 RAG
검색된 데이터가 부족하거나 신뢰도가 낮을 경우, AI가 자체적으로 데이터를 확장하여 답변을 생성하는 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ Self-Querying 기법을 활용한 검색 자동화
✦ 중간 질문 생성 후 검색 과정을 설계하는 방법
✦ ︎검색 정확도를 높이기 위한 피드백 시스템 구현
✦ ︎ ︎검색 정확도를 높이기 위한 피드백 시스템 구현
✦ Self-Querying 기법을 활용한 검색 자동화
✦ 중간 질문 생성 후 검색 과정을 설계하는 방법
✦ ︎검색 정확도를 높이기 위한 피드백 시스템 구현
✦ ︎ ︎검색 정확도를 높이기 위한 피드백 시스템 구현
10 Graph RAG
단순한 키워드 매칭이 아니라, 엔티티(Entity) 간의 연결성과 연관성을 분석하여 더 정교한 검색 결과를 제공하는 RAG
단순한 키워드 매칭이 아니라, 엔티티(Entity) 간의 연결성과 연관성을 분석하여 더 정교한 검색 결과를 제공하는 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ Knowledge Graph를 활용한 관계형 검색 기법 학습
✦ 문서 간의 관계를 파악하여 검색 성능 향상
✦ 그래프 탐색, 쿼리 기법 등 그래프 기반 검색 알고리즘 익히기
✦ ︎복잡한 관계가 있는 데이터에서도 최적의 답변 제공
✦ ︎엔티티 간 관계 분석을 통해 검색 정확도를 개선
✦ Knowledge Graph를 활용한 관계형 검색 기법 학습
✦ 문서 간의 관계를 파악하여 검색 성능 향상
✦ 그래프 탐색, 쿼리 기법 등 그래프 기반 검색 알고리즘 익히기
✦ ︎복잡한 관계가 있는 데이터에서도 최적의 답변 제공
✦ ︎엔티티 간 관계 분석을 통해 검색 정확도를 개선
11 Agentic RAG
단순히 정보를 검색하는 것이 아니라, 사용자의 의도를 이해하고 가장 적절한 데이터를 수집하여 자동으로 처리하는 RAG
단순히 정보를 검색하는 것이 아니라, 사용자의 의도를 이해하고 가장 적절한 데이터를 수집하여 자동으로 처리하는 RAG
✦ 학습 내용 및 ✦ ︎기대효과
✦ AI 에이전트 기반의 검색 자동화 설계 방법
✦ Plan-Act-Observe-Replan 루프 학습
✦ 검색 툴·DB 질의·API 호출 등 툴 연동 방법
✦ ︎검색 및 API 호출 자동화하여 정보 탐색 최적화
✦ ︎AI가 스스로 최적의 검색 전략을 결정하는 능력 향상
✦ AI 에이전트 기반의 검색 자동화 설계 방법
✦ Plan-Act-Observe-Replan 루프 학습
✦ 검색 툴·DB 질의·API 호출 등 툴 연동 방법
✦ ︎검색 및 API 호출 자동화하여 정보 탐색 최적화
✦ ︎AI가 스스로 최적의 검색 전략을 결정하는 능력 향상
부가혜택
Agentic RAG 구현을 위한
Prompt 템플릿
효율적인 Retrieval Prompt가 있어야 정확한 문서를 찾고, LLM이 신뢰도 높은 답변을 생성할 수 있습니다.
Retrieval Prompt 설계 템플릿을 활용하여 RAG의 검색 성능을 극대화하고 더 정교한 AI 개발을 경험하세요.
10시간 분량의 파이선 기초 강의를 제공합니다.
[파이썬으로 개발하는 빅데이터 기반 맛집 추천서비스] 강의 Part 1에서 발췌된 영상이 제공됩니다.
Top of Top
Microsoft AI Team 소속,
24년차 개발자 & 데이터 사이언티스트 주한나(양파)
마이크로소프트 현직 AI 개발자
양파의 실전 RAG 강의
강의에서는 RAG 시스템 기초부터 다중 데이터 소스 활용, 검색 성능 최적화, 모델 평가 및 품질 개선에 이르기까지, 기업 환경에서 RAG를 효과적으로 구축하고 운영하기 위한 핵심 개념과 실전 적용법을 다룰 예정입니다.
또한, 실제 프로젝트에서 발생할 수 있는 검색 성능 저하, 데이터 소스 관리, 정보 필터링 문제 등과 같은 실무적인 도전 과제들을 해결하는 노하우를 담았어요.
또한, 실제 프로젝트에서 발생할 수 있는 검색 성능 저하, 데이터 소스 관리, 정보 필터링 문제 등과 같은 실무적인 도전 과제들을 해결하는 노하우를 담았어요.
Copilot AI 팀에서의 경험을 통해 얻은
강사님만의 인사이트
현재 마이크로소프트의 Copilot Studio AI 팀에서는 RAG기반 시스템을 활용하여 보다 정교한 AI 응답을 생성하는 기술을 연구하고 있습니다. 마이크로소프트 고객사에 제공될 Copilot 서비스 개발 경험을 통해, 단순한 검색 시스템을 넘어 기업 환경에서 RAG를 적용하는 전략과 실행 방법을 체득할 수 있었습니다.
강의를 통해 여러분은 제가 마이크로소프트 Copilot 팀에서 RAG 시스템을 설계하고 운영하며 쌓아온 노하우를 배우고, 이를 바탕으로 자신의 프로젝트에서 RAG를 효과적으로 적용하고 최적화하는 방법을 익힐 수 있을 것이라 기대합니다.
강의를 통해 여러분은 제가 마이크로소프트 Copilot 팀에서 RAG 시스템을 설계하고 운영하며 쌓아온 노하우를 배우고, 이를 바탕으로 자신의 프로젝트에서 RAG를 효과적으로 적용하고 최적화하는 방법을 익힐 수 있을 것이라 기대합니다.
Facebook 팔로워 38K
블로그 ‘양파’의 주인장
처음에는 단순히 일상을 기록하는 블로그를 운영하며, 생각이 많아질 때마다 글로 정리하곤 했습니다. 그러다 아들에게 무서운 것도 도전해보면 자신이 잘하는 걸 알게 될 거야라고 조언하면서, 저 스스로도 안전한 길만 걷고 있지 않았나 반성하게 되었죠. 그래서 작년부터는 '막살자' 모드로 전환해 새로운 도전에 나섰습니다.
여러분께 전하고 싶은 메시지는 저처럼 삶에서 때로는 불편하고 무서운 도전들이 필요하다는 것입니다. 지금, AI 기술은 빠르게 발전하고 있으며, 특히 RAG시스템을 활용한 정보 검색과 생성 기술은 국내외 기업들이 앞다투어 도입하며 혁신을 이루고 있는 핵심 기술 중 하나입니다.
이러한 변화는 우리에게 새로운 도전의 기회를 제공합니다. 단순한 LLM 활용을 넘어서, RAG를 통해 기업이 실제로 원하는 고품질의 응답을 제공하는 방법을 배운다면, 여러분도 이 빠르게 변화하는 AI 시대에 한 걸음 앞서 나갈 수 있을 것입니다.
여러분께 전하고 싶은 메시지는 저처럼 삶에서 때로는 불편하고 무서운 도전들이 필요하다는 것입니다. 지금, AI 기술은 빠르게 발전하고 있으며, 특히 RAG시스템을 활용한 정보 검색과 생성 기술은 국내외 기업들이 앞다투어 도입하며 혁신을 이루고 있는 핵심 기술 중 하나입니다.
이러한 변화는 우리에게 새로운 도전의 기회를 제공합니다. 단순한 LLM 활용을 넘어서, RAG를 통해 기업이 실제로 원하는 고품질의 응답을 제공하는 방법을 배운다면, 여러분도 이 빠르게 변화하는 AI 시대에 한 걸음 앞서 나갈 수 있을 것입니다.
[주요 경력]
• 2012 ~ 현재
Microsoft
• Microsoft Copilot Studio (MCS) AI, Senior Data Scientist
• Implement GenAI features for Microsoft Copilot Studio
• Out-of-box AI moderls for enterprise solutions 등
• Data engineering Team PM
• Data engineering Team Engineer
• 스카이프의 첫 번째 Big Data team 최초 데이터 파이프라인 및
데이터 툴 구축
• 데이터 모델링, 데이터 파이프라인 품질 검증 등solutions 등
• 2011 ~ 2012
• Electronic Arts / 백엔드 데이터 QA 엔지니어
• 2009 ~ 2011
• Betfair / Java 플랫폼 테스팅 자동화 엔지니어
• 2007 ~ 2009
• Discovery / 백엔드 QA 엔지니어
• 2005 ~ 2007
• Qualica Technologies / 백엔드 개발자
• 2003 ~ 2005
• CTI / 커리큘럼 개발자
• 2001 ~ 2003
• Chagford / 파이썬 기반 POS 시스템 개발자
• 2012 ~ 현재
Microsoft
• Microsoft Copilot Studio (MCS) AI, Senior Data Scientist
• Implement GenAI features for Microsoft Copilot Studio
• Out-of-box AI moderls for enterprise solutions 등
• Data engineering Team PM
• Data engineering Team Engineer
• 스카이프의 첫 번째 Big Data team 최초 데이터 파이프라인 및
데이터 툴 구축
• 데이터 모델링, 데이터 파이프라인 품질 검증 등solutions 등
• 2011 ~ 2012
• Electronic Arts / 백엔드 데이터 QA 엔지니어
• 2009 ~ 2011
• Betfair / Java 플랫폼 테스팅 자동화 엔지니어
• 2007 ~ 2009
• Discovery / 백엔드 QA 엔지니어
• 2005 ~ 2007
• Qualica Technologies / 백엔드 개발자
• 2003 ~ 2005
• CTI / 커리큘럼 개발자
• 2001 ~ 2003
• Chagford / 파이썬 기반 POS 시스템 개발자
[집필 및 강연 활동]
• 저서
• 『챗GPT 개발자 핸드북』
• 『개발자를 부탁해』
• 외부 강연 및 컨설팅
• KWiSE - WISET STEM Career Talk Concert 2023 커리어 멘토
• UCLA - Breakthrough Tech AI Program 2023-2024 공식 멘토
• SW인재페스티벌 국제컨퍼런스 2023 기조연설
• Claiming your place in a world filled with AI
• 성균관대학교, 전남대학교, 계명대학교 등 다수의 대학 강의
• 생성형 AI, 보안, IT 커리어 관련
• 한국과학창의재단 (KOFAC) - 생성형 AI 시대의 교육
• 패스트캠퍼스 x 업스테이지, 모두를 위한 ChatGPT UP!의 Session 2 연사
• 나만의 AI 기술로 만드는 노하우, ChatGPT Deep Prompt Engineering
& LangChain
• 외 삼성전자 등 사내 강연
• 저서
• 『챗GPT 개발자 핸드북』
• 『개발자를 부탁해』
• 외부 강연 및 컨설팅
• KWiSE - WISET STEM Career Talk Concert 2023 커리어 멘토
• UCLA - Breakthrough Tech AI Program 2023-2024 공식 멘토
• SW인재페스티벌 국제컨퍼런스 2023 기조연설
• Claiming your place in a world filled with AI
• 성균관대학교, 전남대학교, 계명대학교 등 다수의 대학 강의
• 생성형 AI, 보안, IT 커리어 관련
• 한국과학창의재단 (KOFAC) - 생성형 AI 시대의 교육
• 패스트캠퍼스 x 업스테이지, 모두를 위한 ChatGPT UP!의 Session 2 연사
• 나만의 AI 기술로 만드는 노하우, ChatGPT Deep Prompt Engineering
& LangChain
• 외 삼성전자 등 사내 강연
To-be
본 강의를 수강한 뒤
여러분들은 이렇게 바뀌게 됩니다.
현업에서 실제로 활용하는 11가지 RAG 시스템을 배우고 직접 구현할 수 있습니다.
언제, 어떤 RAG 시스템을 적용해야 하는지 명확한 기준을 가질 수 있습니다.
기업 환경에서 요구하는 수준의 RAG 기반 AI 서비스를 설계 및 운영할 수 있는 실력을 갖추게 됩니다.
Microsoft Copilot AI 개발자의 RAG 마스터 클래스 : 상황별 RAG 선택과 성능 최적화