microsoft, ai 개발자, llm, ai 서비스, 주한나, 양파
(자동)
정가 (자동)
할인 금액 (자동)
현재 판매가 (자동)

(자동)

* 12개월 무이자 할부 시
엔지니어, 양파, copilot, ai팀, 마이크로소프트

ChatGPT의 등장으로, 국내외 모든 기업이 LLM 기반 서비스 개발에 주목하고 있지만
많은 기업에서 LLM을 효과적으로 도입하는데 어려움을 겪고 있습니다.

개발자, QA 엔지니어, PM, 데이터 과학자등 MS에서 다양한 직무를 경험한
양파님의 마스터 클래스를 통해 AI 서비스 개발부터 실제 서비스 도입까지 한 번에 끝내세요.

chatgpt, 챗gpt, 챗지피티, llm기반, qa, 데이터 사이언티스트, 단독공개

LLM 이해를 위한 ChatGPT 활용부터
실제 프로덕트 수준의 AI 서비스 개발, 

서비스 도입 & 운영 관점의 LLMOps까지
LLM에 대한 모든 내용을 학습합니다.

음성 AI 고객 응대 프로젝트를 통해
프롬프트 엔지니어링, RAG, 파인튜닝 등
LLM의 기능을 극대화하고 한계를 보완하기 위한 다양한 전략과 기술을 학습합니다.

앞서 만든 프로젝트를 직접 배포해보며
LLM 아키텍처, CI/CD, RAI, LLMOps 등
LLM 도입을 위해 꼭 알아야 할 보안, 운영,
최적화 등의 개념을 학습합니다.

ChatGPT, GPTs 의 일상 속 다양한 활용
방법 및 준비 된 실습 예제를 통해 실전에서 프롬프트 엔지니어링을
사용하는 방법
을 학습합니다.

코스 프로모션 배너 전용입니다.
0 0시간 0 0 코스 프로모션 배너 전용입니다.

Microsoft Copilot AI 팀에서
프로덕트를 개발하며 경험한 노하우를 나누고자 합니다.


LLM 개발의 최전선에서 겪은 시행착오와 노하우를 바탕으로
GPT 활용을 극대화하려는 분들을 위한 프롬프트 엔지니어링 조언,
LLM 프로덕트 개발을 목표로 하는 분들을 위한 코딩 가이드,
회사 서비스에 LLM을 도입하고자 하는 분들을 위한 아키텍처 기본 구성,
그리고 기존 시스템에 LLM 기반 기술을 통합하려는 분들을 위한
LLMOps와 RAI 까지

LLM 사용의 어느 단계에 계시든, 이 내용이 큰 도움이 되시기를 바랍니다.

by. 양파 (Microsoft Copilot AI team 시니어 데이터 사이언티스트)

Overview

LLM 기반 AI 서비스 개발을 위한
20시간 분량의 LLM 마스터 로드맵

LLM을 더욱 잘 이해하고 사용할 수 있도록 ChatGPT의 다양한 활용 방법 부터,
LLM을 통한 AI 서비스 개발 & 배포 & 운영까지, 마이크로소프트 코파일럿팀 양파님의 LLM 마스터 로드맵을 확인하세요.

랭체인, 프롬프트엔지니어링, 임베딩, api, llm 패턴
Basic

LLM 서비스 개발이 처음이라면?
기초를 다지는 6개의 미니 프로젝트

LLM 서비스의 기본이 되는 6개의 기초 개념
실전 프로젝트 진행에 앞서, 미니 프로젝트를 통한 단계별 학습이 가능합니다.

| 프로젝트 미리보기

기업 시스템에 LLM 기반 AI 서비스를 도입하기 위해선

LLM의 특성과 한계를 보완하기 위한 방법을 이해하는 것이 중요합니다.


LLM(Large Language Model)
대표적인 문제점 4가지

언어모델, ai 시스템, sllm, 알고리즘, 파인튜닝, llm 기능

프롬프트 엔지니어링, RAG, RAI, 파인튜닝, LLMOps 까지 ···

다양한 전략과 기술이 담긴 실습 프로젝트를 소개합니다.

LLM 서비스 개발

Microsoft Copilot 팀 양파님의 진한 인사이트가 담긴
실제 AI 프로덕트 수준의 프로젝트 실습

LLM(GPT)기반의 AI 서비스를 6단계에 걸쳐 프로덕트 수준까지 고도화 합니다.
실습을 통해 개발 & 배포 & 운영까지 AI 서비스를 도입하기 위한 모든 과정을 경험 하실 수 있습니다.

| 프로젝트 미리보기

ai 서비스, 자동화 서비스, 음성서비스, gpt-4
ml모델, ai보이스, voice data, llm 응답
프로젝트 개발, llm 개발, llm 도입

STEP 1
프롬프트 엔지니어링
(Prompt Engineering)

| 핵심 기술 키워드
#Prompt engineering #Funcion calling #Langchain
#Token management #Prompt chaining


| 학습 내용
∙ 프롬프트 엔지니어링을 이용해 기본적인 LLM 서비스를 구현하는 방법을 학습합니다.
∙ 다양한 예제를 통해 익힌 심화 프롬프트 엔지니어링 개념
  (Chain of Thought, Tree of Thought)을 서비스에 적용해 봅니다.

프롬프트 엔지니어링, prompt engineering, funcion calling, langchain, token management, prompt chaining

STEP 2
임베딩
(Embeddings)

| 핵심 기술 키워드
#Embedding #Whsiper API #Embedding APIs #RAG 

#Cosine similarity #Semantic search


| 학습 내용
∙ 음성 데이터를 텍스트로 정확하게 변환하는 방법을 학습합니다.
∙ 변환된 텍스트 데이터를 임베딩하여 유사한 내용을 검색하는 방법을 학습합니다.
∙ Few-shot을 활용한 내용 검색 방법을 학습합니다.

testing, optimization, 최적화, llm 테스트, 래그, rag, 백터db, chunking, indexing

STEP 3
RAG 및 벡터DB
(RAG with VectorDB)

| 핵심 기술 키워드
#VectorDB #Data ingestion #Chunking #Indexing
#Similarity search


| 학습 내용
∙ 텍스트 파일 대신 데이터를 처리하여 VectorDB에 저장하는 방법
  (전처리, chunking, indexing)을 학습합니다.
∙ VectorDB를 활용해 데이터를 효율적으로 저장하고, 검색하는 시스템 구축 방법과
  RAG 시스템을 VectorDB와 결합하여 구현하는 과정을 학습합니다.
∙ 저장된 벡터 간의 유사성 검색을 통해 관련 정보를 빠르게 검색하는 방법을 학습합니다.

파인튜닝, fine tuning, QLoRA, sLLM, 모델 향상

STEP 4
파인튜닝
(Fine tuning, QLoRA, sLLM)

| 핵심 기술 키워드
#Fine tuning #LoRA #QLoRA

| 학습 내용
∙ 파인튜닝이 필요한 상황과 방법을 학습합니다.
∙ 파인튜닝보다 효율적인 LoRA 방식에 대해 배웁니다.
∙ QLoRA를 통해 모델의 적응성과 효율성을 더욱 향상시키는 방법을 학습합니다.
∙ 업그레이드된 모델을 사용하여 실제 문제 해결에 적용해 봅니다.

microsoft, copilot, 코파일럿, 마이크로소프트, llm 운영, ai 서비스
devplyment, operations, rai, 신뢰할 수 있는 인공지능, pre processing, post processing, llm evaluation, Azure rai

STEP 5
RAI (신뢰할 수 있는 인공지능)
(Pre/Post Processing)

| 핵심 기술 키워드
#LLM evaluation #RAI · Security #Prompt injection
#Prompt leakage #Azure RAI


| 학습 내용
∙ LLM의 평가 방법과 RAI 원칙에 대해 학습합니다.
∙ 보안 측면에서 프롬프트 주입 및 유출 방지 방법과 사회적 및 법적 문제 가능성을
  최소화 하는 필터링 기법을 학습 합니다.
∙ RAI 도구를 사용해 응답의 관련성 및 정확성 평가 및 실제 데이터와의 일치도를
  높이는 전략을 학습 합니다.

llmops, 배포, 서비스화, llm 운영, 클라우드 플랫폼, cl/cd, 파이프라인, aws

STEP 6
LLMOps
(배포, 서비스화, 운영)

| 핵심 기술 키워드
#LLMOps #Model deployment #Testing #CI/CD

| 학습 내용
∙ 모델을 클라우드 플랫폼(Azure, AWS 등)에 배포하는 방법과
  필요한 인프라를 학습합니다.
∙ LLMOps 전략을 통해 배포된 서비스의 지속적인 운영, 관리,
  테스팅 및 개선 과정을 학습합니다.
∙ CI/CD 파이프라인을 구축하여 서비스의 실시간 업데이트와
  사용자 피드백 반영 방법을 학습합니다.

llm 성능, rai, responsible ai
Practice

응답의 퀄리티를 높이는 프롬프트 엔지니어링
15개+ 예제로 양파님의 노하우를 한번에

준비 된 실습 예제를 통해 ChatGPT의 다양한 응용 사례와
실전에서의 프롬프트 엔지니어링 사용법을 익히세요.

Prompt Engineering 기본 개념

프롬프트, 엔지니어링, 양파, chatgpt

퀄리티를 높이는 Prompt Engineering 심화 개념

chain of thought, CoT, ToT, tree of though, 텍스트 분해, task decomposition, few-shot laerning

ChatGPT를 활용한 다양한 실습을 통해
ChatGPT(LLM)의 효과적 사용을 위한 프롬프트 엔지니어링을 개념을 마스터 하세요.

코딩 테스트, 테스트 코드, 테스트, 리뷰, 테이터 프로세싱, 데이터 분석, 그래프 생성, GPTs

빠르게 변화하는 AI 업계, Top-tier 주한나 개발자님에게 마음껏 질문하세요!

+ 얼리버드 혜택 +
수강생이 가장 궁금해하는 질문을 모아
추가 영상을 제공합니다.
⭐ 24년 5월까지 강의를 구매한 수강생 한정 ⭐
강사님에게 질문을 남길 수 있는 설문 조사를 실시합니다.




24년 5월 31일까지 강의를 구매하신 수강생에게 자유 형식의 설문폼을 발송합니다.
설문 폼 발송일 : 24.06.07 (화)
설문 조사 기간 : 06.07(화) ~ 06.14(월)
주요 질문을 선정하여 40분~1시간 분량의 추가 영상이 제공 될 예정입니다.
Bonus

여기서 끝이 아닙니다.

개발이 익숙하지 않은 분들을 위한 파이썬 기초 강의와 AI 직무로의 전환 노하우,
Microsoft 주한나 강사님이 바라보는 AI 세상 속 미래 대응 전략을 확인하세요.

질의응답
궁금한 내용은 언제든
질의응답 게시판에 질문하세요!
혼자 듣는 강의 느낌이 나지 않도록!
강사님과 AI 챗봇이 함께 답변을 남기는 질의응답 게시판을 운영합니다.
① 실습 중 에러가 나면? 수강생 간 질의응답 채널을 통해 빠른 해결!
② 강의를 듣다가 이해되지 않는 부분이 생기면 바로 질문하세요!

* 강사님의 답변은 2024. 04. 15 ~ 2026. 03. 10 동안 운영됩니다.
* 강사님이 현업 중 답변 하시기에 답변까지 영업일 기준 7일 내외 시간이 소요될 수 있습니다.
* 강의와 무관한 질문에 대해서는 답변이 필수로 제공되지 않습니다.
Top of Top

전 세계 LLM 개발의 최전선, Microsoft Copilot AI Team
23년차 개발자 & 데이터 사이언티스트
주한나(양파)

업계 1위, 마이크로소프트 Copilot AI 팀 주한나의 실전 LLM 강의

현재 마이크로소프트의 Copilot Studio Applied AI 팀에서는 ChatGPT를 포함한 LLM 기반 프로덕트 개발에 몰두하고 있습니다.
마이크로소프트 고객사에 제공될 Copilot 서비스 개발 경험을 통해,
단순한 호기심을 넘어서 복잡한 기업 프로덕트에 LLM을 적용하기 위해 필요한 전략적 계획부터
실행에 이르기까지의 광범위한 지식을 습득할 수 있었어요.

이 강의에서는 ‘LLM 개발 기초’ 부터 '아키텍처 설계’, '데이터 보안 및 프라이버시 준수', '모델 튜닝 및 평가'에 이르기까지,
LLM을 기업 환경에 효과적으로 도입하기 위해 고려해야 할 핵심 요소들을 다룰 예정입니다.

또한, 실제 프로젝트에서 마주칠 수 있는 도전적인 상황들과 이를 극복하기 위한 실질적인 솔루션도 공유하게 됩니다.
본 강의를 통해 여러분은 마이크로소프트 Copilot 팀에서 LLM 기반 프로덕트를 개발하며 제가 직접 경험한 노하우를 배우고,
이를 바탕으로 여러분의 프로젝트에도 LLM을 효과적으로 적용하는 방법을 마스터할 수 있기를 기대합니다.

다양한 직무에서의 경험을 통해 얻은 강사님만의 독특한 인사이트

저는 마이크로소프트 Copilot AI 팀의 시니어 데이터 사이언티스트로 일하며,
옥스퍼드 대학에서 소프트웨어 엔지니어링 석사 학위를 취득한 후, 마이크로소프트와 같은 세계적인 기업에서 중요한 역할을 맡아왔습니다.

하지만 제 커리어 경로는 전형적인 이야기에서 벗어납니다.
남아프리카 공화국의 작은 도시에서 고졸 학력으로 시작해, 첫 직장에서 개발자로서의 길을 걷기 시작했으며,
이후 QA 엔지니어, PM, 데이터 엔지니어 등 다양한 언어와 기술 스택을 통해 저만의 경로를 개척해 왔습니다.

이러한 독특한 경험을 바탕으로, AI와 LLM이 어떻게 현대 기술의 경계를 넘어설 수 있는지를 여러분에게 보여주고자 합니다.

Facebook 팔로워 38K, 38,000명의 동행자를 가진 블로그 ‘양파’의 주인장

처음에는 단순히 일상을 기록하는 블로그를 운영하며, 내면의 소음과 ADHD로 인해 생각이 많을 때마다 글을 통해 정리하곤 했습니다.
그러다 요즘은, 제 아들에게 "무서운 것도 도전해보면 자신이 무엇을 잘할 수 있는지 알게 될 거야"라고 조언하면서,
저 스스로도 너무 안전한 길만 걷고 있는 것이 아닌가 하는 반성을 하게 되었죠.
그래서 작년부터는 '막살자' 모드로 전환해, 새로운 것에 도전하고 제 한계를 시험하기 시작했습니다.

여러분께 전하고 싶은 메시지는 저처럼 삶에서 때로는 불편하고 무서운 도전들이 필요하다는 것입니다.
세상은 AI를 필두로 해서 빠르게 변화하고 있습니다.
국내외를 넘어 수많은 기업에서 LLM을 기존 서비스에 도입하려는 추세를 보이고 있기도 하고요.

이러한 변화는 우리에게 새로운 도전의 기회를 제공합니다.
저와 함께 이 변화의 물결을 타고, AI 기술을 통해 우리가 어떻게 세상을 더 나은 곳으로 만들 수 있는지 탐구해 봅시다.

외부 강연, 마이크로소프트 서비스, 엑셀, 파워포인트, 팀스, 워드, one note, 마이크로소프트365, microsoft copilot
[주요 경력]

• 2012 ~ 현재

Microsoft
• Cloud AI & Research Senior Data scientist

• LLM Features for Copilot
• Out-of-box AI moderls for enterprise solutions 등
• Data engineering Team PM
• Data engineering Team Engineer

• 스카이프의 첫 번째 Big Data team 최초 데이터 파이프라인 및
  데이터 툴 구축
• 데이터 모델링, 데이터 파이프라인 품질 검증 등solutions 등

• 2011 ~ 2012
• Electronic Arts / 백엔드 데이터 QA 엔지니어

• 2009 ~ 2011
• Betfair / Java 플랫폼 테스팅 자동화 엔지니어

• 2007 ~ 2009
• Discovery / 백엔드 QA 엔지니어

• 2005 ~ 2007
• Qualica Technologies / 백엔드 개발자

• 2003 ~ 2005
• CTI / 커리큘럼 개발자

• 2001 ~ 2003
• Chagfor / 파이썬 기반 POS 시스템 개발자

[집필 및 강연 활동]

• 저서
• 『챗GPT 개발자 핸드북』
• 『개발자를 부탁해』

• 외부 강연 및 컨설팅
• KWiSE - WISET STEM Career Talk Concert 2023 커리어 멘토
• UCLA - Breakthrough Tech AI Program 2023-2024 공식 멘토
• SW인재페스티벌 국제컨퍼런스 2023 기조연설
  • Claiming your place in a world filled with AI
• 성균관대학교, 전남대학교, 계명대학교 등 다수의 대학 강의
  • 생성형 AI, 보안, IT 커리어 관련
• 한국과학창의재단 (KOFAC) - 생성형 AI 시대의 교육
• 패스트캠퍼스 x 업스테이지, 모두를 위한 ChatGPT UP!의 Session 2 연사
  • 나만의 AI 기술로 만드는 노하우, ChatGPT Deep Prompt Engineering 

    & LangChain
• 외 삼성전자 등 사내 강연
ai 서비스, ai 개발, llm 마스터, 서비스 개발
microsoft ai 개발자, 양파, 주한나, llm 마스터클래스
llmops, rai, llm 서비스, chatgpt, llm 기술


본 강의를 수강한 뒤
여러분들은 이렇게 바뀌게 됩니다.

ai 프로젝트, llm 기술, rai, 성능 최적화, rag, 파인튜닝
llm 서비스, llm, 언어모델, gpt
프로그래밍, 파이썬, python, google colab, open ai plus
평생소장, 개발자, llm, ai 개발자
상세 커리큘럼

아래의 모든 강의를 초격차 패키지 하나로 모두 들을 수 있습니다.
지금 한 번만 결제하고 모든 강의를 평생 소장하세요!

해당 강의는 예약 구매 상품입니다.

영상 공개는 다음과 같이 4회에 걸쳐 공개됩니다.
(1회 구매 이후 모든 영상을 평생 소장 가능합니다.)

-----

1차 공개 : 24년 04월 15일 (월)
2차 공개 : 24년 05월 13일 (월)
3차 공개 : 24년 06월 03일 (월)
전체 공개 : 24년 07월 01일 (월)

패스트캠퍼스, 더레드, 양파, 주한나