조대협의 항로 2 : 실전 LLM 애플리케이션 개발 로드맵
강의 미리보기
현직자가 알려주는 실제 기업의 LLM 개발과 운영
상용 수준의 LLM 애플리케이션은
생각보다 훨씬 복잡합니다.
이 강의로 당장 현업에서 사용하는
RAG, Agent 퀄리티까지 도달하세요!
실리콘밸리 수석 엔지니어 조대협의
{ 엔지니어링 마스터 시리즈 }를 소개합니다.
REST API / 마이크로서비스 / 아키텍처 설계
REST API 부터 LLM 아키텍처까지
감수자 | 조대협
강사 | 조대협
LLM / RAG / multi agent / 랭체인 / 랭그래프
개발 로드맵
콘텐츠 공동 기획 및 개발 | 조대협
강사 | 전현준
조대협의 항로 3
쿠버네티스 A to Z
콘텐츠 공동 기획 및 개발 | 조대협
강사 | 송주영, 정영진
*본 시리즈 강의에서 조대협님은 커리큘럼부터 강의자료 제작, 강의 피드백까지
전 강의 기획 및 제작 총괄을 담당하셨습니다.
기획자 소개 >
강사진 소개
AI 트렌드의 가장 최전선 실리콘밸리 엔지니어이자,
테크 관련 영원한 구루, 조대협 강사님이 말합니다.
실리콘밸리 상위 1% 아키텍트
조대협의
아키텍처 기반 LLM
안녕하세요, 저는 조대협의 블로그로 IT 이론과 트렌드를 항상 정리하는 조대협의 블로그 주인장, 조대협이라고 합니다. 실리콘밸리에서 습득하는 LLM 관련 트렌드를 블로그와 스레드, 페이스북을 통해 가장 빠르게 업데이트하고 있으며, 아키텍처로서 큰 그림에서 LLM 개발에 필요한 기술을 모두 알려줄 수 있는 ‘랭체인으로 실현하는 LLM 아키텍처’라는 책을 출판하였습니다. 책을 쓰는 와중에도 하루가 다르게 발전한 LLM의 모든 것을 담기 위해 이번 강의를 기획하고 감수하게 됐습니다.
단순한 SDK 사용뿐만 아니라, 실무에서 필요한 테크닉을 담았고
숲을 보아야 하는 LLM 아키텍처에 집중한 유일무이한 강의를 기획했으니, 이론형, 실습형에서 더 나아가 현업에서 바로 도입할 수 있는 강의를 원하신다면 함께 하세요.
아키텍처 기반 LLM
안녕하세요, 저는 조대협의 블로그로 IT 이론과 트렌드를 항상 정리하는 조대협의 블로그 주인장, 조대협이라고 합니다. 실리콘밸리에서 습득하는 LLM 관련 트렌드를 블로그와 스레드, 페이스북을 통해 가장 빠르게 업데이트하고 있으며, 아키텍처로서 큰 그림에서 LLM 개발에 필요한 기술을 모두 알려줄 수 있는 ‘랭체인으로 실현하는 LLM 아키텍처’라는 책을 출판하였습니다. 책을 쓰는 와중에도 하루가 다르게 발전한 LLM의 모든 것을 담기 위해 이번 강의를 기획하고 감수하게 됐습니다.
단순한 SDK 사용뿐만 아니라, 실무에서 필요한 테크닉을 담았고
숲을 보아야 하는 LLM 아키텍처에 집중한 유일무이한 강의를 기획했으니, 이론형, 실습형에서 더 나아가 현업에서 바로 도입할 수 있는 강의를 원하신다면 함께 하세요.
블로그
스레드
페이스북
기획자 소개
강사진 소개 >
국내에서 몇 안 되는 대기업에서 실제 LLM 프로덕션을 올려본 경험자,
AI 엔지니어 전현준 강사님이 말합니다.
강의 진행 & 질의응답(QnA)
전현준
현) OneLineAI / Product Engineer Lead & CTO
전) 카카오페이 / Data Engineer
전) 신한카드 / Data Engineer & MlOps
안녕하세요, 이번 강의에서 강의 파트를 맡은 전현준입니다.
이제 누구든 생성형AI를 활용하여 실제 서비스를 만들 수 있는 시대가 됐습니다. 저는 실제로 AI 프로덕션을 올려본 경험이 있습니다. 그러나, LLM 관련 스터디든 책들이 거의 모두 이론적으로 다가가다보니 실무적으로 이해해야 하는 내용이 빠져있었습니다. 실제로 실무를 하며 얻은 노하우를 기반으로 초보자인 여러분도 국내외 대기업의 AI 실무를 간접경험한다고 느끼실 만큼 현업을 재현한 실무 포인트로 탄탄히 채운 강의를 준비했습니다.
이번 강의는 명실상부 AI 베테랑들이 참여한 강의라고 생각합니다.
LLM 특화 기업의 CTO 로써, 대기업 프로젝트에서 AI 프로덕트 개발을 총괄했던 개발자가 실제 LLM 관련 기술과 LangChain 을 현실적으로 실무에 적용할 때
고려해야 할 점을 알려드리겠습니다.
전현준
현) OneLineAI / Product Engineer Lead & CTO
전) 카카오페이 / Data Engineer
전) 신한카드 / Data Engineer & MlOps
안녕하세요, 이번 강의에서 강의 파트를 맡은 전현준입니다.
이제 누구든 생성형AI를 활용하여 실제 서비스를 만들 수 있는 시대가 됐습니다. 저는 실제로 AI 프로덕션을 올려본 경험이 있습니다. 그러나, LLM 관련 스터디든 책들이 거의 모두 이론적으로 다가가다보니 실무적으로 이해해야 하는 내용이 빠져있었습니다. 실제로 실무를 하며 얻은 노하우를 기반으로 초보자인 여러분도 국내외 대기업의 AI 실무를 간접경험한다고 느끼실 만큼 현업을 재현한 실무 포인트로 탄탄히 채운 강의를 준비했습니다.
이번 강의는 명실상부 AI 베테랑들이 참여한 강의라고 생각합니다.
LLM 특화 기업의 CTO 로써, 대기업 프로젝트에서 AI 프로덕트 개발을 총괄했던 개발자가 실제 LLM 관련 기술과 LangChain 을 현실적으로 실무에 적용할 때
고려해야 할 점을 알려드리겠습니다.
Linkedin
이 강의, 딱 한 개만으로 실전 LLM 애플리케이션 완성.
그 9가지 포인트를 소개합니다.
| 커리큘럼
조대협 크루만의
입문부터 실전 LLM까지 단번에 끝내는 커리큘럼
Point 1
상위 1% 아키텍트의
LLM의 큰 그림을 보는 로드맵
실전 AI 개발의 인사이트를 키우는
체계적인 조대협 커리에 탑승하세요.
Basic. LLM 애플리케이션 개발을 위한 큰 그림
LLM 모델의 이해
LLM의 개념과 기본 동작 원리, LLM의 발전 이유 등 AI 언어모델이 무엇인지 학습합니다.
학습 내용
∙ LLM 모델의 기본적인 프롬프트 구조
∙ COT, ReAct 등의 다양한 프롬프트 패턴
∙ 프롬프트를 통한 LLM 모델 해킹을 방지하는 프롬프트 기법
LLM의 개념과 기본 동작 원리, LLM의 발전 이유 등 AI 언어모델이 무엇인지 학습합니다.
학습 내용
∙ LLM 모델의 기본적인 프롬프트 구조
∙ COT, ReAct 등의 다양한 프롬프트 패턴
∙ 프롬프트를 통한 LLM 모델 해킹을 방지하는 프롬프트 기법
LLM 애플리케이션 아키텍처
상용화 수준의 LLM 애플리케이션을 위한 아키텍처와
기본 아키텍처의 차이점을 알아보고 발전된 아키텍처의 요소를 파악합니다.
학습 내용
∙ LLM 애플리케이션의 기본 아키텍처
∙ 기본에서 확장된 LLM 애플리케이션 아키텍처
∙ LLM 모델 튜닝, 프롬프트 엔지니어링, RAG 비교하기
∙ 세이프티 필터, 프롬프트 선택기, 메모리 캐시 등 LLM 컴포넌트 소개
상용화 수준의 LLM 애플리케이션을 위한 아키텍처와
기본 아키텍처의 차이점을 알아보고 발전된 아키텍처의 요소를 파악합니다.
학습 내용
∙ LLM 애플리케이션의 기본 아키텍처
∙ 기본에서 확장된 LLM 애플리케이션 아키텍처
∙ LLM 모델 튜닝, 프롬프트 엔지니어링, RAG 비교하기
∙ 세이프티 필터, 프롬프트 선택기, 메모리 캐시 등 LLM 컴포넌트 소개
Deep Dive. LLM 아키텍처를 잘 짜기 위한 LangChain 세부 요소 완전 정복
| LLM 아키텍처를 잘 짜기 위한 랭체인 활용법
KEY POINT : 큰 아키텍처를 이루는 각각의 랭체인 컴포넌트들을 하나씩 예제와 함께 학습합니다.
▶︎ 학습 내용
각종 LLM 모델의 윈도우 사이즈, 가격 등에 대한 특성과
사용팁에 대해서 알아보고, 이 LLM 모델을 활용하여
LLM 애플리케이션을 개발하기 위한 오픈소스 프레임워크
랭체인과 그 구조에 대해서 알아봅니다.
▶︎ 학습 내용
랭체인을 이용한 LLM 모델 호출의 가장 기본단계로,
어떻게 LLM을 호출하는지, 다양한 호출 패턴인
동기/비동기 호출, 스트리밍 응답 및 배치 호출 방법 및
사용 용도를 배웁니다.
▶︎ 학습 내용
프롬프트를 구조화해 프롬프트 엔지니어링을 돕는 템플릿, 출력 양을 줄이는 Output Parser, 호출 속도를 높이는 캐싱 등 현업자라면 가장 궁금한 주제인 비용 절감에 필요한 LLM 컴포넌트들을 하나씩 이해합니다.
Deep Dive. RAG,멀티에이전트, 모델 평가/모니터링등의 고급 기법
KEY POINT : LLM 의 단순 활용을 넘어서 실무에 필요한 LLM Application 을 구현하는 방법을 배웁니다.
실전에서 가장 중요한 RAG 구현
▶︎ 학습 내용
RAG를 구축할 수 있는 방법에 대해서 알아보고,
큰 문서를 여러 작은 문장으로 쪼개는 다양한
Splitting 기법에 대해서 예제를 통해 체득합니다.
또한 RAG의 끝판왕인 GraphRAG까지 학습합니다.
요즘 대세인 Multi Agent 이해 및 실습
▶︎ 학습 내용
Agent의 툴(Tool)과 컴포넌트를 이해하고
ReAct 패턴을 이용하여 Agent를 구현하며
여러 개의 Agent를 동시에 사용하는 Multi Agent
개념을 배웁니다.
실무에서 랭체인보다 더 중요한 LangGraph
▶︎ 학습 내용
순차적으로 진행해야 하는 랭체인(Langchain)의 한계를
극복하고 체인의 능동성을 주는 LangGraph! 복잡한 AI 워크 플로우를 관리하기 위한 Langgraph를 개념부터 Multi Agent에 적용하는 예제까지 마스터합니다.
일반 강의의 챗봇과 차원이 다른
실무 압축적인 파이널 챗봇 프로젝트로 마무리
Point 2
지금 당장 실사용해도 손색이 없을
멀티 에이전트 기반의 챗봇 프로젝트
오픈소스 Langchain과 LangGraph를 기반으로 실전 깊이의 챗봇을 개발하며,
실리콘밸리 구루의 꿀팁을 실제 구현을 통해 체득하세요.
| 멀티 에이전트 프로젝트란?
아키텍처 기반으로 실무에 필요한 팁을 담은
Multi-Agent 챗봇 개발 프로젝트
일반적인 질문과 IT적인 질문에 구체적인 근거를 통해 대답하는 봇을 구현합니다. 단순 검색뿐만 아니라, 논리적인 추론이 필요한 복합적인 질문에 답변할 수 있으며, 주제를 구분하여 해당 분야에 특화된 전문적인 처리가 가능합니다.
가장 일반적인 챗봇 프로젝트를 통해 질문을 분석 및 분해하고, 각각을 Lang Graph 기반의 Agent로 구현하는 과정을 설명합니다.
각 질문들에 대한 해답을 찾는 과정에 다양한 도구들을 연결하는 것이 어려운데 해당 도구를 Agent화 하여, 전체적으로 하나의 Multi Agent 구조를 만들어 인간의 개입 없이도 분석/판단하는 워크플로우를 설정합니다.
일반적인 질문과 IT적인 질문에 구체적인 근거를 통해 대답하는 봇을 구현합니다. 단순 검색뿐만 아니라, 논리적인 추론이 필요한 복합적인 질문에 답변할 수 있으며, 주제를 구분하여 해당 분야에 특화된 전문적인 처리가 가능합니다.
가장 일반적인 챗봇 프로젝트를 통해 질문을 분석 및 분해하고, 각각을 Lang Graph 기반의 Agent로 구현하는 과정을 설명합니다.
각 질문들에 대한 해답을 찾는 과정에 다양한 도구들을 연결하는 것이 어려운데 해당 도구를 Agent화 하여, 전체적으로 하나의 Multi Agent 구조를 만들어 인간의 개입 없이도 분석/판단하는 워크플로우를 설정합니다.
| 멀티 에이전트 내 5가지 에이전트 역할 소개
| 단계별 구현 과정
| 프로젝트에서 활용되는 프레임워크 및 API 등 스택
| 프로젝트에서만 얻을 수 있는 실전 애플리케이션 개발 꿀팁
실무자들도 헤매는 부분까지 챙기는 완성도 200% 챗봇!
Gemini, ChatGPT 수준의 멀티 에이전트를 완성하세요.
진짜 실무자들이 싹-다 정리한 실전 Tips.
아주 빠르게 고성능 LLM 애플리케이션을
빌드할 수 있도록 만들어드리겠습니다.
Point 3
어벤저스의 경험이 담긴 15개+ 예제로
실전 LLM 운영 중 필요한 노하우를 한번에
실무에서 고민할만한 포인트들을 예제로 만들어,
이론을 배우면서도 계속 짚어줘요!
실무에서 겪어본 사람이 아니면 알지 못하는 LLM 업무 꿀팁 N가지
Multi Agent와 LangChain 기반 RAG의 장점을 극대화하는 노하우를
아래 예제를 통해 마스터 하세요.
실무를 해본 자들만이 알 수 있는 고충을 짚어주는 조대협 크루의 19가지 실전 Tips
★특별 혜택★
조대협 크루의 인사이트를 엿보는 혜택 2가지
강의 하나 구매해도
바로 상용 가능한 완성도 높은 실습코드까지!
사전 런칭 기념
특별 혜택
강사님들이 모두 함께 하는
비대면 실시간 세미나 개최
✓ 실전 LLM을 직접 경험한 강사진의 진솔한 질의응답
✓ 강의를 구매하기 전 궁금한 점이 생기면 바로 질문
✓ 트렌드와 커리어 등 고민에 대한 실리콘밸리 아키텍트의 인사이트 Get!
* 본 세미나는 25년 1월 23일 zoom Live를 통해 진행됩니다.
* 본 세미나는 강의를 결제하지 않은 분들께도 제공됩니다.
✓ 실전 LLM을 직접 경험한 강사진의 진솔한 질의응답
✓ 강의를 구매하기 전 궁금한 점이 생기면 바로 질문
✓ 트렌드와 커리어 등 고민에 대한 실리콘밸리 아키텍트의 인사이트 Get!
* 본 세미나는 25년 1월 23일 zoom Live를 통해 진행됩니다.
* 본 세미나는 강의를 결제하지 않은 분들께도 제공됩니다.
QUESTION 1
어떤 분들이
수강하시면 좋을까요?
수강하시면 좋을까요?
LLM에 대한 기초지식이 있으신 개발자,
실제 프로덕션 레벨로 LLM을 도입하고 싶은 개발자 분들께 추천드립니다.
LLM 입문자도 들을 수 있으며,
LLM 입문자가 Langchain 을 활용해서 자신이 구상한 Best 아키텍쳐로
프로젝트를 구성할 수 있도록 만들어 드리겠습니다.
QUESTION 2
조대협님의 Langchain 도서에서
추가 및 업데이트 된 부분은 무엇인가요?
추가 및 업데이트 된 부분은 무엇인가요?
도서는 0.0x ~ 0.1 정도의 버전을 커버했다면, 강의는 최신 버전업된 0.3 버전을 다룹니다. 예제 또한 해당 버전에 맞추어 변경하였습니다.
・ Legacy chain -> LCEL 로 전면 변경권고,
・ LangGraph Checkpointer 로의 Memory component 마이그레이션,
・ Pydantic v2 의 전면 적용,
・ LangGraph 를 메인으로 langchain 컴포넌트들은 지원을 위한 community 플러그인들의 체계적 분리.
등을 중심으로 업데이트되었습니다.
・ Legacy chain -> LCEL 로 전면 변경권고,
・ LangGraph Checkpointer 로의 Memory component 마이그레이션,
・ Pydantic v2 의 전면 적용,
・ LangGraph 를 메인으로 langchain 컴포넌트들은 지원을 위한 community 플러그인들의 체계적 분리.
등을 중심으로 업데이트되었습니다.
QUESTION 3
어떤 기술스택들이 활용되나요?
2025년 1월 6일 기준, 최신 버전업된 0.3 버전을 다룹니다.
langchain 0.3.4 / langchain-community 0.3.3
langchain_openai 0.2.1 / langchain-google-genai 2.0.1
langchain-anthropic 0.2.3 / gradio 5.4.0
google-cloud-aiplatform 1.70.0 / langchain-google-vertexai 2.0.3
langgraph 0.2.35 / langsmith 0.1.132
langchain_google_community 2.0.1 / google-cloud-discoveryengine 0.13.1
llama-index 0.11.19 / wikipedia 1.4.0
google-search-results 2.4.2 / youtube-search 2.1.2
chromadb 0.5.15 / langchain-chroma 0.1.4
datasets 3.1.0 / pinecone 5.3.1
langchain_pinecone 0.2.0 / sentence-transformers 3.2.1
langchain 0.3.4 / langchain-community 0.3.3
langchain_openai 0.2.1 / langchain-google-genai 2.0.1
langchain-anthropic 0.2.3 / gradio 5.4.0
google-cloud-aiplatform 1.70.0 / langchain-google-vertexai 2.0.3
langgraph 0.2.35 / langsmith 0.1.132
langchain_google_community 2.0.1 / google-cloud-discoveryengine 0.13.1
llama-index 0.11.19 / wikipedia 1.4.0
google-search-results 2.4.2 / youtube-search 2.1.2
chromadb 0.5.15 / langchain-chroma 0.1.4
datasets 3.1.0 / pinecone 5.3.1
langchain_pinecone 0.2.0 / sentence-transformers 3.2.1
QUESTION 4
수강생분들이 이번 강의를 수강한다면
어느 정도의 성장을 기대하시나요?
어느 정도의 성장을 기대하시나요?
LLM 의 단순 활용을 넘어서
실무에 필요한 LLM Application 을 설계하고 구현함에 있어서
어떤 점을 고려해야하는지, 어떤 것들이 중요한지 알고,
중요한 부분을 판단할 수 있는 능력을 기를 수 있게 될 것입니다.
본인이 LLM 입문자여도, 기본에서부터 실무 수준까지 끌어드리겠습니다.
그럼, 강의에서 뵙겠습니다.