점차 다가올 AI 서비스의 핵심 경쟁력은,

LLM의 고성능 추론 능력에 달려 있습니다.

DeepSeek 출현 이후 고성능 추론 기술이 AI 업계의 판도를 바꾸며,
OpenAI와 Meta를 비롯한 글로벌 기업들의 새로운 패러다임이 되고 있습니다.

ImageSlide
ImageSlide
ImageSlide
ImageSlide

이런 흐름에 따라 글로벌 기업의 리더들도
고성능 AI 서비스 개발에 필요한 LLM 추론 성능을 높이기 위해
공격적인 투자를 감행하며 촉각을 곤두세우고 있습니다.

최근 화제가 되고 있는

OpenAI vs DeepSeek

Open-Ko & Open LLM 리더보드 최장기 1위 달성자 이승유와 함께하는
‘오픈소스 LLM으로 인프라 투자 없이 고성능 AI 모델 개발하기’

“ 실제 고성능 LLM을 구축하고
활용할 수 있는 실용적인 역량을 기를 수
있도록 강의를 구성했습니다. “
최근 LLM(대형 언어 모델) 분야는 빠른 발전을 거듭하며, OpenAI O1, Llama 3, DeepSeek R1, Claude 3.5 Sonnet 등 최신 모델들이
등장하고 있습니다. 이러한 모델들은 단순한 성능 개선을 넘어, 보다 효율적인 학습과 추론, 최적화된 비용 관리, 그리고 실질적인 활용성을 고려한 설계로 빠르게 진화하고 있습니다.

하지만, 이러한 변화 속에서 최신 기술을 정확하게 이해하고, 이를 실무에 적용하는 것은 쉽지 않은 도전입니다. 그래서 이번 강의에서는 Test Time Scaling(TTS), Chain of Thought(CoT), Reinforcement Fine-Tuning, Sharpening Mechanism 등 최신 연구에서 다루고 있는 핵심 기법들을
학습하고, 이를 직접 구현하며 실무에서 활용할 수 있도록 강의 내용을
구성하였습니다. 또한, Inference와 Training 별로 Cost를 최적화하는 방법을 이해하고, 모델을 효율적으로 운영할 수 있는 방안도 함께 다루게
됩니다. 단순히 이론을 배우는 것이 아니라, 실제로 고성능 LLM을 구축하고 활용할 수 있는 실용적인 역량을 기를 수 있도록 강의를 준비하였습니다.

인프라 투자를 최소한으로 줄이면서 오픈소스 LLM으로

 DeepSeek R-1 급 성능의 LLM 모델을 개발할 수 있습니다.

2개의 파이널 프로젝트를 구현하면서 Deepseek R-1 급
성능을 보여주는 LLM 모델을 개발할 수 있습니다.

Final Porject 1.
인프라 투자 없이 오픈소스 LLM을 활용! DeepSeek R-1 
벤치마크 수준 스코어링 기록해볼 수 있는 프로젝트 실습

Test Time Scaling(Inference Cost 극대화) 기법으로 LLM의 답변 정확도를 높여 2025 수능 언어 영역 화법과 작문에서 DeepSeek R-1 
벤치마크 수준의 스코어링을 기록해볼 수 있습니다.

Final Project 2.
Test Time Scaling 기법을 적용한 LLM에 RL을 적용!
고성능 파운데이션 모델급 성능을 보여주는 추론 LLM 개발

증류 가능한 sLM에 RL(강화학습) 방식을 적용하여 LLM 모델 추론 성능을 높이는 방법을 학습하면서 DeepSeek R-1과 동일한 성능을 보이는 LLM 
모델을
직접 실습하면서 개발해볼 수 있습니다.

이승유 강사님과
패스트캠퍼스가 준비한

오픈소스 LLM으로 인프라 투자 없이
고성능 AI 모델 개발하기 핵심 4가지 학습 포인트

Point 01

글로벌 Top 4 LLM이 두드러지는 성능을
보여주고 있는 이유 학습
최근 화제가 되고 있는 OpenAI o1, DeepSeek R-1부터 Meta, Anthropic 등
글로벌 AI 기업들이 개발한 LLM의 추론 구조를 학습합니다.
Point 02

LLM을 직접 훈련하면서 AI 서비스의
성능을 높일 수 있는 방법 학습
Training / Inference 단에서 추론 성능을 높이는 방법을 적용하여
고성능 AI 서비스를 개발하기 위한 방법을 학습합니다.
Point 03

오픈소스 LLM 모델로 DeepSeek R-1 급
벤치마크 수준의 성능을 낼 수 있는 프로젝트 실습
오픈소스 LLM으로 2025 수능 언어영역 화법과 작문 문제를 풀이합니다.
Inference Cost를 극대화하여 DeepSeek R-1이 달성한 점수까지 점수를
끌어올려 높은 추론 성능을 보여줄 수 있는 프로젝트 실습을 진행합니다.
Point 04

이승유 강사님과
직접 주고 받는 질의응답 커뮤니티
강의 수강 후 궁금한 점은 언제든 질문 가능한 질의응답 및 고퀄리티 AI
서비스 개발 노하우를 얻어갈 수 있는 수강생 전용 커뮤니티 운영!
운영 기간(2025년 3월 14일 ~ 2028년 3월 14일)
ImageSlide
ImageSlide
ImageSlide
ImageSlide
ImageSlide
ImageSlide

현 시점 개발자들이 가장 궁금해 할 핵심만 뽑아서 준비했습니다!
지금 바로 확인하세요!

Point 01

OpenAI o1부터 Claude까지, 글로벌 Top 4 LLM을
활용한 고성능 AI 모델 개발 방법 학습

현재 시장에서 가장 많은 선택을 받고 있는 LLM 모델들의 추론 구조와
이를 활용하여 AI 모델 개발 시 높은 성능을 낼 수 있는 방법을 학습합니다.

Slowly Thinking, Inference 비용을 높여서 CoT 기법을 적용한 OpenAI o1

| 학습 목표
강화학습(RL) 방식을 활용하여 까다로운 문제를 더 간단한 단계로 세분화하여 모델
추론 능력을 극적으로 향상시킬 수 있는 방법을 학습합니다.

| 주요 학습 내용
- CoT(Chain of Thought) Boosting 기법으로 단일 추론과 비교 시 더
정확하고 안정적인 결과를 도출하는 방법을 학습합니다.
- 특정 문제에 더 많은 추론을 요구할 경우 동적으로 리소스를 할당하여 성능을

 최적화하는 방법을 학습합니다.

강화학습과 MoE 아키텍쳐를 활용하여 OpenAI o1 추론

성능을 능가하는 모델을 개발해 낸 DeepSeek R-1

| 학습 목표
오픈 소스로 시작해서 OpenAI o1급 모델 성능을 낼 수 있었던 DeepSeek의
모델 추론 성능 개선 방법을 학습합니다.

| 주요 학습 내용
- 그룹 내 상대적인 우위를 기반으로 보상 모델을 업데이트해서 계산 복잡도를
줄이는 GRPO 기법을 학습합니다.
- 대형 모델의 추론 능력을 소형 모델로 전이하면서 모델이 높은 성능을 유지할 수 있는 방법을 학습합니다.

GQA(Grouped Quary Attention)를 적용하여 추론 속도를 빠르게 진행하면서 성능을 유지하는 Meta LLaMA-3

| 학습 목표
대규모 언어 모델에서 방대한 양의 문맥 표현력과 빠른 추론 속도를 모두 활용하기 위해 MQA와 MHA의 장점을 결합한 GQA 방법론을 활용한 추론 구조를 학습합니다.

| 주요 학습 내용
- 사전 학습(Pre-Training) 과정과 LLM 훈련 시 Context Length를 고려하여
긴 문맥을 처리하는 방법을 학습합니다.
- LLM에서 Inference 성능을 유지하면서 메모리 절약이 가능하여 효율적인
trade-off를 조절하는 방법을 학습합니다.

설명 가능적 특성을 활용하여 LLM을 분석하고 해석 가능한 Feature로 분해하여 모델을 구성한 Claude-Sonnet

| 학습 목표
LLM 모델이 내부 구조를 잘 이해하고 예측을 제어하거나 수정하는 방식으로 모델 성능을 개선한 Claude-Sonnet의 추론 구조를 학습합니다.

| 주요 학습 내용
- 모델의 활성화 값을 분해해 각 특징이 단일 의미를 지닐 수 있는 방법을 학습합니다.
- Alignment Faking 현상을 이해하고 LLM 훈련 과정에서 이를 방지하기 위한
Alignment 검증 절차와 Red-Teaming 기법을 활용하는 방법을 학습합니다.

최근 DeepSeek R-1 모델 출현 이후에도 OpenAI o1 급 이상의 성능을 보이며
DeepSeek와 동일한 사고 추론 능력을 보유한 Kimi K 1.5 모델도 같이 학습 합니다.

RL(강화학습)을 적극적으로 활용하여 LLM이 직접적으로
사용자의 피드백 기반 Policy를 최적화 한 Kimi K 1.5
| 학습 목표
LLM 모델이 출력을 평가하는 Reward Modeling과 PPO 알고리즘으로 모델을
업데이트하는 Process Reward 방식으로 추론 성능 개선 방법을 학습합니다.

| 주요 학습 내용
- Reward Modeling 학습과 Adaptaive Learning Rate으로 모델의 베이스
아키텍쳐 구조를 먼저 학습합니다.
- RL을 활용한 Policy Optimization과 Kimi의 핵심 방법론인 ‘커리큘럼’ 을 활용하여 장기적으로 난이도를 올리는 방향으로 모델 추론 성능을 높이는 방법을 학습합니다.

Point 02

AI 서비스를 개발하면서 자원 조건에 따라
LLM의 답변 정확도를 높이는 전략 학습

LLM을 활용하여 AI 서비스를 개발하면서 추가로 자원을 들이지 않고
모델의 답변 정확도(추론 성능)를 높일 수 있는 방법을 학습합니다.

Method 01
Test Time Scaling 기법을 활용하여 Inference 효율로 모델 추론 성능을 극대화하는 방법을 학습합니다.
Pre-Training 과정에서 자원 부족으로 고품질의 AI 서비스 개발이 어려울 때 Inference Cost로 모델 추론 성능을 높이는 방법을 학습합니다.