Online Course.

대규모 언어모델 LLaMa를 활용한
프로젝트 구현과 Fine tuning

Meta AI의 언어모델 LLaMa 파헤치기

생성 언어모델의 기본 개념 및 종류와 함께 Meta AI에서 직접 개발한 대규모 언어모델 LLaMa에 대해 살펴봅니다.
LLaMa 와 Chat GPT 기술 비교 분석

Meta AI에서 개발한 LLaMa와 Open AI에서 개발한 Chat GPT의 핵심 기술과 개념을 비교 분석해봅니다.
LLaMa를 활용한 Fine tuning, Alpaca

대규모 언어모델 LLaMa를 활용하여 언어 모델 학습, 분산 학습, 명렁어 타입 대화 모델 학습 등을 위한 Fine tuning을 진행해봅니다.

지금 글로벌 IT 시장에서 가장 핫한 키워드는 단연,

Chat GPT가 쏘아올린 AI 기술 전쟁
글로벌 기업들의 경쟁이 치열해진 대규모 언어모델

Generative AI 시장이 가열되면서
수 많은 IT 기업들이 대규모 언어모델의 상용화와 시장 점유를 위해
비용을 더욱 줄이고 성능을 개선한 모델을 지속적으로 내놓고 있습니다.

그중 단연 주목을 받는 것은

Meta의 LLaMA

LLaMa는 왜 주목을 받고 있을까요?

LLaMA 와 ChatGPT 의 차이점은?

이제 ChatGPT 뿐만 아니라 다양한 대규모 언어모델 기술을 이해하고
현업에서 활용할 수 있는 경험은 앞으로 더욱더 중요해질 것입니다.

그래서, 준비했습니다!

IT 대기업 AI 엔지니어가 LLaMa 기술을 활용한 프로젝트 구현부터
Fine-tuning 까지 이 강의 하나로 모두 알려드립니다.

수강 후 3가지를 얻을 수 있습니다.

Point 1

Meta AI의 언어모델 LLaMa의
기술적 구성과 핵심 개념을 파헤치기

생성 언어모델의 기본 개념 및 종류와 함께 Meta AI에서 직접 개발한
대규모 언어모델 LLaMa에 대해 살펴봅니다.

Point 2

Distributed Training & Instruction modeling 통한
LLaMa 와 Chat GPT 기술 분석하기

대규모 생성언어 모델 훈련 분산학습 (Distributed training)과 Intruction Modeling을 통해
Meta AI의 LLaMa 와 Open AI 에서 개발한 Chat GPT의 핵심 기술과 개념을 학습해봅니다.

data parallel을 통한 multi-GPU 학습
Deepspeed ZeRO 알고리즘을 통한 메모리 efficient 학습

자동으로 만들어진 Instructon 데이터들로
해당 task를 모두 수행할 수 있도록 학습
Instruction tuning 통한 NLP task 및
Natural Language Instructions 예시 학습

Point 3

LLaMa를 활용한 Fine tuning 프로젝트 실습하기

대규모 언어모델 LLaMa 를 활용하여
언어 모델 학습, 분산 학습, 명령어 타입 대화 모델 학습 등을 위한
Fine tuning 모델인 Alpaca를 통해 실습 프로젝트를 실습해봅니다.

Alpaca와 같은 Fine tuning은 특정 작업, 도메인에 특화된 추가 학습데이터로
사전 학습된 언어모델의 매개변수를 업데이트함으로써 정확하고 높은 출력 생성이 가능합니다.

ChatGPT Fine tuning 모델인 Alpaca 를 활용하여
영어 챗봇 어플리케이션을 직접 만들어볼 수 있습니다.

*본 실습을 위한 번역 자막이 별도로 제공되지 않습니다

강사님 소개

Summer 강사님

[이력]
현) 국내 대형 IT 서비스 회사에서 머신러닝 엔지니어로 재직
전) LG CNS AI보안 분야 자연어처리 엔지니어로 근무

Q&A

Question 1.

어떤 분들이
수강하시면 좋을까요?

• ChatGPT 와 거대 언어모델에 관심 있는 AI 엔지니어
• NLP 엔지니어 취업을 희망하는 학부생 및 대학원생
• 최근 Generative AI 및 NLP 기술

Question 2.

필요한
선수지식이 있을까요?

• 기본적인 NLP 지식과 pytorch 사용법, 언어모델에 대한 이해가 필요합니다.
• huggingface 와 분산학습법에 대한 지식이 있으면 더 좋습니다.

Question 3.

개발 환경

• pytorch
• huggingface (transformers)

상세 커리큘럼.

자세한 커리큘럼 및 내용은 여기서 확인하세요!

자세히 보기 »

커리큘럼

대규모 언어 모델 LLaMa 의 원리와 기술에 대해 살펴보고,
Fine tuning 을 통한 모델 실습 및 어플리케이션을 배울 수 있습니다.

Part 1. Generative AI - Language models

Baseline

• Generative Language model
• Seq2Seq
• Attention is all you need, Transformer

GPT 모델

• Decoder-only model, GPT
• Encoder-decoder model, BART
• Multi-task learning of language model, GPT-2, T5
• Few-shot learning of languge model, GPT-3

Part 2. Instruction modeling and RL from human feedback

Prompt engineering

• Prompt engineering이란?

Instruction Fine Tuning

•Instruction_Finetune
•Instruction_Finetune - 2
•Instruction Fine tuning & Chain-of-thoughts
•Natural Instruction dataset - NLP 태스크 데이터셋
•UnNatural Instruction dataset - 언어모델이 생성한 데이터셋

Human feedback & RL, PPO algorithm

• Human feedback & RLHF

Part 3. Distributed training

분산학습

• data parallel
• tensor parallel, pipeline parallel
• DeepSpeed ZeRo
• huggingface trainer 로 학습하기

Part 4. LLaMa + Instruction = Alpaca

LLaMa 학습하기

•LLAMA 학습하기 - pretrain
•LLAMA 학습하기 - Instruction tuning

LLAMA Vs ChatGPT

• LLaMa vs ChatGPT (Instruct GPT)

Parameter Efficient Fine tuning

• Parameter Efficient Fine tuning

Part 5. Alpaca, ChatGPT 활용 + GPT-4

모델 서빙하기

• 모델 서빙하기 실습

GPT-4

• GPT-4
• Next step - GPT-4, 강의 마무리

코스 프로모션 배너 전용입니다.

0일 0시간 0분 0초 코스 프로모션 배너 전용입니다.

(자동)

정가 ~~(자동)~~

현재 판매가 (자동)

12개월 무이자 할부 시 (자동)

최저가로 수강신청

이 강의도 추천해요.

학습규정 * 본 상품은 동영상 형태의 강의를 수강하는 상품입니다.
* 상황에 따라 사전 공지 없이 할인이 조기 마감되거나 연장될 수 있습니다.

총 학습기간:
– 정상 수강기간(유료 수강기간) 최초 1개월(30일), 무료 수강 기간은 31일차 이후로 무제한이며, 유료 수강기간과 무료 수강기간 모두 동일하게 시청 가능합니다.
– 본 패키지는 약 10시간 분량으로, 일 1시간 내외의 학습 시간을 통해 정상 수강 기간(=유료 수강 기간) 내에 모두 수강이 가능합니다.
– 수강시작일: 수강 시작일은 결제일로부터 기간이 산정되며, 결제를 완료하시면 마이페이지를 통해 바로 수강이 가능합니다. (사전 예약 강의는 1차 강의 오픈일)
– 패스트캠퍼스의 사정으로 수강시작이 늦어진 경우에는 해당 일정 만큼 수강 시작일이 연기됩니다.

주의사항 – 상황에 따라 사전 공지 없이 할인이 조기 마감되거나 연장될 수 있습니다.
– 천재지변, 폐업 등 서비스 중단이 불가피한 상황에는 서비스가 종료될 수 있습니다.
– 본 상품은 기수강생 할인, VIP CLUB 제도 (구 프리미엄 멤버십), 기타 할인 이벤트 적용이 불가할 수 있습니다.
– 커리큘럼은 제작 과정에서 일부 추가, 삭제 및 변경될 수 있습니다.
– 쿠폰 적용이나 프로모션 등으로 인해 5만원 이하의 금액으로 강의를 결제할 경우, 할부가 적용되지 않습니다.

환불규정 – 환불금액은 정가가 아닌 실제 결제금액을 기준으로 계산됩니다.
– 쿠폰을 사용하여 강의를 결제하신 후 취소/환불 시 쿠폰은 복구되지 않습니다.

– 수강시작 후 7일 이내, 5강 미만 수강 시에는 100% 환불 가능합니다.
– 수강시작 후 7일 초과, 5강 이상 수강 시 정상 수강기간(유료 수강기간) 대비 잔여일에 대해 다음과 같이 환불 가능합니다.
환불요청일 시 기준
: 수강시작 후 1/3 경과 전, 실 결제금액의 2/3에 해당하는 금액 환불
: 수강시작 후 1/2 경과 전, 실 결제금액의 1/2에 해당하는 금액 환불
: 수강시작 후 1/2 경과 후, 환불 금액 없음

* 보다 자세한 환불 규정은 홈페이지 취소/환불 정책에서 확인 가능합니다.

패스트캠퍼스 정책 안내 [패스트캠퍼스 아이디 공유 금지 정책]
패스트캠퍼스의 모든 온라인 강의에서는 1개의 아이디로 여러명이 공유하는 형태를 금지하고 있습니다.
동시접속에 대한 기록은 내부 시스템을 통해 자동으로 누적되며, 이후 서비스 이용이 제한될 수 있습니다.

[기기제한 정책]
패스트캠퍼스 온라인 강의 시청을 위해서는 ID별 최대 3개의 기기를 등록할 수 있으며, 기기 등록은 온라인 강의장 접속 시 자동 등록됩니다.
최대 갯수를 초과하였을 경우 등록된 기기 해제가 필요합니다.

[저작권 정책]
패스트캠퍼스의 모든 강의는 무단 배포 및 가공하는 행위, 캡쳐 및 녹화하여 공유하는 행위, 무단으로 판매하는 행위 등 일체의 저작권 침해 행위를 금지합니다.
부정 사용이 적발될 경우 저작권법 위반에 의한 법적인 제재를 받으실 수 있습니다.

상세 커리큘럼.

root layout

대규모 언어모델 LLAMA를 활용한 프로젝트 구현과 Fine tuning