5개의 프로젝트가 sLM 학습에 꼭 필요한 이유는 무엇인가요?!

◆ 학습 목표

기업에서 sLM을 서비스화하기 위해 필수로 고려해야 할 대표 2가지 불용어/비속어 처리 & 보안 솔루션 구축 방법을 학습합니다.

◆ 학습 내용

-할루시네이션, 모델 편향성 문제 등의 sLM 보안 이슈 이해
- AI 서비스 내에서 발견한 불용어 & 비속어 처리
- 10개의 sLM 보안 솔루션 알아보기
- LLM Guard(sLM 보안) & Javelin(RAG 보안)을 활용한 sLM 보안 구축

◆ 학습 목표

건설, 조선 등 제조업 환경에서 전문적으로 쓰이는 비즈니스 용어의 이해, 현장에서 외국인 노동자들과 필요한 실시간 통역, 수만건의 특수 분야 도메인 자료를 해석 및 통역하기 위한 sLM 모델을 구축합니다.

◆ 학습 내용

- 한국어 LLaMA 모델 기반 그로크 & 허깅페이스 내에서 테스트
- 한글 기반 sLM 파인튜닝을 위한 데이터 셋 준비
- 파인튜닝 기반 한글 학습
- Sentence Transformer 기반 Vector Embedding
- RAG 구축 및 평가

◆ 학습 목표

프로덕트 런칭을 위한 기업 내부 기밀 문서, 인재 채용 문서 등을 GPT-4가 아닌
내부에서 처리해야 할 문서를 요약하기 위한 sLM 모델을 구축합니다.

◆ 학습 내용

- 네이버 뉴스 데이터 셋 기반 데이터 수집 및 요약
- 허깅페이스 내에서 Gemma 모델 준비 및 파인튜닝
- RAG 구현 하면서 LangChain을 활용한 요약 모델 구성
- G-평가를 활용한 sLM 성능 평가

◆ sLM 구축 시 고려해야 할 포인트

한글 이해 기능이 지원되지 않는 
sLM Gemma에서 한글 데이터를 학습하여
 sLM 모델이 한글을 이해할 수 있도록 고려

◆ 학습 목표

시뮬레이션 프로그램, 신소재/신약 개발 등에 필요한 화학식을 풀어서 이해하기 위한 용도의 화학식/수식 등 복잡한 수식 계산에 필요한 sLM 모델을 구축합니다.

◆ 학습 내용

- SFT, PEFT의 이해
- 수학 문제 추론 문제 데이터 셋 준비
- Phi-2 모델 기반 수식 문제에 최적화 된 모델 파인튜닝
- Multimodal 환경 구축
- LangChain을 이용한 Chain of Prompt 구축

◆ sLM 구축 시 고려해야 할 포인트

Text(텍스트 입력)와 Image(수학 문제 이미지)를 모두 인식하여 두 가지 sLM Task가 안정적으로 구현될 수 있게 고려

◆ 학습 목표

폐쇄망 기반의 Copilot 대비 음성 인식, 자율 주행, GPT-API 등 AI 모델을 프로그래밍화하고 코드를 생성하여 AI 서비스를 개발하는 분야에 필요한 코드 생성 sLM 모델을 구축합니다.

◆ 학습 내용

- MoE(Mixture of Experts) 방법론의 이해
- 코드 생성을 위해 필요한 기존 코드 데이터 수집
- 코드 생성에 최적화 된 모델 구성을 위한 Mixtral AI 파인튜닝
- Mergekit을 이용한 모델 병합 & Multimodal 환경 구축
- Promptfoo을 활용한 모델 평가

◆ sLM 구축 시 고려해야 할 포인트

MoE 방법론을 활용하여 2개 이상의 모델을 융합하면서도 빠른 답변 속도와 전문가 실력의 답변 퀄리티를 구현될 수 있게 고려

◆ 학습 목표

LLaMA-3와 Azure 환경에서 GPT 모델을 결합하여 기업의 한정된 자원 내에서 Task에 최적화 된 성능을 보여줄 수 있는Multi sLM 모델을 구축합니다.

◆ 학습 내용

- LLaMA-3를 활용한 Instruction Tuning 기법 이해 및 적용
- Azure 환경에서 GPT 모델과 LLaMA-3 모델 결합하는 방법
- Orchestrator Module, Agent 등 서비스 구성요소의 이해
- Azure AI Search를 이용한 Vector DB 설계 및 RAG 구현
- MS Azure 제공 API 활용 방법과 Gradio 기반의 서비스 배포

◆ sLM 구축 시 고려해야 할 포인트

- Q&A와 요약 2가지 Task를 한 번에 학습시켜 GPU 자원 절약
- 공통적인 패턴을 학습하여 일반화 능력 상승
- 다양한 Task를 한 번에 학습시켜 학습 시간 단축
- sLM의 견고성 구축