올인원 패키지 : 실무 사례로 배우는 컴퓨터 비전 논문 구현과 알고리즘 성능 최적화

강의 미리 엿보기 👇

Previous SOTA Model

CNN Network를 구성하는 요소부터 이전의 SOTA Model 중 실무에 적용 가능한 모델들을 직접 구현해봅니다.

[1] AlexNet을 통해 CNN Network를 구성하고 있는 요소를 알아보고 코드로 구현합니다.

[2] Benchmark와 저사양 Device에 필수로 사용되는 이전 SOTA 모델을 살펴보고 코드를 구현해봅니다.

Background

실무에서 쉽게 배우기 힘든 정확도를 올리는 학습 방법과 AI 모델 메모리 사용량 계산에 따른 시행 착오를 줄여봅니다.

[1] DataSet의 크기가 커지면서 부족한 DataSet의 정확도를 높이는데 사용되는
Transfer learning에 대한 여러 방법론들에 대해 살펴보고 직접 코드로 구현합니다.

[2] Transformer 기반의 큰 규모 모델 학습에 필요한 시스템을 구성하기 위해 메모리 요구량을 계산해봅니다.

• 정확도를 높이기 위한 DataSet의 크기가 점점 커지면서, 그와 더불어 모델의 크기도 점점 증가하고 있는 추세입니다.
최신 GPU를 사용해도 GPU 한 개로는 학습이 어려운 모델이 많아지게 되었는데, 특히 Transformer 기반의 이미지 모델은 크기가 매우 큽니다.

• 현재 SOTA image classification 모델 중 가장 큰 모델인 CoAtNet-7의 크기는 2440m으로 Adam optimizer를 사용하여
최소 48.8GB + a의 메모리 용량이 필요해 최신 GPU인 H100(80GB) 혹은 A100(80GB)을 사용해야 학습이 가능합니다.
그래서 사용하고자 하는 모델이 회사 혹은 내가 가지고 있는 시스템에서 학습이 가능한지
그리고 필요한 환경을 미리 구성하여 시행 착오를 줄이고 학습에 필요한 메모리 요구량을 계산해봅니다.

Base model for SOTA model

SOTA 모델을 적용하기 위해 반드시 필요한 모델에 대해서 학습하고 코드로 구현해봅니다.

모델 Transformer

| 논문 : Attention is all you need (2017, NIPS)

>> 실무 적용 사례 : 최근 거의 모든 Language 모델의 기본 Architecture를 구성하는 블록, 쳇봇, 번역 등

모델 MobileNetV2

| 논문 : MobileNet V2 : Inverted Resuduals and Linear Bottlenecks (2018, CVPR)

>> 실무 적용 사례 : ETRI - DeepMobileAR이라는 서비스를 개발

모델 HRNet

| 논문 : Deep High-Resolution Representation Learning for Human Pose Estimation (2019, CVPR)

>> 실무 적용 사례 : 스포츠 영상 분석 - 골프 동작 분석을 통한 서비스

Latest SOTA model

최신 컴퓨터 비전의 SOTA들을 달성하고 있는 모델의 논문을 리뷰하고 코드로 구현해봅니다.

[1] Transformer와 Convolution을 결합하여 Convolution network와 Transformer의 장점을 살립니다.

[2] Transformer를 활용한 Computer Vision에 대해 알아봅니다.

[3] 여전히 유용한 Convolution Network에 대해 알아봅니다.

[4] Object Detection에 대해 알아봅니다.

[5] Sementic Segmentation에 대해 알아봅니다.

* 실습 내용(예제, 실습) 및 클립시간, 개수는 추후 일부 수정될 수 있습니다.