01. On Device AI란?
- On Device AI가 필요한 이유
- On Device AI의 현실
- 쓸모있는 On Device AI를 위한 노력들
02. 모바일용 딥러닝 추론 엔진
- TF Lite, ncnn, Paddle-Lite, MNN, mace
- 왜 모바일 딥러닝 엔진이 따로 필요한가?
03. 스마트폰 OS에서의 딥러닝 지원
- Android NN API 상세 소개
- Google Media Pipe 소개
- iOS Core ML 소개
04. 딥러닝을 위한 임베디드 SOC (모바일분야)
- 퍼포먼스 vs 경량화, 소모전류와의 싸움
- Qualcomm Snapdragon, HiSilicon Kirin, Samsung Exynos, Mediatek Helio, Google Pixel Visual Core 소개
05. 딥러닝을 위한 임베디드 SOC (자동차 분야)
- 가장 중요한건 정확도, 신뢰성
- Renesas, TI, Nvidia, Qualcomm, NXP의 Deep Learning accelerator 소개
06. Edge 디바이스 딥러닝
- 딥러닝 전용 칩셋의 진화
- Google Egde TPU, Nvidia TX2, Intel Movidius, ARM ml processor 소개
07. 모바일에서의 딥러닝 최적화 기술들
- Parallel Computing (OpenGL, OpenCL Vulkan, OpenVX)
- SIMD (Noen, SSE)
- Multi Thread (Intel TBB)
- 최적화 라이브러리 : QNNPACK, XNNPACK
08. 임베디드 시스템에 딥러닝 이식하기 경험담
- 최적화와 범용성은 반댓말
- 1ms를 잡아라
- 마진은 필수
- 마른걸레도 쥐어짜기 : 최적화
- C/C++ 최적화 기술 적용하기