전이학습

"TFhub, 구글 머신러닝 엔지니어인 제가 잘 알죠" 딥러닝 마스터의 노하우는?

1. Intro.
2. 구글 머신러닝 엔지니어, 무하마드 칸입니다
3. 전이학습, 딥러닝 마스터로 향하는 지름길이죠
4. 구글 현직자가 전하는 5가지 노하우

Intro

영화 <매트릭스>(1999)는 AI가 지배하는 서기 2199년을 배경으로, 인간과 기계의 전쟁을 그립니다. 이미 여러 차례 반복된 인간과 기계의 전쟁. 전쟁에서 패배한 인간은 AI에 기억을 조작당하고, 급기야 진짜처럼 생생한 가상세계 ‘매트릭스’에서 진실과 허상을 구분하지 못한 채 살아갑니다. 주인공 ‘네오’(키아누 리브스)는 모피어스에게 이끌려 매트릭스에서 현실세계로 넘어오게 되고, 그동안 현실이라고 믿었던 매트릭스는 거대한 로딩 시스템에 불과하고 모든 것은 기계에 의해 연출된 허상임을 깨닫게 됩니다. 기계에 맞서 싸우기 위해 각종 지식과 기술을 로딩 시스템으로 배우게 된 네오. 마치 기계에 코드를 입력하는 것처럼 놀라운 속도로 정보 입력을 마친 그는 이렇게 외칩니다. “나 이제 쿵푸를 할 줄 알아!(I know Kung Fu!)”

인간 세계의 구원자 ‘더 원(The One)’의 운명을 타고난 네오는 매트릭스 세계와 현실을 넘나들며 육체와 정신을 단련합니다. 그리고 결국 매트릭스 프로그램을 상징하는 ‘요원’들과 정면 승부를 벌이게 되죠. 영화 <매트릭스> 속 ‘로딩 시스템’과 유사한 것을 현실 세계에서도 찾아볼 수 있다고 하는데요. 바로 ‘전이학습을 통한 딥러닝’입니다.

‘딥러닝’은 유능한 머신러닝 엔지니어가 되기 위해 반드시 갖추어야 하는 기술입니다. 딥러닝을 자유자재로 하는 딥러닝 마스터가 되기 위해서는 또한 반드시 ‘전이학습’을 잘할 수 있어야 하죠. 딥러닝을 막 시작한 초보자부터, 딥러닝 모델 구현에 쏟는 시간을 절약하고 싶은 현직 머신러닝 엔지니어라면 이 관문, 즉 ‘전이학습’을 반드시 거쳐야 합니다.

오늘 만나볼 ‘무하마드 칸(Muhammad Khan)’은 현재 글로벌 1위 IT 기업 ‘구글’의 구글 익스페리먼트(Google Experiment)팀 머신러닝 엔지니어입니다. 그는 최근 패스트캠퍼스 강의 ‘딥러닝 레벨업 with 전이학습 TensorFlow Hub’를 진행했는데요. 강의에는 TensorFlow Hub에 저장된 1,000개 이상의 사전 학습된 모델 TensorFlow Hub 중 NLP, 이미지, 오디오 3가지 분야의 가장 핵심적인 17가지 실습이 포함되었습니다. 무하마드 칸에게 직접 TensorFlow Hub를 이용한 전이학습이 직무 현장에서 어떻게 활용되고 있는지, 이것을 배우면 구체적으로 어떻게 도움이 되는지 들어보았습니다. 딥러닝을 좀 더 잘하고 싶은 머신러닝 엔지니어라면, 귀기울여 보세요!

구글 머신러닝 엔지니어, 무하마드 칸입니다

Q. 현재 구글 익스페리먼트팀의 응용 머신러닝 엔지니어로서 어떤 업무를 하고 있나요?

A. 저는 이곳 구글에서 시각적 스토리텔링에 대해 연구하고 있습니다. NLP를 활용해 자연어의 의미를 얻고, GAN을 활용해서 시각 자료를 그립니다.

제가 속한 구글 익스페리먼트팀의 머신러닝 엔지니어들은 하나같이 친절하고, 여러 방면에서 도움을 얻을 수 있는 사람들입니다. 저는 예전부터 미국 회사와 협업해왔지만, 다른 직장의 팀원들에 비해 지금 팀의 머신러닝 엔지니어들은 연구뿐 만 아니라 구현에도 능숙합니다.


Q. 영국 브래드포드(Bradford) 대학의 컴퓨터 공학 학사 과정에 무려 전액 장학금을 받으며 유학하셨는데요. 고향을 떠나 유학길에 오른 경험이 본인에게 어떤 영향을 미쳤나요?

A. 브래드포드 대학교는 훌륭한 학교입니다. 제 경력을 향상하는 데 정말 도움이 되었어요. 그곳에서 저는 멋진 교수들과 함께 일할 기회를 얻었고, 코딩 대회에 참가해 문제 해결 능력 향상에 많은 도움을 얻기도 했습니다.


Q. 유학을 마친 후 OZI 테크놀로지라는 곳에서 1년 3개월 동안 AR 및 VR 앱 게임을 만드는 소프트웨어 엔지니어로 일했지요. 소프트웨어 엔지니어 경력이 머신러닝 엔지니어로 성장하는 데에 어떤 기여를 했을까요?

A. OZI 테크놀로지에 합류하기 전까지 저는 머신러닝과 AI에 대해 잘 알지 못했습니다. 소프트웨어 엔지니어로서 OZI에 합류해 유니티3D 프레임워크에서 AR/VR 앱 작업을 진행했는데, 그 경력이 훗날 저의 큰 거름이 되었어요. 유니티3D를 사용해 컴퓨터 비전 애플리케이션용 합성 데이터를 생성하고, 강화 학습 로봇을 훈련시키며 인공지능을 잘 이해하게 되었습니다.

전이학습, 딥러닝 마스터로 향하는 지름길이죠

Q. 세계 1위 IT 기업인 구글의 머신러닝 엔지니어가 되기까지, 개인적으로 어떤 노력을 기울였는지 궁금합니다. 회사에서 쌓은 경력 이외에도 유능한 머신러닝 엔지니어가 되기 위해 크고 작은 도전을 거듭하지 않았을까 생각해요.

A. 글로벌 FAANG/MAANG* 회사에서 일하려면, 도메인 지식과 별개로 문제 해결 능력이 정말 중요합니다. 대학 재학 당시 저는 석사논문을 완성하며 진행했던 연구를 바탕으로 구글 익스피리언스에 취직하게 되었습니다. 석사를 마친 뒤 우연히 구글이 같은 문제를 연구하고 있다는 것을 알게 되었어요. 남들보다 유리한 조건이었다고 할 수 있죠.

* FAANG : 실리콘 밸리 대표 기업인 페이스북, 아마존, 애플, 넷플릭스, 구글의 이니셜을 따 일컫는 말. 페이스북 대신 마이크로소프트(MS)가 포함된 MAANG를 쓰기도 한다.


Q. 이제 막 딥러닝에 발을 들인 사람들 중 TensorFlow Hub를 이용한 전이학습에 대해 잘 모르는 사람도 분명히 있을 텐데요. 이 방식을 이용한 전이학습은 실무를 수행하는 데 얼마나 효율적인 도구인가요?

A. MAANG/FAANG 회사의 대부분이 전이학습 목적으로 사용할 수 있는 ‘사전 훈련된 모델’을 TensorFlow Hub를 통해 제공하고 있습니다. 따라서 TensorFlow Hub를 이용한 전이학습을 배울 가치가 충분하죠. 제 강의를 통해 ‘전이 학습이 무엇인지’, 또 ‘전이 학습에 TensorFlow Hub를 사용해야 하는 이유가 무엇인지’를 배울 수 있습니다.

구글 현직자가 전하는 5가지 노하우

Q. 선생님처럼 유능한 머신러닝 엔지니어가 되기를 꿈꾸는 수강생들이 분명히 있을 텐데요. 이번 강의를 통해 만나게 될 많은 수강생에게 전하고 싶은 메시지가 있을까요?

A. 몇 가지 알려드릴 수 있습니다. 첫 번째, 코드만 치는 사람이 되지 말고 좋은 문제 해결사가 되기를 바랍니다.

두 번째, 단순히 데이터를 가져와서 모델을 훈련시키는 것이 아니라, 그 이면의 수학을 이해해야 합니다. 배포를 목적으로 파이프라인을 구축하는 것도 중요합니다.

세 번째, 생산 환경에서 모델 드리프트에 대해 공부해야 합니다. 모델 드리프트는 입력 및 출력 변수 간의 관계 및 데이터 변경으로 인한 모델 성능 저하를 말합니다. 주로 시간이 지남에 따라 나타나는 현상이죠.

네 번째, 머신러닝의 자동화를 위한 설명 가능한 인공지능(explainable-AI)에 대해 알아야 합니다. 다섯 번째, 코드를 그대로 복사하지 마세요. 코드를 복사하고 붙여넣지 말라는 말이 아닙니다. 코드를 이해하고, 작동법을 아는 것이 중요합니다.

지금 패캐머들이 읽고있는 BEST 아티클이 궁금하다면

미디어 전체 보러가기 👉