정개발의 "no more agile"

12. 수학을 포기한 직업 프로그래머가 머신러닝 학습을 시작하기 위한 학습법 소개 (1)

오늘은 일본의 유명 개발자용 지식공유 서비스인 Qiita에서 큰 인기를 끌고 있는 “수학을 포기한 직업 프로그래머가 기계학습을 시작하기위한 최단경로数学を避けてきた社会人プログラマが機械学習の勉強を始める際の最短経路“를 번역하여 소개해 보고자 합니다. 번역을 흔쾌히 허락해 주신 단노 류이치だんのりゅういち씨에게 감사의 말씀을 드립니다.

전체적으로는 선형대수에 대해서 쉽게 배우는 방법과, 무엇보다 머신러닝의 필수 과목으로 꼽히는 Andrew Ng교수의 머신러닝 강의에 대한 공략법/내용 설명이 주를 이룹니다.

빅데이터나 머신러닝에 대해서 한 번 공부는 해보고 싶었지만, 수학에서 좌절하여 문턱을 서성거리는 프로그래머들이 꼭 한번 읽어보면 좋은 내용이라 생각됩니다.

---

요즘 항간에서는 딥 러닝 같은 단어가 여기저기서 들려는 오는 바람에, 나도 머신러닝인지 뭔지 한 번 해 볼까 하고 생각해 오다 용기를 내어 두꺼운 알록달록한 책을 사긴 했는데 좀체 손이 가질 않고 나오는 수식만 봐도 머리가 아파오는 분. 그리하여, ‘그래 어차피 나 따위가 머신러닝 같은 거 할 수 있을 리가 없어’ 라는 한숨 섞인 자조 속에 눈이 저절로 감겨오는 분 이라면 잠깐 시간을 내어 이 글을 끝까지 읽어 보시기 바랍니다.

대상

공부에 많은 시간을 투자하기 어려운 직업 프로그래머
슬슬 윗사람이나 고객에게서 “이런 건 머신러닝 이용하면 간단하지 않어?”라는 말을 듣게 될 것 같은 분
이과에서 수학을 공부하긴 했지만, 미분이라던지 행렬 같은 거 누가 물어보면 난처해 지는 분

이 글에서 다루게 될 것

수학의 기본 지식에 익숙해지기 위한, 수학이 처음부터 나오지 않는, 프로그래머를 위한 수학 입문서의 소개
머신러닝의 초보자에게 알맞은, 머신러닝에 대한 온라인강좌(MOOC) 소개

환경

윈도우나 맥, 리눅스에서 사용 가능한 MATLAB/Ocatave라는 툴을 사용합니다.
종이와 팬을 준비해두면 이해를 돕는 데 편리합니다.

용어와 약어소개

PRML = 웹에서 머신러닝으로 검색하면 반드시 등장하는 약어입니다. Pattern Recognition and Machine Learning의 약자로, 머신러닝에서는 바이블이라 할 수 있는 책입니다. 이 글의 서문에서 소개한 알록달록한 책이 바로 이 책입니다.
MOOC/MOOCs = Massie Open Online Course(s)의 약자. 인터넷 상에서 무료로 수강 가능한 오픈 강좌를 말합니다. 이번에 여러모로 많은 도움을 받고 있습니다.

---

초보자의 머신러닝학습 흐름

“전혀 머신러닝은 공부한 적이 없고, 책을 좀 읽을라치면 수학공식이 나오는 바람에 어디서부터 시작해야 할 지 모르겠습니다” 라는 프로그래머에게, 제 자신의 실제 경험을 바탕으로 권해드리는 방법은 다음과 같습니다.

행렬이라던지 백터를 모른다면, 동영상을 봐도 중간에 무슨 소리인지 알 수가 없습니다. 따라서 프로그래머를 위한 수학책을 먼저 읽을 필요가 있습니다.
Coursera라는 온라인 강좌의 회원이 되고, 스텐퍼드 대학의 Andrew NG(앤드류 응)교수의 Machine Learning강의(무료)를 듣습니다.

그럼 이제부터 자세히 살펴보겠습니다.

프로그래머를 위한 수학 책

프로그래머 여러분들은 게이밍라든지 소프트웨어라든지 설명서를 읽기보다는, 어떻게든 일단 프로그램을 짜서 움직이는 것을 보면서 생각하자는 식의 사고 회로가 형성되어 있다고 생각합니다.

하지만 이 머신러닝에 대한 공부라는 것은, 수학적인 기초가 없는 상태에서 진행하려고 하는 게 게임으로 비교하자면 변변한 무기도 없이 어려운 던전에 들어가는것과 마찬가지라서 금방 벽에 부딪히게 됩니다.

머신러닝에 대한 책은 미분 적분과 선형대수를 알고 있다는 것을 전제하고 있기 때문에, 갑자기 모르는 수식이 튀어나오는 것은 바로 그 부분에 대한 지식이 없는 것이 원인입니다.

위에 설명한 코세라의 머신러닝 과정은 그러한 수학 지식이 없어도 들을 수 있게 배려하고 있으며, 중간중간 해설도 해주는 프로그래머 친화적인 교육 코스입니다.

그래도 최소한 행렬과 백터의 취급에 익숙하지 않으면, 중간중간 튀어나오는 행렬조작에 대한 내용들을 이해 못하고 이게 뭔가 라는 상태가 되기 쉽습니다. 그래서 사전에 준비운동 정도로 익혀 두는것이 좋습니다.

프로그래머를 대상으로 추천할 만한 선형 대수학 강의/책은 여기 입니다. (역자주:원문에서는 일본어로 된 서적:프로그래밍을 위한 선형대수학(히라 카즈유키 저)을 소개하고 있어, 한국에서 접할 수 있는 선형대수 관련 강의/책으로 대체하여 소개해 봅니다↓)

칸아카데미 선형대수 강의(한글자막)
뭐 설명이 필요 없습니다. 마치 어딘가의 광고에 나오는 문구처럼, 씹을 필요도 없이 보기만 하면 머리속에 쏙쏙 들어오는 명 강의입니다.
코딩 더 메트릭스
파이선을 이용해 여러가지 선형대수의 문제를 푸는 법에 대하여 설명하고 있습니다. 머신러닝에 있어서 많은 예제들이 파이선으로 작성되어 있으므로, 파이선이 익숙치 않다면 이번 기회에 다뤄보는 것도 좋을 듯 합니다. Coursera에서 하는 동명의 강의도 같은 내용을 다루고 있으며, 프로그래머를 위한 선형대수를 자세히 다루고 있으므로 추천할 만합니다.

개인적으로는 바로 다음에 소개할 머신러닝 과정을 이해하는 데 필요한 최소의 지식이, 행렬의 곱이라고 생각합니다. 중요한 것은 머릿속에서 어떻게 이미지를 그려나가야 하는 지를 알아야 하는것 같습니다.

저는 행렬 수식의 어디에 어떻게 주목하지 않으면 안 되는 것인지 전혀 이해할 수 없었습니다만, 행렬의 진정한 가치는 사이즈의 변환에 있다는 것을 알게되었습니다. ( 역자주 : 칸아카데미의 Scaling vector에 나오는 예제들을 충분히 다뤄보시기 바랍니다)

머신러닝 강의를 수강한다

머신러닝 초보자에게 추천하는 것이 지금부터 소개하는 온라인 강좌입니다. 등록 방법은 여기에서 설명하지 않겠습니다만, 여렵지 않게 계정을 만들고 수강신청을 할 수 있습니다.

이 강의를 추천하는 이유는 다음과 같습니다.

공짜다
머신러닝에서 초심자에게 필요한 지식을 개념을 통해 설명해 줍니다.
어렵지 않은 수준의 영어로 강의가 진행됩니다. (역자주: 2015년 5월 현재 이 강의의 모든 동영상들은 일본어 자막은 지원하지만, 한국어 자막은 소개 부분의 일부분만 지원되고 있습니다)
영상 강의 뿐만 아니라 시험도 봅니다. 실제로 프로그램 결과를 제출해야만 합니다. 그래서 자신이 이해하고 있는지 여부를 알기 쉽습니다.
시험은 여러 번 제출을 할 수 있기 때문에 혹시 잘 못하면 어쩌나 라는 생각을 하지 않아도 좋습니다.
기한이 따로 없습니다. 자신의 페이스에 맞춰서 학습을 진행할 수 있습니다.
동영상 다운로드가 있기 때문에 열차 안에서도 보기 쉽습니다.

장점이 많은 강의이지만, 온라인 강의의 특성상 통제 불가능한 부분도 있습니다.

기한도 없고 돈도 내지 않기 때문에 중간에 그만둬 버리기 쉽다

사실, 강좌를 시작하는 사람 수에 비해, 끝까지 마치는 사람의 비율은 매우 낮다는 데이터가 있다고 합니다. 그래서 마지막으로 필요한 것은 ‘강철의 의지’ 입니다. 혼자 하기 어렵다면 친구나 동료를 모아 함께 배워나가는 것이 좋을지도 모릅니다.

역자주: 그렇습니다. 이 강의는 혼자 듣기가 참 어렵습니다. 일단 18주(무려 4달 반에 해당한다!)에 이르는 양도 양이지만 연습문제풀이 등에서 막히면 혼자 풀어나가기가 참 어렵습니다. 주변의 널널한 프로그래머, 혹은 수학이나 통계학 전공자들을 꼬득여 온라인 스터디 그룹을 만들고 1주일에 한 번씩 서로의 진도를 체크해 주며 격려해 나가는 것도 한 가지 좋은 방법이 되리라 생각합니다.

---

머신러닝 과정의 내용

머신러닝 수업에 대한 소개 페이지입니다.

여러가지 WEB페이지에 같은 내용의 소개가 있습니다만, 시기에 따라 코스 수나 조건이 달라지는 것 같습니다. 이 글의 내용은 2015년 5월 현재 오픈된 코스를 기준으로 소개합니다.

1. Introduction(소개)

머신러닝이라는 게 대체 무엇인지, 어디서 쓰는 것인지에 대해서 설명하고 있습니다. 아울러 사용할 툴의 설치 방법을 설명하고 있습니다.

동영상은 물론 자막이 있으며, 아직 한국어 자막은 소개 이외엔 제공되고 있지 않습니다만 영어 자막을 켜거나, 일본어가 가능하다면 일본어 자막을 선택할 수 있습니다.

설명은 윈도우즈라면 MATLAB를 설치하는 것부터 시작합니다. (이 과정을 수강하면 무료로 사용할 수 있습니다.) Linux / Mac OS X라면 Octave를 인스톨합니다.

각 장에서 토론을 할 수 있는 게시판 같은 곳이 있는데, 아무 것도 쓰지 않아도 과정을 끝까지 수료하는 데엔 아무 문제가 없으므로 인스톨 이외엔 무시하고 넘어갑시다.

2. Linear Regression with One Variable(변수의 선형 회귀)

여기서부터 실전으로 들어갑니다. 머신러닝의 출발은 선형 회귀라는 것을 알 수 있습니다.

또한 이 장에서는 앞 장에서는 없었던, Review라는 이름의 테스트가 있습니다. 테스트는 5 문항 중 4 문항 이상을 맞춰야 통과가 되는데, 단순 객관식이 아니라 복수 선택이라든지, 계산하여 숫자를 써 넣는 식으로 시험이 진행됩니다. 게다가 어려운 것은, 매번 출제되는 순서나 내용이 바뀌므로, 한 번 통과했다 하더라도 다시 시험을 보았을 때 떨어지는 경우도 있습니다.

더 나아가 이 테스트는 꼼수를 막기 위해서, 3회 동안 패스(4문제 이상 정답 제출)하지 못하면 8시간 이내에 시험을 볼 수 없는 패널티가 주어지게 됩니다. (패널티는 이것 뿐입니다.)

패널티를 받게 되면 아래 사진처럼 몇 분 내기라는 표시가 뜨게 됩니다.

테스트를 통과하지 못한다 하더라도 다음 진행을 못하는 것은 아니므로, 혹시나 패널티를 받게 된다면 그냥 다음 진도를 일단 나가는 것이 좋습니다.

3. Linear Algebra Review(선형 대수학 복습)

선형 대수학을 모르면 앞으로 진행할 수 없다는 것을 잘 알려주는 장입니다. 기초에 대해 많은 공을 들여 친절하게 시간을 투자하고 있습니다. 머신러닝에 사용되는 행렬이나 벡터에 대한 개념을 이 장에서 잡으셔야 합니다.

이 장의 Review는 좀 달라서, 이 장에서 한두 번 치르게 되는 확인시험과 동일한 평가를 Review 형식으로 취합니다. 따라서 클리어한다고 해도 전체 성적에 반영되지는 않습니다. 혼동하지 않도록 주의합시다. 이 후로도 이러한 형태의 시험은 여기 뿐입니다.

칼럼 출처
http://www.moreagile.net/2015/05/how-to-start-machine-learning-study.html

♣에디터 : 이번 편은 내용이 길어 원문을 반으로 잘라 올렸습니다. 나머지 내용은 다음 편에 이어집니다 ;)

정개발의 "no more agile" - 12. 수학을 포기한 직업 프로그래머가 머신러닝 학습을 시작하기 위한 학습법 소개 (1)