KAKAO AI REPORT Vol. 1.
“90년대와 2000년대 초 아무도 신경망(Neural Network)을 주제로 논문을 쓰려고 하지 않았어요. 성과가 나지 않는다는 이유였죠. 학생들에게 논문을 쓰게 하려면 손목을 비틀어야 할 지경이었습니다.” 2014년 경우 캐나다 몬트리올에서 열린 지능정보처리 시스템 학회(Neural Information Processing Systems, NIPS). 요슈아 벤지오(Yoshua Bengio) 몬트리올대 교수가 지난 시절의 고충을 털어놓았다. 신경망 개념은 이미 1950년대부터 제기된 내용이었지만, 2010년대까지 AI 연구에서 큰 성과를 보여주지 못했다. 오래된 개념이고, 성과도 없다는 이유로 모든 학회나 저널에서 논문 게재를 거절하곤 했다. 87년 이후 해마다 겨울에 NIPS 학회에 참석했던 전문가들은 이른바 AI 기술의 겨울(AI Winter)이었던 오랜 시절을 함께 돌아봤다. 얀 레쿤(Yann LeCun) 뉴욕대 교수, 제프리 힌튼(Geoffert Hinton) 토론토대 교수, 앤드류 응(Andrew Ng) 스탠퍼드대 교수 등 지금은 ‘AI 4대 천황’으로 꼽히는 이들 모두 그 시절 춥고 어려운 시기를 거쳤다. 현재 레쿤 교수는 페이스북, 힌튼 교수는 구글, 응 교수는 바이두에서 AI 핵심 기술 개발을 위해 모셔간 상태다. 벤지오 교수는 IBM, 구글 등과 공동 연구를 하고 있다.
KAKAO AI REPORT Vol. 2.
신경망과 인간의 뇌 구조가 유사하다는 비유는 마치 (AI 연구자들이) 인공 뇌를 개발하고 있는 것으로 믿게 한다. 그러나 인간의 두뇌가 어떻게 움직이는지에 대한 정보는 없다. 인간의 뇌와 똑같이 작용하는 컴퓨터를 만드는 방법에 대한 정보는 더더욱 없다. 신경망이 인간의 뇌 구조와 유사하다고 하지만, 사실 ‘신경망’과 ‘뇌’ 구조는 너무나 다르다. 신경망은 너무나 간단한 개념이다. 단순한 기계학습 예를 토대로 설명하겠다. 주택 거래에 필요한 데이터로 가로축을 주택의 크기, 세로축을 매매 가격으로 구성한 데이터 세트가 있다고 치자. 그리고 주택의 크기를 입력하면, 매매 가격이 출력되고록 구조를 만들자. 그리고 이 두 변인 간의 관계를 나타내는 함수를 뉴런으로 가정하자. 신경망은 여러 가지 뉴런을 연결해 놓은 것이다. 가격 외 침실의 개수, 주택의 장소 등이 추가적으로 신경망의 입력 변인이 될 수 있을 것이다. 학습된 신경망은 특정 입력 변인 값을 넣으며, 망 스스로가 결과값을 제시한다. 대량의 데이터로 학습을 시키면 이 수준은 달성될 수 있다. 앞서의 구조는 너무나 간단해 보인다. 그래서, 대학에서 신경망을 수학적으로 풀 때마다 ‘정말 이렇게 간단한 것인가?’라는 약간의 실망감을 얻기도 한다. 그리고 ‘뭔가 속이고 있는 것 같은데’라는 생각이 들기도 한다. 그런데 데이터를 입력해보면, 무리 없이 작동한다. 신경망 네트워크에서 소프트웨어는 일부이며, 실제 수행 능력은 대량의 데이터에 의해 좌우된다.
