AI - Neural Network(인공신경망)

안녕하세요 Diana 입니다.

오늘은 AI의 기초가 되는 Neural Network에 대해 학습해보려고 합니다.

이 글은 3Blue1Brown의 But what is a neural network? 를 기반으로 작성되었으며 부족한 부분이 있을 수 있음을 미리 알려드립니다.

 

그럼 시작하겠습니다.

 

---

 

https://www.youtube.com/watch?v=wrguEHxk_EI

 

이런 사진은 Neural Network를 학습할 때 많이 본적 있는 그림일 것입니다.

우리는 이를 MutiLayer Perceptron(다중 레이어 퍼셉트론)이라고 부르며 이는 Neural Network를 설명하는 대표적인 이미지 중 하나입니다.

 

이는 인간의 신경계를 본떠 만들어졌으며 

우선 이 이미지의 각각의 개념에 대해 알아보도록 하겠습니다.

 

제일 왼쪽, 시작점에 해당하는 부분은 우리가 알고자 하는 데이터를 부분적으로 잘게 나눈 데이터를 의미합니다.

하나의 원은 Neuron(뉴런)이라 불리며 한국어로는 신경세포를 의미합니다. 이 뉴런들은 이미지의 부분적 데이터를 담고 있으며 이 뉴런에 담겨 있는 데이터들을 Activation(액티베이션)이라고 부릅니다.

 

그리고 위의 이미지는 2 Layer을 사용하고 있는데 저 내부 학습 레이어를 우리는 Hidden Layer(은닉층)라 부르며 Activation들이 이 Layer을 거치면 다음 Layer의 Activation이 결정됩니다.

 

그럼 이런 다중 레이어 퍼셉트론을 사용해 우리는 어떻게 숫자를 인식할 수 있을까요?

우선 사람이 숫자를 인식하는 것을 생각해봅시다.

 

4의 경우 우리는 세개의 선의 집합으로 쉽게 해당 숫자가 4임을 확인할 수 있습니다. 하지만 이 선에도 다양한 종류가 존재하죠.

여기서 컴퓨터는 이 선들을 잘게 나눕니다.

 

이미지는 28 x 28, 즉 784 픽셀로 이루어져 있는 Activation 값들입니다.

 

컴퓨터는 Activation 값들을 모아 하나의 Input Layer을 생성합니다.

그리고는 해당 Layer에서 반복된 패턴을 찾으며 훈련을 시작합니다.

 

그럼 위의 사진에서 하얀 선은 무엇일까요?

하얀 선은 가중치라고 하며 영어로는 weight라고 합니다.

각각의 Activation은 자신만의 가중치를 가지고 있으며 정확한 결과를 찾기 위해서는 이 가중치를 정확히 찾아내야 합니다.

그리고 우리는 Output Layer을 알아내기 위해 학습을 거칩니다. 이 학습을 통해 정확한 Weight와 Bias(역치) 값을 찾아내고자 하죠.

*역치: 신호가 특정 값(임계점)을 넘으면 1, 아니면 0

 

훈련하는 방식에는 다양한 방식이 있으며 이 부분은 컴퓨터에서 전부 알아서 해줍니다.

우리는 원리를 알기 위해 학습하는 것이지 직접 하는 것은 불가능에 가깝다 보면 됩니다.

 

간단히 원리를 알아보면 컴퓨터는 모든 activation을 벡터로 만들고 모든 가중치를 행렬로 나타냅니다. 즉 행렬과 벡터간의 곱셈과 동일한 것이죠.

 

여기서는 선형대수학이라는 개념이 사용되며 이걸 고려하며 뉴런을 다시 살펴보겠습니다.

 

바이어스는 하나의 벡터처럼 생각하며 행렬벡터 곱셈에 더하는 방식으로 사용되고 여기에 시그모드를 취해주는 원리로 학습이 진행됩니다.

 

이렇게 오늘은 인공 신경망(Neural Network)에 대해 알아보았습니다.

신입 때 소장님의 주도하에 진행한 스터디에서 학습한 적 있는 내용이었지만 오랫만에 다시보니 반가웠고 앞으로 계속해서 관련 학습을 진행해보려고 합니다.

 

감사합니다