기계학습 10 - CNN

고양이에 대한 실험을 통해 시각 정보가 들어올 경우, 시각 피질에 있는 뉴런들이 시야 일부 범위안에 있는 영역에 대해 활성화 되어

정보를 받아들인다는 것을 아게 됨

 

하나의 뉴런을 활성화 시키는데 영향을 미치는 시각정보영역을

수용장

 

시각 수용장의 역할을 컨볼류션 연산을 수행 해 신경세포로 전달

 

 

기존 다층퍼셉트론, 2차원 이미지를 1차원 벡터 형태로 변환 해보니 특징이 잘 보이지 않음

특정 영역 내에 있는 모든 픽셀 정보로 하나의 값을 생성하는 일을 합성곱이라고 함

 

합성곱 : 특정한 영역을 하나의 특징으로 변환하는 역할

풀링이라고 부르는 서브샘플링 계층을 도입

 

필터 : 평균필터, 박스필터 등

 

이미지는 픽셀 위치를 정의역으로 하고 픽셀의 색상을 치역으로 하는 함수

픽셀의 각 지점마다 색상 값이 변하는 방향으로 기울기를 구할 수 있음

 

값이 크게 변하는 곳을 감지하기 위해 라플라시안 연산을 적용할 수 있음

 

두번이상 미분할 함수가 있을 때 라플라시안을 함

하나의 필터가 아닌 32개의 필터를 모델의 파라미터로 두고 특성맵을 가져옴

 

합성곱 연산에서 이미지가 작아지는 거을 방지하기위해 padding작업을 함

 

컬러 이미지는 다수의 채널로 구성

 

최대값 풀링, 평균값 풀링

 

잡음 요소를 제거

 

픽셀의 값을 일부 변경하여도 최대값 풀링의 결과는 잘 안 바뀜

이동 불변성, 강건한 모델

 

 

합성곱, 풀링을 통해 모델 파라미터 개수를 효율적으로 줄여주어 전체 모델 복잡도가 감소

 

이 두 종류의 계층을 쌓아 나가는 형태

 

합성곱 -> 풀링 -> 합성곱 -> 합성곱 -> 합성곱

은 가능하나,

풀링 풀링은 이어질 수 없음

학습가능한 파라미터가 없기 때문에

 

 

1차원 벡터로 만드는 평탄화 과정 필요

 

합성곱 신경망 개선

 

희소 상호작용 : 국소적인 영역에 작은 필터를 적용하여 특징을 추출. 입력된 이미지의 모든 픽셀들 사이의 관계를 다룰 필요가 없어 입력 신호들 사이의 연결 개수를 크게 줄일 수 있음

 

파라미터 공유 : 여러 영역에 적용되는 합성곱 필터는 많은 수의 데이터를 처리하여도 작은 크기를 유지할 수 있고, 파라미터 수도 제한적.

연결강도를 곱하는 것이라는 점에서 파라미터 공유는 연산량 감소에 큰 역할, 더 깊은층 쌓을 수 있도록 함

 

개선

등변성표현.

 

전이 학습

이미 학습이 완료된 모델을 다른 목적에 맞춰 조금만 고쳐서 사용하는 것