오토인코더Autoencoder

줄이는 쪽과 되살리는 쪽이 한 쌍이에요

구조는 두 부분으로 되어 있어요. 앞쪽은 들어온 자료를 점점 작은 숫자 묶음으로 줄여 가고, 뒤쪽은 그 묶음만 받아 원래 크기의 결과물을 만들어요. 가운데 가장 좁은 자리에 있는 값이 악보에 적힌 내용에 해당해요.

두 부분은 따로 배우지 않아요. 되살린 결과가 원본과 얼마나 다른지를 재서 그 차이를 두 쪽에 함께 돌려줘요. 적는 쪽이 엉성하게 적으면 연주하는 쪽도 어쩔 수 없고, 잘 적은 악보라도 연주가 서툴면 결과가 나쁘니까 둘을 같이 손봐요.

훈련이 끝나면 두 부분을 떼어 따로 쓸 수 있어요. 줄이는 쪽만 꺼내면 자료를 짧은 값으로 요약하는 도구가 되고, 되살리는 쪽만 꺼내면 짧은 값에서 결과물을 만들어 내는 도구가 돼요.

정답표가 자기 자신이에요

보통의 학습에는 사람이 붙여 준 정답이 필요해요. 사진마다 이름표를 달고, 문장마다 옳고 그름을 표시해야 하죠. 오토인코더는 그 일이 필요 없어요. 들어온 자료가 곧 정답이라서, 사진만 잔뜩 모아 두면 그대로 연습 문제가 돼요.

이 성질 덕분에 이름표가 없는 자료를 마음껏 쓸 수 있어요. 공장에서 찍은 부품 사진, 서버가 남긴 기록, 녹음 파일처럼 정리되지 않은 자료가 그대로 학습 재료가 돼요.

다만 목표가 "그대로 되살리기"라서 자칫하면 요령을 부릴 수 있어요. 가운데 자리가 넉넉하면 요약하지 않고 원본을 통째로 실어 나르는 지름길을 찾아내요. 그래서 가운데를 일부러 좁게 만들어요.

적을 칸을 얼마나 줄일까

가운데 자리의 크기는 사람이 정해요. 넉넉하게 두면 되살린 결과가 원본과 거의 같아지지만 요약이라고 부를 만한 것이 남지 않아요. 아주 좁게 두면 굵은 특징만 남고 세부는 사라져요.

좁힐수록 무엇이 중요한지 고를 수밖에 없어져요. 얼굴 사진을 몇 개의 값으로 줄여야 한다면 눈코입의 배치처럼 크게 다른 부분이 먼저 자리를 차지하고, 머리카락 한 올의 방향은 버려져요. 이렇게 남은 값이 그 자료의 요약이 돼요.

적당한 크기는 자료와 목적에 따라 달라요. 압축이 목적이면 되살린 결과가 견딜 만한 선까지 줄이고, 요약값을 다른 작업에 쓰려면 그 작업의 성적을 보며 정해요.

적지 않은 것은 사라져요

되살린 결과는 원본과 같지 않아요. 악보에 적지 않은 흔들림은 아무리 연주해도 나오지 않는 것과 같아요. 무엇이 사라졌는지를 보면 그 모델이 무엇을 중요하게 여겼는지 알 수 있어요.

이 성질을 거꾸로 이용하기도 해요. 학습에 쓴 것과 성격이 비슷한 자료는 잘 되살아나지만, 처음 보는 종류가 들어오면 되살린 결과가 크게 어긋나요. 어긋난 정도를 재서 이상 신호로 쓰는 방법이 설비 점검이나 부정 거래 탐지에 쓰여요.

어디에 쓰나요

가장 알기 쉬운 쓰임은 압축이에요. 자료를 짧은 값으로 줄여 저장하고 필요할 때 되살려요. 이때 줄인 값은 검색용 요약으로도 쓸 수 있어서, 비슷한 자료를 찾는 작업이 훨씬 가벼워져요.

잡티를 지우는 데도 쓰여요. 일부러 얼룩을 얹은 사진을 넣고 깨끗한 원본을 정답으로 두면, 얼룩은 적을 자리가 없어 자연히 빠져요. 그림을 만드는 요즘 방식에서도 큰 화면을 작은 요약본으로 줄여 두고 그 안에서 작업한 뒤 다시 펴는 자리에 이 구조가 들어가요.