[GenAI] 기본적인 생성 모델: AE 와 VAE

🔊 해당 포스팅은  OREILLY의 '미술관에 GAN 딥러닝 실전 프로젝트' 서적을 읽고 개인적인 목적 하에 작성되는 글입니다. 포스팅에 사용되는 모든 자료는 제가 직접 재구성하였음을 알립니다.

 

출처: Yes24

---

이번 포스팅에서는 생성 모델의 기본적인 구조인 AutoEncoder(AE)에 대해 알아본다. 그리고 AE의 단점을 살펴보면서 이를 극복해 해결하는 Variational AutoEncoder(VAE)에 대해서도 알아보자.

1. 잠재 공간의 특정 포인트에 매핑하는 모델: AE

AE라고 불리는 AutoEncoder 모델은 사실 예전 포스팅에 소개한 적이 있다. 하지만 워낙 예전이고, 그 때 당시에는 생성형 모델 측면보다는 데이터를 복구하는 측면에서 AE에 대해배웠었다. 하지만 이번 포스팅에서는 생성형 모델 측면에서 AE가 어떤 능력을 발휘할 수 있는지 살펴보다. AE는 알다시피 인코더 1개와 디코더 1개로 구성되어 있는 구조이다. 

 

 

출처: Keras blog(https://blog.keras.io/building-autoencoders-in-keras.html)

 

위 구조를 보면 인코더는 고차원의 입력 데이터를 저차원의 표현 벡터(Representaion Vector)로 압축을 한다. 저차원의 표현 벡터는 흔히 이야기하는 잠재(Latent) 벡터 공간에 위치한다. 그리고 이 압축된 벡터를 디코더가 다시 원본 차원으로 복원을 수행한다. 

 

AE는 일반적으로 입력 데이터와 최종 아웃풋인 재구성 데이터 간의 차이 즉, 손실 값을 최소화하는 최적의 파라미터(가중치)를 찾기 위해 AE 네트워크가 학습된다. 하지만 AE는 생성 모델에 있어서 한계점들을 쉽게 드러낸다. 이 한계점들을 알아보기에 앞서, 케라스와 텐서플로우를 활용해서 AE 모델을 직접 만들어보자. 구체적으로 어떤 코드로 AE를 만드는 지는 원저자 코드를 참고해서 만든 필자 깃헙 코드를 첨부한다.

 

첨부 코드 중 손실함수 부분을 보면 RMSE로 정의한 것을 볼 수 있다. 물론 여기서 이진 분류 시 자주 사용되는 손실함수로서 이진 크로스 엔트로피를 사용하기도 한다. 하지만 이진 크로스 엔트로피는 극단적으로 잘못된 예측을 할 때는 큰 패널티를 부여하기 때문에 픽셀 예측값을 중간 범위로 만드는 경향이 있다. 왜냐하면 크로스 엔트로피 공식을 살펴보면 그 이유를 알 수 있는데, 정답이 아닌 경우에 계산을 바로 0으로 만들어버리기 때문이다. 이는 곧 생성 모델에서 새로운 이미지를 생성했을 때 해당 이미지가 실제 이미지처럼 보이지 않게 만들게 된다. 그래서 책 원저자는 RMSE로 손실함수를 선호한다고 이야기 한다.

 

이제 AE를 학습시킨 후, 이미지를 어떻게 잠재 공간에 표현했는지를 살펴보도록 하자. 이 잠재 공간을 분석해보는 코드는 여기를 참조하자. 먼저 모델이 학습한 적이 없는 테스트 이미지를 골라서 AE의 인코더 부분을 통과시킨 다음 2차원 공간에 산점도를 그려볼 수 있다. 아래 그림을 보자.(아래 산점도의 x축, y축은 2차원 벡터의 각 차원을 의미하고, 범례(legend) 값은 원본 이미지의 레이블(숫자 0~9) 값을 의미)

 

테스트 데이터 중 샘플 5000개에 대한 2차원 잠재 공간 벡터를 산점도로 표현

 

AE는 위와 같은 2차원 잠재 공간 벡터에서 랜덤하게 하나의 벡터를 샘플링한다. 그리고 이를 디코더 인풋으로 넣어 학습 데이터에는 존재하지 않지만 학습 데이터와 매우 비슷한 새로운 데이터를 생성하는 것이 AE의 목적이자 생성형 모델의 목적이다. 하지만 위와 같은 잠재 공간 벡터의 산점도는 크게 3가지 문제점이 존재한다.

 

첫째로, 잠재 공간의 벡터 포인트들의 분포가 균일하지 않다. 이 말은 곧 잠재 공간에서 랜덤 포인트를 선택하기에는 적절하지 않으며 샘플링하는 데이터는 어떤 레이블의 분포로 치우쳐지기 마련이다. 두번째, 생성된 이미지의 다양성이 부족할 것이라는 게 예상된다. 왜냐하면 레이블 종류에 따라 잠재 공간의 벡터 분포 형태가 서로 많이 다르기 때문이다. 단적인 예로, 빨간색 계열 포인트에 해당하는 레이블인 숫자 8,9에 해당하는 잠재공간 벡터 분포도와 보라색 계열에 해당하는 레이블인 숫자 0,1에 해당하는 잠재공간 벡터 분포도랑은 서로 많이 다른 것을 볼 수 있다. 이런 경우, 잠재 공간에서 랜덤 샘플링을 진행하게 되면 퍼져있는 정도가 더 큰(분산이 큰) 숫자 0,1 처럼 보이는 이미지만을 만들 가능성이 높아진다. 마지막 세번째로는 생성된 이미지의 품질이 나쁘다. 실제로 아래 그림은 잠재공간 벡터 포인트들로부터 샘플링해서 디코더에 넣고 재생성한 이미지들이다. 이는 AE가 원본 데이터를 잠재공간의 특정 포인트로 매핑하기 때문이다. 즉, 인코더가 결정적(deterministic)하기 때문이다.

 

 

재생성된 이미지들 중 숫자를 제대로 표현한 것도 일부 있지만(숫자 0의 경우..) 숫자 3이나 6과 같은 이미지들은 형태가 애매모호하거나 잘못된 이미지임을 알 수 있다. 

 

이것과 더불어 더 큰 문제가 되는 점은 중앙에 밀집되어 있는 포인트들 조차도 제대로 된 이미지로 재생성(디코딩)되지 않을 수도 있다는 것이다. 왜냐하면 AE는 잠재 공간을 연속적으로 만들지 않기 때문이다. 예를 들어서, 숫자 9의 2차원 잠재 공간 벡터가 (-5, 5)이고 이 벡터를 통해서 정말 비슷한 숫자 9의 새로운 이미지를 잘 생성했다고 해보자. 그렇다고 해서 (-5.5, 5.5)인 잠재 공간 벡터도 똑같이 숫자 9의 새로운 이미지를 훌륭하게 잘 생성하라는 보장이 없다. 

 

잠재 공간을 2차원으로 만들 경우, 이런 문제를 쉽게 감지하기 어렵다. 왜냐하면 애초에 '2차원'이라는 차원 수가 매우 적은 차원 수이고, 2차원이라는 공간 안에서 잠재 공간 벡터를 표현하면(위의 산점도 처럼) 상대적으로 레이블  숫자 별로 산점도 분포 간격이 작기 때문이다. 하지만 현실 세계의 복잡한 이미지, 텍스트 데이터를 항상 2차원으로 잠재 공간 벡터 차원을 구성할 수 없다. 결국, 잠재 공간 차원 수를 늘려가야 하고 늘려감에 따라 레이블 그룹 간에 분포도 간격은 점차 넓어지게 된다. 이렇게 간격이 넓어지게 되면 비어있는 공간에서 샘플링을 해서 디코딩을 하는 순간 인풋 데이터와는 매우 다르고 쌩뚱맞은 새로운 데이터를 생성하게 될 것이다. 이러한 AE의 문제점을 어떻게 해결할까?

2. 잠재 공간을 정규 분포로 매핑하는 모델 : VAE

위 목차의 마지막 부분에서 AE의 한계점을 살펴보았다. AE가 이러한 한계점을 갖는 이유는 무엇일까? 바로 AE는 원본 인풋(예를 들어, 원본 이미지)을 잠재 공간의 특정한 하나의 포인트에 직접 매핑을하기 때문이다. 이게 무슨 의미일까? 아래 그림을 보자.

 

AE와 VAE의 잠재공간

 

위 그림은 AE, VAE의 2차원의 잠재공간을 표현한 것이다. 왼쪽의 AE를 보면 6이라는 원본 이미지를 하나의 특정한 점으로 매핑하였다. 하지만 오른쪽의 VAE를 보면 다변수 정규분포 형태로 매핑한 것을 볼 수 있다. 과연 "다변수 정규분포 형태로 매핑한 것" 이란 무엇일까. 아직은 직관적으로 이해가 되지 않는다. 이를 이해하기 위해서 먼저 정규분포라는 개념을 이해해보자.

2-1. 새로운 데이터를 샘플링하는 근거, 정규분포!

정규분포라는 것은 형태가 종 모양인 곡선을 가지는 확률 분포를 의미한다. 만약 데이터가 1차원일 경우(우리가 흔히 수학 교과서에서 배울때) 평균($\mu$)와 분산(${\sigma}^2$)이라는 값 2가지로 정의가 된다. 알다시피 표준편차($\sigma$)의 제곱은 분산이다. 그래서 1차원 데이터의 정규 분포의 확률 밀도 함수(이른바 PDF, Probability Distribution Function) 식은 다음과 같다.

 

1차원 데이터일 때 정규분포의 확률밀도함수 식

 

위 PDF함수에서 평균이 0, 분산이 1인 표준정규분포일 때의 PDF 모양, 그리고 평균과 분산이 다른 종류의 값일 때 PDF 모양은 아래와 같은 형태를 띈다.

 

평균과 분산에 따른 정규분포 PDF의 모양 차이 그래프

 

어쨌건 평균과 분산이 어떠한 특정한 값(0이던 1이던..)이던 간에 위 그림과 같은 정규분포 형태의 데이터에서 새로운 데이터 포인트 $z$를 샘플링 할 수 있을 것이다. 새로운 데이터를 샘플링하는 것을 직관적으로 나타내면 아래와 같을 것이다.(물론 새로운 데이터 $z$ 자체를 정규분포에서 샘플링하는 것은 아니다.)

 

특정한 정규분포에서 우리는 새로운 데이터 $z$를 샘플링 할 수 있다!

 

그리고 위와 같이 새로운 데이터 $z$를 샘플링하는 공식은 아래와 같다.

$$z= \mu + {\sigma}{\varepsilon}$$

그리고 이 공식에서 $\varepsilon$을 표준 정규분포에서 샘플링하여 새로운 데이터 $z$를 계산한다. 여기서 $\varepsilon$의 역할은 이미 존재하는 데이터들(이를 평균과 분산으로 계산된 값)로부터 어느 정도 떨어져 있는($\varepsilon$을 더해줌) 새로운 데이터를 새롭게 만들게 하는 것이다.

 

그러면 이제 이 1차원의 정규 분포 개념을 N차원 이상으로 확장할 수 있다. 일반적인 $k$차원 다변수 정규 분포에 대한 확률 밀도 함수는 다음과 같다.

 

데이터가 $k$차원일 때의 정규 분포 확률밀도함수

 

만약 $k=2$ 즉, 2차원일 때를 생각해보자. 2차원 이상부터는 데이터를 행렬 형태의 벡터로 표현하게 된다. 따라서 2차원일 때의 평균 벡터 ($\boldsymbol{\mu}$)와 공분산 행렬 벡터($\boldsymbol{\Sigma}$)는 다음과 같이 정의된다.

 

 

위 공식에서 $\rho$는 2차원 데이터의 각 차원 $x_1, x_2$ 간의 상관계수를 의미한다. 그리고 이 때, VAE는 특이하게 잠재 공간 차원 사이에는 차원 간에 어떠한 상관관계도 없다고 가정한다. 다시 말해, 위 식의 공분산 행렬 벡터에 정의된 $\rho$가 0이 됨으로써 최종적으로 공분산 행렬 벡터는 대각 원소를 제외한 모든 값이 0인 대각 행렬(diagonal matrix)이 된다. 

 

 

결국, VAE에서 원본 데이터를 잠재공간에 매핑할 때는 평균 벡터($\boldsymbol{\mu}$)와 분산 벡터($\boldsymbol{\Sigma}$)에만 매핑하면 된다는 것이다. 단, VAE도 신경망 유닛으로 이루어져 있기 때문에 일반적으로 신경망의 (은닉층 또는 출력층) 출력값 범위는 음수 무한대 ~ 양수 무한대 범위의 모든 실수이다. 하지만 분산은 항상 양수이기 때문에 분산에 로그를 취한 값에 매핑을 해준다. 결국 VAE라는 생성형 모델에서 새로운 데이터 포인트 $z$를 샘플링하는 공식은 아래와 같다.

$$z = \boldsymbol{\mu} + log{\boldsymbol{\Sigma}} * \epsilon$$

2-2. AE의 인코더와 손실함수를 수정한 모델: VAE

VAE와 AE의 차이점이라고 한다면 AE의 인코더와 손실 함수를 수정한 점 이 2가지이다. 그리고 [목차 2-1]에서 알아본 내용이 바로 AE의 인코더 부분을 수정한 내용을 알아본 것이다. 간략하게 다시 요약하면 AE는 원본 데이터를 잠재공간의 (정규 분포를 사용하지 않고) 특정한 한 하나의 포인트에 매핑했지만 VAE는 정규 분포를 사용해서 원본 데이터를 잠재공간의 연속적인 공간에 매핑한 것이다.

 

그러면 이제 VAE가 AE와는 다른 구조를 가진 나머지 한 부분을 알아볼 차례이다. 그것은 손실함수이다. AE에서는 인풋인 원본 데이터와 인코더와 디코더를 통과한 (인풋을 재구성한) 출력 데이터 간의 RMSE 손실 함수로만 구성했었다. 이를 재구성 손실(reconstruction loss)이라고도 한다. VAE도 물론 AE처럼 재구성 손실을 사용하지만 한 가지 더 새로운 종류의 손실 함수를 사용한다. 바로 KL-Divergence라고 불리는 쿨백-라이블러 발산이다.(이를 잠재 손실(latent loss)라고도 부른다)

 

KL 발산은 두 확률 분포 간의 차이가 얼마나 나는지 측정하는 도구이다. VAE에서는 그러면 어떤 2개의 확률 분포 간의 차이를 측정한다는 걸까? 하나는 위에서 알아본 평균이 $\boldsymbol{\mu}$이고 분산이 $log{\boldsymbol{\Sigma}}$인 정규분포이고, 나머지 하나는 표준 정규분포이다. 수식으로 나타내면 아래와 같다.

 

데이터가 1차원일 때, VAE에서의 KL Divergence 손실 함수 공식

 

위 공식에서의 $\sigma$는 아까 살펴본 공분산 벡터가 아닌 모두 합을 취하라는 의미의 시그마 기호인 점에 주의하자. 어쨌건 수학적인 수식은 위와 같지만 pseudo-code 형태로 나타내면 아래와 같다.

 

kl_loss = -0.5 * sum(1 + log_var - mu^2 - exp(log_var))

 

만약 잠재 공간이 1차원이라면 위 식을 1번만 계산하면 되지만 잠재 공간이 N차원이라면 위 식을 N번 계산해야 한다. KL 발산 식을 보면 알겠지만 평균($\boldsymbol{\mu}$)과 (로그)분산($log{\boldsymbol{\Sigma}}$)이 모두 0일 때 KL 발산 손실 값은 최소가 된다. 반대로 평균과 분산이 0에서 멀어질 때 KL 발산 손실은 점점 증가한다. 정리하면 KL 발산 손실은 새롭게 생성되는 데이터가 표준 정규 분포(평균이 0, (로그)분산이 0)에서 많이 벗어난 값일수록 손실 값을 높여 VAE의 인코더 부분에 페널티를 가하게 된다.

 

그렇다면 왜 KL 발산 손실을 추가하는 것이 도움이 될까? 첫째로는 원본 인풋 데이터를 잠재 공간에 매핑할 때 사용할 수 있는 잘 정의된 분포 즉, 표준 정규분포를 갖게된다. 왜냐하면 직전에 배운 것처럼 KL 발산 손실은 표준 정규분포랑 가까우면 가까울수록 손실 값이 낮아지기 때문이고 모델은 이 손실 값을 낮추는 목표를 설정하고 학습할 것이기 때문이다. 이렇게 표준 정규분포에 가까운 형태라면 이 분포에서 샘플링한 새로운 데이터는 VAE가 잘 알고 있는 영역 안의 포인트를 선택할 가능성이 높아지게 된다.

 

두번째로는 잠재 공간의 분포를 표준 정규 분포 형태에 가깝게 만들기 때문에 잠재 공간에서의 포인트들 군집들 사이에 큰 간격이 생길 가능성이 적어진다. 이 큰 간격이 생기는 문제는 우리가 위에서 AE의 한계점 중 하나인 것을 살펴보았었다. 하지만 간격이 생길 가능성은 적어지지만 잠재공간의 분포를 표준 정규분포 형태로 강제하기 때문에 원점 주변의 공간만을 대칭적으로 사용하려고 한다.(표준정규분포의 평균은 0이기 때문!)

 

결국, VAE의 최종 손실 값은 RMSE와 같은 재구성 손실과 KL 발산 같은 잠재 손실 값을 합치게 된다. 더 나아가, 일종의 하이퍼파라미터 형태로서 재구성 손실에 상수 값을 곱하여 KL 발산 손실과 균형을  맞추도록 해준다. 두 손실은 trade-off 관계를 갖는데, 재구성 손실에 가중치를 너무 크게 두면 KL 손실의 기여도가 낮아져 AE에서 발생했던 "재구성된 이미지가 쌩뚱맞은 이미지가 나오는" 문제가 발생할 수 있다. 반대로 재구성 손실에 가중치를 너무 작게 두면 재구성 손실의 기여도가 낮아져 재구성 이미지의 품질이 나빠지게 된다. 따라서 두 손실 간의 적당한 타협점(?)을 찾아야 한다. 구체적으로 VAE의 최종 손실 함수가 코드로 어떻게 구현되는지는 필자의 개인 깃헙에서 살펴볼 수 있다. 모델 빌드 코드는 여기, 학습 코드는 여기있다.

 

그러면 이제 VAE의 인코더가 만들어낸 잠재공간의 벡터들을 AE 때처럼 2차원 형태로 시각화해보자. 아래 그림을 보자.

 

VAE의 잠재공간 그래프

 

범례값의 색깔은 숫자 이미지의 레이블을 의미한다. AE 때와는 달리 색깔(레이블)마다 비슷한 영역을 차지하고 있음을 알 수 있다. 또한 특정 색깔의 포인트들만 매우 퍼져있다거나 하는 현상도 AE 때보다 훨씬 줄어들었다. 위 예시에서는 잠재 공간을 단지 2차원으로 지정했지만 이런 VAE의 능력은 잠재 공간의 차원수가 증가하면 더 발휘된다.

 

결국 VAE는 모델에 무작위성을 가미하고 데이터 포인트들이 잠재 공간 내에서 분포되는 방식을 표준정규분포 모양을 띄도록 제한함으로써 AE의 문제점을 해결하게 된다.

---

AE, VAE를 구현하면서 낯선 연산을 마주했다. 바로 Transpose Convolution 연산이다. 일반 Convolution 연산은 많이 들어보고 사용도 해보아서 명확히 이해하고 있는데, Transpose Convolution은 잘 몰랐다. 실제로 AE, VAE를 구현할 때 Decoder 부분을 Transpose Convolution을 이용하기도 한다.(물론 모델에 따라 Up-sampling을 사용하기도 함)

 

Transpose Convolution이 어떻게 연산되는지 이해해보도록 하자. 내용의 출처는 앤드류 응 교수님의 짧은 유투브 강의를 시청하고 정리해보았다.

 

우선 일반적인 컨볼루션은 아래 GIF 그림처럼 인풋에 필터를 적용하여 아웃풋의 크기를 줄어들게 한다.

 

일반적인 Convolution 연산

 

반면에 Transpose 컨볼루션은 인풋에 필터를 적용하여 아웃풋의 크기를 '늘리게'하는 목적이 있다. 우선 우리는 아래와 같은 인풋과 필터가 있다고 가정하자.

 

Transpose 컨볼루션의 목적은 필터를 이용해 아웃풋의 크기를 늘리는 것!

 

위 그림에는 2 by 2 인풋에 3 by 3 필터를 적용해서 4 by 4 아웃풋을 출력하는 것으로 되어 있다. 하지만 Transpose 컨볼루션도 일반 컨볼루션처럼 아웃풋에 적용될 padding과 필터가 움직이는 간격인 stride를 명시할 수 있다. 따라서 우리는 padding = 1, stride = 2로 명시했다고 가정하고 최종적으로 아래와 같이 5 by 5 아웃풋을 출력하도록 할 것이다.

 

 

참고로 padding에 들어가는 값은 보통 0을 넣는 zero padding이 적용된다.(기본적으로 pytorch는 zero padding을 적용) 하지만 꼭 0을 넣으란 법은 없고, 커스텀하게 값을 넣어줄 수 있다.

 

자, 그러면 이제 단계별로 하나하나씩 살펴보자. 아래 gif 그림을 반복해서 천천히 이해해보자.

 

Transpose 컨볼루션의 과정

 

패딩된 노란색 부분은 어차피 zero padding 부분이라 값이 0이기 때문에 그림 속에서는 별도의 계산하는 식을 집어넣지는 않았다. 그래서 필터가 패딩에 겹치는 부분이면 계산을 생략했다. 이렇게 Transpose 컨볼루션 연산이 어떻게 이루어지는지 알게되면 Pytorch의 ConvTranspose2d 함수를 사용할 때 argument 값의 의미를 좀 더 정확히 이해하고 사용할 수 있을 것이다.

---

다음 장부터는 AE, VAE와는 다른 종류의 생성 모델인 생성적 적대 네트워크(Generative Adversarial Network), 이른바 GAN이라고 불리는 모델에 대해 배워보도록 하자.