이 이야기에서는 Indico Research와 Facebook AI Research (FAIR)의 DCGAN (Deep Convolutional Generative Adversarial Network )이 검토됩니다. DCGAN을 사용하면 생성기와 판별 기 모두에서 객체 부분에서 장면까지 표현 계층 구조를 학습합니다. 이것은 2016 년 ICLR 의 논문 으로 약 6000 건의 인용이 있습니다. ( Sik-Ho Tsang @ Medium)

(코로나 바이러스 시대에 이번 달에 30 개의 이야기를 써서 작은 도전을하고 싶습니다. 이것은 4 월의 16 번째 이야기입니다. 그러나 오늘은 2020 년 4 월 20 일입니다. 일정이 약간 뒤쳐져 있습니다. .하지만 일부 이야기는 짧고 내 연구 작업과 더 관련이 있지만, 딥 러닝 개발의 주류가 아닌 비디오 코딩 / 압축과 더 관련이 있지만 내가 달성 할 수 있기를 바랍니다.…

개요

1. 안정적인 훈련을위한 일련의 제약
2. 네트워크 아키텍처
3. 실험 결과

1.1. 모든 컨벌루션 네트는 결정적 공간 풀링 함수 (예 : 최대 풀링)를 스트라이드 컨볼 루션으로 대체합니다.

• 생성기는 컨볼 루션을 사용하여 자체 공간 다운 샘플링을 학습합니다.
• 마찬가지로, 판별자는 자체 공간 업 샘플링을 학습합니다.

• 균일 한 노이즈 분포 Z 를 입력 으로받는 생성기의 첫 번째 레이어는 행렬 곱셈이기 때문에 완전 연결이라고 할 수 있지만 결과는 4 차원 텐서로 재구성되어 컨볼 루션 스택의 시작으로 사용됩니다. .
• 판별 기의 경우 마지막 컨볼 루션 레이어가 평평해진 다음 단일 시그 모이 드 출력으로 공급됩니다.
• 그러나 모든 히든 레이어에 대해 완전히 연결된 레이어는 없습니다.

• BN 은 각 단위에 대한 입력을 평균과 단위 분산이 0이되도록 정규화하여 학습을 안정화합니다.
• 그러나 BN 을 모든 레이어에 직접 적용하면 샘플 진동과 모델 불안정성이 발생했습니다.
• 이것은 생성기 출력 레이어와 판별 기 입력 레이어에 BN 을 적용하지 않음으로써 방지되었습니다 .

• ReLU 활성화는 Tanh 함수를 사용하는 출력 계층을 제외하고 생성기에서 사용됩니다.
• 판별 기 내에서 누출 정류 활성화 (LeakyReLU)가 잘 작동하는 것으로 나타났습니다.

• 발전기는 위와 같습니다. 컨볼 루션 만, 제약에 따라 완전히 연결된 레이어가 없습니다.

• 판별 기는 생성자의 역과 같습니다.

• LSUN , ImageNet 및 새로 조립 된 faces 데이터 세트의 세 가지 데이터 세트가 학습 됩니다.

• 모델은 3 백만 개가 조금 넘는 훈련 예제가 포함 된 LSUN bedrooms 데이터 세트에서 훈련되었습니다.
• 모델은 단순히 과적 합 / 암기 훈련 예제를 통해 고품질 샘플을 생성하지 않습니다.

• DCGAN은 ImageNet-1k에서 훈련 된 다음 모든 레이어에서 판별 자의 컨볼 루션 기능을 사용하여 각 레이어 표현을 최대 풀링하여 4x4 공간 그리드를 생성합니다. 그런 다음 이러한 기능은 평면화되고 연결되어 28672 차원 벡터를 형성하고 정규화 된 선형 L2-SVM 분류 기가 그 위에 훈련됩니다.
• 이는 82.8 %의 정확도를 달성하고 모든 K- 평균 기반 접근 방식을 능가합니다.

• 순전히 감독되는 CNN이 훈련되었지만 오류율은 28.87 %에 불과합니다.
• 그러나 DCGAN을 사용하면 동일한 CNN, 22.8 %의 오류율을 얻습니다.

• 벡터 Z는 실제로 n 차원 공간 에서 n 차원 벡터입니다 .
• 2 개의 z 벡터 간에 보간을 수행하면 위와 같이 점진적인 변화를 볼 수 있습니다.
• 이 잠재 공간을 걷는 것은 이미지 생성 (예 : 객체 추가 및 제거)에 대한 의미 적 변화를 가져 오므로 모델이 관련성 있고 흥미로운 표현을 학습했다고 추론 할 수 있습니다.

• 위의 그림은 판별자가 학습 한 기능이 침대 및 창문과 같은 침실의 일반적인 부분에서 활성화 됨을 보여줍니다 .

• "창"필터를 삭제하면 일부 창이 제거 되고 다른 창은 문 및 거울과 같은 유사한 시각적 모양을 가진 객체로 변형됩니다 .
• 시각적 품질은 감소했지만 전체 장면 구성은 비슷하게 유지 되어 생성기가 장면 표현을 객체 표현에서 잘 분리했음을 시사합니다.

• 간단한 산술 연산은 표현 공간에서 풍부한 선형 구조를 나타냅니다.
• 예 : vector ( "King") — vector ( "Man") + vector ( "Woman")은 가장 가까운 이웃이 Queen에 대한 벡터 인 벡터를 생성 할 수 있습니다.
• 개념 당 단일 샘플에 대해서만 작업 한 실험은 불안정했지만 세 가지 예시에 대해 Z 벡터를 평균화하면 의미 론적으로 산술을 따르는 일관되고 안정적인 세대가 나타납니다.
• 위의 그림에서 볼 수 있듯이 각 열에 대해 샘플 의 Z 벡터가 평균화됩니다. 그런 다음 평균 벡터에 대해 산술을 수행하여 새로운 벡터 Y를 생성했습니다 . 이 Y 는 입력으로 발생기에 공급됩니다.
• ± 0.25 스케일로 샘플링 된 균일 한 노이즈를 Y 에 추가 하여 다른 8 개 샘플을 생성했습니다.

• 얼굴 포즈는 Z 공간 에서 선형으로 모델링 할 수도 있습니다 .

• 반대로, 입력 공간에 대한 벡터 산술은 좋지 않은 결과를 얻습니다.

[2016 ICLR] [DCGAN] Deep Convolutional Generative Adversarial Networks를 사용한 비지도
표현 학습

생성 적 적대 네트워크

[ GAN ] [ CGAN ] [ LAPGAN ] [ DCGAN ]

내 다른 이전 리뷰