← 返回卷宗
數據預測

探討一般的生成式對抗網絡(GAN)難以模擬術數運算過程的原因

上一篇文中有人在一評論中提出是否可以利用生成式對抗網絡來對射覆的模擬,這個以前簡單實驗過一下,效果並不理想。 不理想是有原因,主要是一般的生成式對抗網絡的實現,本質上是從某個潛在空間到某個樣本空間的轉換或映射,對於高維數據的學習時,時常會表現出一些缺陷,從直覺上來說,通常它無法很好地模擬循環與週期的概念。 比如試圖學習的是這樣一個清晰的分佈。

探討一般的生成式對抗網絡(GAN)難以模擬術數運算過程的原因

而實際上訓練出來的結果卻是這樣:

探討一般的生成式對抗網絡(GAN)難以模擬術數運算過程的原因

而且這個並不能進一步進行優化。 本來期望它能如此美好:
#視頻請看公眾號原文
實際上它卻: #視頻請看公眾號原文 再比如,如果假設所有的事物都可以劃分為八個類,那麼在一個無限大的空間內,有限的詞彙可以分別聚類為八團,那麼用八個高斯團進行表達,大概長這樣:

探討一般的生成式對抗網絡(GAN)難以模擬術數運算過程的原因

左邊可以理解為是各種事物混雜在一起,而右側可以理解為進行了類似八卦的歸類,每個都符合高斯分佈且用了不同的顏色代表類別。 理想中的歸類過程它應該是類似這樣的:
#視頻請看公眾號原文
但是實際上GAN生成過程中,它的過程是這樣的:
#視頻請看公眾號原文
因此,它生成的結果只能是這樣,分類效果顯然不夠理想。

探討一般的生成式對抗網絡(GAN)難以模擬術數運算過程的原因

這也給了我們一些有意義的一些啟示,對抗在某些任務上的表現儘管可以不錯,但它本身是有很多問題的,抽象到現實,如同戰爭不能解決一切問題一樣。 如果引申一下的話,會發現更有趣的事情是生成式對抗網絡如同一個兌卦,兌卦不但有對抗的含義,還有交換、遷移、變革的含義,而GAN網絡也似乎更擅長的任務是風格遷移與變化,而不是創造。

通過一定的方法上面的問題是可以克服的,不過那就需要更復雜的研究了,這裡只是簡單一提,有興趣的研究者,可以交流。
原文始發於微信公眾號(道家陰符文化):探討一般的生成式對抗網絡(GAN)難以模擬術數運算過程的原因

本文由 三符道長 撰於 2022年7月11日。轉載請註明出處。