【生成式AI導論 2024】第18講：有關影像的生成式AI (下) - 快速導讀經典影像生成方法 (VAE, Flow, Diffusion, GAN) 以及與生成的影片互動

投影片：drive.google.com/file/d/1_Xuk...
17:58 口誤：Sora 沒有 paper 只有 Blog
27:25 RLHF 和 GAN 還可以多找出一些差異。例如，在 GAN 中，Generator 和 Discriminator 會交替訓練，而早期的 RLHF 只會訓練一次 Reward Model，接下來就固定不變，然而，LLaMA 2 的 Reward Model 和語言模型也是交替訓練的；RLHF 訓練語言模型的方式是使用 RL 的演算法（例如 PPO），而 GAN 中的 Generator 通常不需要使用 RL 的演算法來更新參數，但如果 GAN 生成的輸出是離散的，Generator 也需要使用 RL 的演算法來進行訓練。
延伸閱讀:
Variational Auto-encoder (VAE)
• ML Lecture 18: Unsuper... (2016 機器學習)
Flow-based Method
• GAN Lecture 1 (2018): ... (2018 機器學習及其深層與結構化)
Diffusion Method
• Flow-based Generative... (2019 機器學習)
Generative Adversarial Network (GAN)
• 【生成式AI】淺談圖像生成模型 Diffus... (2023 機器學習)

[@HungyiLeeNTU]

由於本週是本學期的最後一次上課，近期我將不會再更新更多的影片。本來預計介紹有關類神經網路編輯和語音生成式AI相關的內容，但是時間所限，未能進行，未來有機會再更大家分享。感謝大家的持續觀看到這部影片。

[@yumenoqiao]

老师能分享相关的slides吗，想了解相关的主要论文❤感谢老师的优质教学❤

[@HungyiLeeNTU]

@@yumenoqiao speech.ee.ntu.edu.tw/~hylee/genai/2024-spring.php 所有這門課的投影片都在這裡了

[@danpoo007]

謝謝老師! 期待下次的課程

[@mankwanfung4345]

多謝老師無私教導！我這個海外(老)學生感激不盡

[@miku3920]

感謝老師，另外希望可以介紹一些新的RL模型，或是換一種方式講解舊的模型

[@bookerwong9898]

感谢老师，真的收获满满。祝愿老师身体健康，每天都开心快乐！

[@WHChen_loves_train]

過去在學時，除了聽老師上課
也上台分享，自己是如何 清心寡慾 調參數的我
畢業還能繼續自學，超感動der

[@user-qf2fm4js1z]

感謝這一系列精彩的課程，我們這些六旬的資訊老兵，也能跟上年輕人的腳步

[@user-qf2fm4js1z]

上完這堂課，最大的收穫是，將來被淘汰，至少知道是怎麼s得

[@weibao9176]

太精彩了，感谢老师❤

[@Hans-ok5rc]

很感謝老師的教學

[@user-nn8vb4gp4f]

謝謝老師～🎉🎉🎉🎉🎉

[@feixiongluo4198]

Tks for valuable sharing

[@user-sw3vd5ks2n]

very nice tutorial

[@corgirun7892]

Genie真是太惊艳了

[@user-wf3ko7sl7c]

35:40 如果這邊的圖是訓練時完全沒看過，而且風格差異還這麼大，那這模型的威力確實是超乎想像。

[@elvis1322]

頭香

[@kirimaru73]

謝謝老師！
很久以前(上古時代)，自己在玩Diffusion Model時只使用過2D latent image+U-net，有嘗試過一點點attention的架構，但很簡陋。請問現在大多已經改成使用Transformer了嗎？

[@xx-mg5us]

Stable Diffusion3和Sora是用的基于Transformer的DiT架构，但是个人觉得U-net也不过时～

[@poohdang]

請問是否有合作信箱？

[@Natural_Motion]

啊？这门课结束了？

[@user-yu7im4rk2q]

下學期聽說會有進階課程