付費限定
對抗擴散生成蒸餾(ADD) 讓生成模型快又有效
閱讀時間約 4 分鐘
Stability AI在圖片/影片/聲音生成領域貢獻了不少心力，近期提出了更加高效率的對抗生成蒸餾方法，只需進行一步計算，便能打敗LCM需要4步計算的結果，來看看具體是如何做到的。
開發動機:
擴散模型近年來取得很優異的高畫質圖片生成結果，但是需要多步驟迭代，導致運算速度無法達到Real time 生成，Luo et al. 基於Latent做一致性模型蒸餾+CFG手法，取得很優異的生成畫質與生成速度，激發了本篇作者們加以挑戰突破的原動力。
改良思路與影響:
- 利用GAN模型蒸餾，將學生模型的生成迭代次數降低成1次 (快速生成)
- 從老師擴散模型的Weight當作起始點，進行GAN蒸餾訓練
- 針對圖片本身做對抗生成訓練，而非Latent (訓練時梯度比較穩定)
- 沒有使用CFG(Class free guidance)方式進行蒸餾
- 沒有使用CM(Consistency model)方式進行蒸餾
論文取得成果:
使用人類進行二元偏好對抗投票，可以看到ADD-XL單步可以達到其他擴散模型迭代好幾步才能得到的成果，也比StyleGAN的效果還要好。
使用人類進行二元偏好對抗投票，可以看到ADD-XL四步迭代可以達到SOTA的結果，甚至能勝過頂尖擴散模型50次迭代的結果。
以行動支持創作者！付費即可解鎖
本篇內容共 1831 字、0
則留言，僅發佈於人工智慧宇宙你目前無法檢視以下內容，可能因為尚未登入，或沒有該房間的查看權限。
95會員
128內容數
帶你用上帝視角，針對市面上具有高度價值的影片/論文/書籍，用東方取象，與西方邏輯辯證的角度同時出發，跟著我一起來探討宇宙萬事萬物的本質，隨時隨地都可以來一場說走就走的思維旅行。作者在台積電 / 聯發科等科技產業有累計10年的資歷，近期對於人工智慧，東方易經，西方辯證邏輯，還有佛法向內求有深度興趣。
留言0
查看全部
你可能也想看
「設計不僅僅是外觀和感覺。設計是其運作的方式。」 — Steve Jobs
身為一個獨立文案，許多人會以為我們的生活只需要面對電腦，從無到有，用精巧的文字填滿空白的螢幕，呈現心目中獨具風格的作品。
——有的時候可以如此，但其實這是我們夢寐以求的偶發日常。
更多的時候，白天的工作時間總被各種繁雜
台股、美股近期明顯回檔，市場敘事發生改變，壞消息一樁接一樁出現，下一步該怎麼走呢？本文將探討近期的宏觀經濟事件，並分享個人的操作思考。
本文作者巴博內斯曾發佈多篇警惕澳洲過度依賴中國的文章，甚至曾投書直接表明支持臺灣成為正常國家。
乍看之下，本文是一篇罵中國罵很爽的文章（我翻譯的也挺爽），但作者不厭其煩的利用舉證和比喻來將中國與納粹放作伙，也許可以看出本文的目標在於澳洲向中國攤牌後，也希望能夠說服歐洲國家停止不沾鍋的心態。
撰寫：楊家鑫
美國總統川普（Donald Trump）簽署香港自治法案，將取消香港貿易上的特殊地位，引發全球關注。對此，台陸委會主委陳明通於7月16日表示，“這展現整個民主陣營團結在一起”，而台灣做為“亞洲民主國家之前鋒”，始終依循普世價值，與國際同聲譴責。他並批評，“中共在人權、法治上紀錄不良
再過兩天就要選舉了，我想大家都很關注這件事，不論你有沒有投票權，都能感受到那山雨欲來的氣氛，這是民主國家特有的景象，也只有在民主國家，手上握有選票的你才能體會到那股緊張不安的社會氛圍。
這只是一個小小的行為，蓋章，投票。就這樣。但它所造成的後果，卻是一整個國家甚至一整個世代都要共同承擔
螨蟲是長期住在皮膚毛囊的共生寄生蟲，想要擺脫螨蟲造成的皮膚病，建議要帶著正確觀念，一鼓作氣一次就成功，成功之後好好把皮膚調養好，這樣更可以確保長治久安的效果……
「空汙皮膚保養有必要嗎？」
空氣汙染已是日常生活的一部份，無論是待在室內還是室外活動，都免不了各種汙染源的侵害。皮膚一整天接觸空氣的時間太長，長時間暴露在不佳的空氣品質下很容易對皮膚造成傷害，尤其空氣污染是肉眼較不容易發現的，被稱為無形的殺手！空汙對身體的危害，包括增加癌症，呼吸道疾病如氣喘、支氣管
林鄭構建對話平台，梁振英卻為對話劃出界限：「有些基本立場、基本態度，我們不接受暴力行為、我們不接受非法行為，沒有違反 (中英聯合) 聲明這回事。基本法對普選的規定是什麼也要說清楚，不能任由這些謠傳和誤導在社會繼續蔓延。」
簡單講，警黑合作「止暴制亂」、以暴動罪控告抗爭者、不釋放被捕人士將會繼續，重啟
開羅大學[精油vs.痘痘]研究：牛至(Origanum vulgare L.,奧勒岡)精油──in vitro與in vivo test的抑菌抗痘功效，結果發現...
反送中運動已上升至對政府、香港警隊、中共政權的全面開戰，日子越久和理非和勇武各自來到了樽頸位置，除非大家想專心返去搞區選，覺得選舉可以改變現況，否則沒有割蓆分化的理由；除非你覺得對得住殉道、被捕、被打既手足，否則沒有散水的藉口！如果唔係既話，請克服恐懼，一日未達到五大訴求，就一日仍然街頭見。
[20理論系列] 抗痘新概念「痤瘡-暴露組(Acne Exposome)」
歐洲皮膚科醫師委員會建議：治療痤瘡(痘痘)前，先檢視「6 大暴露組」以提升療效！
「設計不僅僅是外觀和感覺。設計是其運作的方式。」 — Steve Jobs
身為一個獨立文案，許多人會以為我們的生活只需要面對電腦，從無到有，用精巧的文字填滿空白的螢幕，呈現心目中獨具風格的作品。
——有的時候可以如此，但其實這是我們夢寐以求的偶發日常。
更多的時候，白天的工作時間總被各種繁雜
台股、美股近期明顯回檔，市場敘事發生改變，壞消息一樁接一樁出現，下一步該怎麼走呢？本文將探討近期的宏觀經濟事件，並分享個人的操作思考。
本文作者巴博內斯曾發佈多篇警惕澳洲過度依賴中國的文章，甚至曾投書直接表明支持臺灣成為正常國家。
乍看之下，本文是一篇罵中國罵很爽的文章（我翻譯的也挺爽），但作者不厭其煩的利用舉證和比喻來將中國與納粹放作伙，也許可以看出本文的目標在於澳洲向中國攤牌後，也希望能夠說服歐洲國家停止不沾鍋的心態。
撰寫：楊家鑫
美國總統川普（Donald Trump）簽署香港自治法案，將取消香港貿易上的特殊地位，引發全球關注。對此，台陸委會主委陳明通於7月16日表示，“這展現整個民主陣營團結在一起”，而台灣做為“亞洲民主國家之前鋒”，始終依循普世價值，與國際同聲譴責。他並批評，“中共在人權、法治上紀錄不良
再過兩天就要選舉了，我想大家都很關注這件事，不論你有沒有投票權，都能感受到那山雨欲來的氣氛，這是民主國家特有的景象，也只有在民主國家，手上握有選票的你才能體會到那股緊張不安的社會氛圍。
這只是一個小小的行為，蓋章，投票。就這樣。但它所造成的後果，卻是一整個國家甚至一整個世代都要共同承擔
螨蟲是長期住在皮膚毛囊的共生寄生蟲，想要擺脫螨蟲造成的皮膚病，建議要帶著正確觀念，一鼓作氣一次就成功，成功之後好好把皮膚調養好，這樣更可以確保長治久安的效果……
「空汙皮膚保養有必要嗎？」
空氣汙染已是日常生活的一部份，無論是待在室內還是室外活動，都免不了各種汙染源的侵害。皮膚一整天接觸空氣的時間太長，長時間暴露在不佳的空氣品質下很容易對皮膚造成傷害，尤其空氣污染是肉眼較不容易發現的，被稱為無形的殺手！空汙對身體的危害，包括增加癌症，呼吸道疾病如氣喘、支氣管
林鄭構建對話平台，梁振英卻為對話劃出界限：「有些基本立場、基本態度，我們不接受暴力行為、我們不接受非法行為，沒有違反 (中英聯合) 聲明這回事。基本法對普選的規定是什麼也要說清楚，不能任由這些謠傳和誤導在社會繼續蔓延。」
簡單講，警黑合作「止暴制亂」、以暴動罪控告抗爭者、不釋放被捕人士將會繼續，重啟
開羅大學[精油vs.痘痘]研究：牛至(Origanum vulgare L.,奧勒岡)精油──in vitro與in vivo test的抑菌抗痘功效，結果發現...
反送中運動已上升至對政府、香港警隊、中共政權的全面開戰，日子越久和理非和勇武各自來到了樽頸位置，除非大家想專心返去搞區選，覺得選舉可以改變現況，否則沒有割蓆分化的理由；除非你覺得對得住殉道、被捕、被打既手足，否則沒有散水的藉口！如果唔係既話，請克服恐懼，一日未達到五大訴求，就一日仍然街頭見。
[20理論系列] 抗痘新概念「痤瘡-暴露組(Acne Exposome)」
歐洲皮膚科醫師委員會建議：治療痤瘡(痘痘)前，先檢視「6 大暴露組」以提升療效！