付費限定

對抗擴散生成蒸餾(ADD) 讓生成模型快又有效

閱讀時間約 4 分鐘

Stability AI在圖片/影片/聲音生成領域貢獻了不少心力,近期提出了更加高效率的對抗生成蒸餾方法,只需進行一步計算,便能打敗LCM需要4步計算的結果,來看看具體是如何做到的。


開發動機:

擴散模型近年來取得很優異的高畫質圖片生成結果,但是需要多步驟迭代,導致運算速度無法達到Real time 生成,Luo et al. 基於Latent做一致性模型蒸餾+CFG手法,取得很優異的生成畫質與生成速度,激發了本篇作者們加以挑戰突破的原動力。


改良思路與影響:

  1. 利用GAN模型蒸餾,將學生模型的生成迭代次數降低成1次 (快速生成)
  2. 從老師擴散模型的Weight當作起始點,進行GAN蒸餾訓練
  3. 針對圖片本身做對抗生成訓練,而非Latent (訓練時梯度比較穩定)
  4. 沒有使用CFG(Class free guidance)方式進行蒸餾
  5. 沒有使用CM(Consistency model)方式進行蒸餾


論文取得成果:

使用人類進行二元偏好對抗投票,可以看到ADD-XL單步可以達到其他擴散模型迭代好幾步才能得到的成果,也比StyleGAN的效果還要好。

raw-image


使用人類進行二元偏好對抗投票,可以看到ADD-XL四步迭代可以達到SOTA的結果,甚至能勝過頂尖擴散模型50次迭代的結果。

raw-image
以行動支持創作者!付費即可解鎖
本篇內容共 1831 字、0 則留言,僅發佈於人工智慧宇宙你目前無法檢視以下內容,可能因為尚未登入,或沒有該房間的查看權限。
avatar-img
96會員
128內容數
帶你用上帝視角,針對市面上具有高度價值的影片/論文/書籍,用東方取象,與西方邏輯辯證的角度同時出發,跟著我一起來探討宇宙萬事萬物的本質,隨時隨地都可以來一場說走就走的思維旅行。作者在台積電 / 聯發科等科技產業有累計10年的資歷,近期對於人工智慧,東方易經,西方辯證邏輯,還有佛法向內求有深度興趣。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
本篇文章為大家導讀近日火熱的Mamba Paper,新聞標題說它是Transformer的繼任者,是否真是如此? 讓我們一起一探究竟,本文著重介紹論文前半部分。
Starling-LM-7B近來火燙,有使用到本篇的C-RLFT技術,基於此基礎上可以把7B小模型的微調成績做到頂尖,一起來理解OpenChat 的 C-RLFT技術是如何實現的,所能產生的效果為何,以及探索為何能達到這樣好的成績。
微軟爸爸發論文教大家如何訓練與評估model,有完整的訓練思路與評估方法,雖然本篇沒有任何Fine-tune的手法,比較不接地氣,但是仍然可以當成一個好的參考範例,可以從中學到許多評估模型的角度與關鍵指標,改天會進行總結整理。
北京清華大學改進了傳統Stable Diffusion (SD) 文生圖的加速算法,讓SD這項技術,可以在筆電達到即時(Real Time)運算等級,讓我們一起來了解這項技術,期許未來能在各種應用上使用,或是看到源碼也不陌生。
相信大家要能完全理解ROPE編碼與YaRN插值手法,需要較長的時間,導致收穫感沒有這麼強。算法背後其實隱含了宇宙自然運行的道理,旋轉位置編碼,最早的形式出現在古代中國易經,繞完一整圈表示一個階段的結束,預示下一個階段的開始。
本篇精選熱點論文,基於ROPE(Rotary Position Embeddings)改善插值方式,讓模型可以在短序列(4K Tokens)進行訓練,接著在長序列(128K Tokens)僅做少數微調,甚至無須微調,就能達到泛化到極長輸入序列的能力,模型可以吞下一整本雜誌,輸出困惑度表現也能夠維持!
本篇文章為大家導讀近日火熱的Mamba Paper,新聞標題說它是Transformer的繼任者,是否真是如此? 讓我們一起一探究竟,本文著重介紹論文前半部分。
Starling-LM-7B近來火燙,有使用到本篇的C-RLFT技術,基於此基礎上可以把7B小模型的微調成績做到頂尖,一起來理解OpenChat 的 C-RLFT技術是如何實現的,所能產生的效果為何,以及探索為何能達到這樣好的成績。
微軟爸爸發論文教大家如何訓練與評估model,有完整的訓練思路與評估方法,雖然本篇沒有任何Fine-tune的手法,比較不接地氣,但是仍然可以當成一個好的參考範例,可以從中學到許多評估模型的角度與關鍵指標,改天會進行總結整理。
北京清華大學改進了傳統Stable Diffusion (SD) 文生圖的加速算法,讓SD這項技術,可以在筆電達到即時(Real Time)運算等級,讓我們一起來了解這項技術,期許未來能在各種應用上使用,或是看到源碼也不陌生。
相信大家要能完全理解ROPE編碼與YaRN插值手法,需要較長的時間,導致收穫感沒有這麼強。算法背後其實隱含了宇宙自然運行的道理,旋轉位置編碼,最早的形式出現在古代中國易經,繞完一整圈表示一個階段的結束,預示下一個階段的開始。
本篇精選熱點論文,基於ROPE(Rotary Position Embeddings)改善插值方式,讓模型可以在短序列(4K Tokens)進行訓練,接著在長序列(128K Tokens)僅做少數微調,甚至無須微調,就能達到泛化到極長輸入序列的能力,模型可以吞下一整本雜誌,輸出困惑度表現也能夠維持!
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
本文作者巴博內斯曾發佈多篇警惕澳洲過度依賴中國的文章,甚至曾投書直接表明支持臺灣成為正常國家。 乍看之下,本文是一篇罵中國罵很爽的文章(我翻譯的也挺爽),但作者不厭其煩的利用舉證和比喻來將中國與納粹放作伙,也許可以看出本文的目標在於澳洲向中國攤牌後,也希望能夠說服歐洲國家停止不沾鍋的心態。
Thumbnail
撰寫:楊家鑫 美國總統川普(Donald Trump)簽署香港自治法案,將取消香港貿易上的特殊地位,引發全球關注。對此,台陸委會主委陳明通於7月16日表示,“這展現整個民主陣營團結在一起”,而台灣做為“亞洲民主國家之前鋒”,始終依循普世價值,與國際同聲譴責。他並批評,“中共在人權、法治上紀錄不良
Thumbnail
再過兩天就要選舉了,我想大家都很關注這件事,不論你有沒有投票權,都能感受到那山雨欲來的氣氛,這是民主國家特有的景象,也只有在民主國家,手上握有選票的你才能體會到那股緊張不安的社會氛圍。 這只是一個小小的行為,蓋章,投票。就這樣。但它所造成的後果,卻是一整個國家甚至一整個世代都要共同承擔
Thumbnail
螨蟲是長期住在皮膚毛囊的共生寄生蟲,想要擺脫螨蟲造成的皮膚病,建議要帶著正確觀念,一鼓作氣一次就成功,成功之後好好把皮膚調養好,這樣更可以確保長治久安的效果……
「空汙皮膚保養有必要嗎?」 空氣汙染已是日常生活的一部份,無論是待在室內還是室外活動,都免不了各種汙染源的侵害。皮膚一整天接觸空氣的時間太長,長時間暴露在不佳的空氣品質下很容易對皮膚造成傷害,尤其空氣污染是肉眼較不容易發現的,被稱為無形的殺手!空汙對身體的危害,包括增加癌症,呼吸道疾病如氣喘、支氣管
Thumbnail
林鄭構建對話平台,梁振英卻為對話劃出界限:「有些基本立場、基本態度,我們不接受暴力行為、我們不接受非法行為,沒有違反 (中英聯合) 聲明這回事。基本法對普選的規定是什麼也要說清楚,不能任由這些謠傳和誤導在社會繼續蔓延。」 簡單講,警黑合作「止暴制亂」、以暴動罪控告抗爭者、不釋放被捕人士將會繼續,重啟
Thumbnail
開羅大學[精油vs.痘痘]研究:牛至(Origanum vulgare L.,奧勒岡)精油──in vitro與in vivo test的抑菌抗痘功效,結果發現...
Thumbnail
反送中運動已上升至對政府、香港警隊、中共政權的全面開戰,日子越久和理非和勇武各自來到了樽頸位置,除非大家想專心返去搞區選,覺得選舉可以改變現況,否則沒有割蓆分化的理由;除非你覺得對得住殉道、被捕、被打既手足,否則沒有散水的藉口!如果唔係既話,請克服恐懼,一日未達到五大訴求,就一日仍然街頭見。
Thumbnail
[20理論系列] 抗痘新概念「痤瘡-暴露組(Acne Exposome)」 歐洲皮膚科醫師委員會建議:治療痤瘡(痘痘)前,先檢視「6 大暴露組」以提升療效!
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
本文作者巴博內斯曾發佈多篇警惕澳洲過度依賴中國的文章,甚至曾投書直接表明支持臺灣成為正常國家。 乍看之下,本文是一篇罵中國罵很爽的文章(我翻譯的也挺爽),但作者不厭其煩的利用舉證和比喻來將中國與納粹放作伙,也許可以看出本文的目標在於澳洲向中國攤牌後,也希望能夠說服歐洲國家停止不沾鍋的心態。
Thumbnail
撰寫:楊家鑫 美國總統川普(Donald Trump)簽署香港自治法案,將取消香港貿易上的特殊地位,引發全球關注。對此,台陸委會主委陳明通於7月16日表示,“這展現整個民主陣營團結在一起”,而台灣做為“亞洲民主國家之前鋒”,始終依循普世價值,與國際同聲譴責。他並批評,“中共在人權、法治上紀錄不良
Thumbnail
再過兩天就要選舉了,我想大家都很關注這件事,不論你有沒有投票權,都能感受到那山雨欲來的氣氛,這是民主國家特有的景象,也只有在民主國家,手上握有選票的你才能體會到那股緊張不安的社會氛圍。 這只是一個小小的行為,蓋章,投票。就這樣。但它所造成的後果,卻是一整個國家甚至一整個世代都要共同承擔
Thumbnail
螨蟲是長期住在皮膚毛囊的共生寄生蟲,想要擺脫螨蟲造成的皮膚病,建議要帶著正確觀念,一鼓作氣一次就成功,成功之後好好把皮膚調養好,這樣更可以確保長治久安的效果……
「空汙皮膚保養有必要嗎?」 空氣汙染已是日常生活的一部份,無論是待在室內還是室外活動,都免不了各種汙染源的侵害。皮膚一整天接觸空氣的時間太長,長時間暴露在不佳的空氣品質下很容易對皮膚造成傷害,尤其空氣污染是肉眼較不容易發現的,被稱為無形的殺手!空汙對身體的危害,包括增加癌症,呼吸道疾病如氣喘、支氣管
Thumbnail
林鄭構建對話平台,梁振英卻為對話劃出界限:「有些基本立場、基本態度,我們不接受暴力行為、我們不接受非法行為,沒有違反 (中英聯合) 聲明這回事。基本法對普選的規定是什麼也要說清楚,不能任由這些謠傳和誤導在社會繼續蔓延。」 簡單講,警黑合作「止暴制亂」、以暴動罪控告抗爭者、不釋放被捕人士將會繼續,重啟
Thumbnail
開羅大學[精油vs.痘痘]研究:牛至(Origanum vulgare L.,奧勒岡)精油──in vitro與in vivo test的抑菌抗痘功效,結果發現...
Thumbnail
反送中運動已上升至對政府、香港警隊、中共政權的全面開戰,日子越久和理非和勇武各自來到了樽頸位置,除非大家想專心返去搞區選,覺得選舉可以改變現況,否則沒有割蓆分化的理由;除非你覺得對得住殉道、被捕、被打既手足,否則沒有散水的藉口!如果唔係既話,請克服恐懼,一日未達到五大訴求,就一日仍然街頭見。
Thumbnail
[20理論系列] 抗痘新概念「痤瘡-暴露組(Acne Exposome)」 歐洲皮膚科醫師委員會建議:治療痤瘡(痘痘)前,先檢視「6 大暴露組」以提升療效!