ComfyUI研究 - InstantID

更新 發佈閱讀 2 分鐘

InstantID是中國的團隊做出來的功能,專注在人像的風格轉換上。

官方github網址:https://github.com/InstantID/InstantID

在ComfyUI使用上有提供三個非官方的節點組可以選擇如下:

以上三個節點除了cubiq的版本外,其他兩個都因為需要使用diffusers的關係,所以安裝後容易報錯,而cubiq的版本安裝很簡單且可以順利運行,所以三個都安裝過後,最終我留下並使用的是cubiq的版本,cubiq同時也是IPAdapter Plus的作者。


工作流

基本工作流

下圖是根據cubiq提供的基本工作流稍作調整修改,我加入Get resolution節點,直接讀取來源圖片的寬高,然後輸入到Empty Latent Image固定生成圖像的尺寸與來源圖像相同。

raw-image

cubiq在他的InstantID節點頁面有說明因為InstantID在訓練時採用1024*1024的圖像,所以在生成1024*1024的圖像時會容易出現浮水印,所以他建議使用1016*1016的生成尺寸。

因為我只是測試節點作用,所以採用來源圖像跟生成圖像的尺寸相同的做法。

可以看出使用InstantID後,人物的長相一致性比IPAdapter FaceID還要更高,而且受到文字提示詞與選用模型的影響,風格順利轉換成另外一種。


加入控制圖像

下圖是加入控制圖像的工作流(局部),跟基本工作流的差異是在Image_kps輸入控制圖像。

raw-image

在cubiq最初的版本是加入臉部偵測的controlnet去控制生成人臉的位置,在後來的改版就提供了上圖看到的簡化,只要簡單的在Image_kps輸入圖像,就可以改變生成圖像的臉部位置。


混合IPAdapter

InstantID可以串接IPAdapter使用,下圖是上面的工作流串接之後的效果。

raw-image

這邊使用的是新版的IPAdapter中的style transfer (SDXL)功能,這個功能可以讓IPAdapter專注在風格上面,但畫質表現上略差。


小結

InstantID提供了較為單純的使用方式,強化了生成人物的長相一致性,還可以搭配controlnet跟IPAdapter去調整人物姿勢跟畫面風格,還可以使用SDXL Turbo/Lighting等加速模型。

如果只是看InstantID在github的頁面介紹,可能會讓人誤會InstantID只是做到很多手機app都可以做到的濾鏡效果。

另外cubiq還分享了可以在一張圖片中生成兩人的工作流,實測下來生成時間如其所言較長且不容易成功,cubiq說會再花時間優化,就不多做測試了。

留言
avatar-img
Frank Plaza
13.5K會員
89內容數
AI的時代已經來臨
Frank Plaza的其他內容
2024/04/06
這篇要搭建一個同時生成寫實照片跟動漫風格圖片的工作流,還可以幫線稿上色。
Thumbnail
2024/04/06
這篇要搭建一個同時生成寫實照片跟動漫風格圖片的工作流,還可以幫線稿上色。
Thumbnail
2024/04/01
測試一下 IPAdapter FaceID
Thumbnail
2024/04/01
測試一下 IPAdapter FaceID
Thumbnail
2024/03/31
IPAdapter節點重大更新,要不要更新呢?
Thumbnail
2024/03/31
IPAdapter節點重大更新,要不要更新呢?
Thumbnail
看更多
你可能也想看
Thumbnail
如果你也是那種在職場上追求極致效率,對生活品質有堅持,且渴望一段成熟、穩定、不拖泥帶水關係的專業人士,那麼 Ping! 會是你目前市面上最值得嘗試的選擇。 成熟的大人,不需要在低效的社交中消磨熱情。讓 Ping!,為你的情感生活進行「降噪」,把精力和時間,留給那個真正能與你靈魂共鳴、頻率一致的人。
Thumbnail
如果你也是那種在職場上追求極致效率,對生活品質有堅持,且渴望一段成熟、穩定、不拖泥帶水關係的專業人士,那麼 Ping! 會是你目前市面上最值得嘗試的選擇。 成熟的大人,不需要在低效的社交中消磨熱情。讓 Ping!,為你的情感生活進行「降噪」,把精力和時間,留給那個真正能與你靈魂共鳴、頻率一致的人。
Thumbnail
厭倦只看外貌的交友方式嗎?Ping!主打真實、安全的深度交友體驗,透過真人驗證與多樣化的個人化問答,幫助使用者在認識彼此之前,先理解價值觀、關係期待與交友目標。即使是慢熟的 I 人,也能透過提問找到適合的人選,避免聊到一半才發現方向不同。適合想被理解、重視心理連結與安心互動的你。
Thumbnail
厭倦只看外貌的交友方式嗎?Ping!主打真實、安全的深度交友體驗,透過真人驗證與多樣化的個人化問答,幫助使用者在認識彼此之前,先理解價值觀、關係期待與交友目標。即使是慢熟的 I 人,也能透過提問找到適合的人選,避免聊到一半才發現方向不同。適合想被理解、重視心理連結與安心互動的你。
Thumbnail
Ping!主打真人驗證機制,透過AI人臉比對確保用戶真實性,讓人放心。獨特的照片主題功能、個性化標籤和趣味文字問答,讓用戶更深入展現自我,為開啟話題提供契機,甚至有機會找到擁有相似冷門興趣的同好。Ping!注重高品質的交友關係,透過共同點建立雙方的連結,為現代人提供一個舒適、真實且有意義的交友環境。
Thumbnail
Ping!主打真人驗證機制,透過AI人臉比對確保用戶真實性,讓人放心。獨特的照片主題功能、個性化標籤和趣味文字問答,讓用戶更深入展現自我,為開啟話題提供契機,甚至有機會找到擁有相似冷門興趣的同好。Ping!注重高品質的交友關係,透過共同點建立雙方的連結,為現代人提供一個舒適、真實且有意義的交友環境。
Thumbnail
也許不是我不適合交友,而是我適合的節奏,本來就比較慢。 比起快速認識很多人,我更在意人與人怎麼相遇,才不會那麼累。當對話可以慢慢發生,當我們從想法開始靠近彼此,那種剛剛好的距離,反而讓人更願意走近。
Thumbnail
也許不是我不適合交友,而是我適合的節奏,本來就比較慢。 比起快速認識很多人,我更在意人與人怎麼相遇,才不會那麼累。當對話可以慢慢發生,當我們從想法開始靠近彼此,那種剛剛好的距離,反而讓人更願意走近。
Thumbnail
第一次使用這平台 處於摸索狀態 透過文字希望可以好好紀錄自己的生活
Thumbnail
第一次使用這平台 處於摸索狀態 透過文字希望可以好好紀錄自己的生活
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News