眼尖的人,應該會發現最近臉書等社群網站上,出現大量「放兩個人照片讓他們擁吻」的付費app廣告。另一種app廣告則示範一位女生的背部,如果按個鈕就褪去背部衣服,模擬脫下衣服的樣子。
這些有道德隱憂、誘導犯罪嫌疑的app與廣告,先引發國外媒體《未來主義》(Futurism)的注意,然後《富比世》(Forbes)跟進報導。我耙梳了最近與先前的一些相關新聞,整理如下:
- 以「親吻app」為例,許多宣傳就打著「你可以跟暗戀的對象親吻」。但,生成這樣的影像,需要經過當事人同意嗎?不需要。
- 現在要取得特定人的照片來變造,不會太難。臉書、IG上會有照片,就算自己不喜歡照相,也很難拒絕公開場合的合照。照片不清楚,也可以丟進各種模擬器生成清晰、九成像的照片。
- 臉書與IG曾出現過2500則親吻app廣告,目前還有1000則廣告在跑。
- 類似的技術,有可能被上百家公司拿來應用,賺錢或蒐集個資。這些公司有許多位於美國以外,如阿拉伯聯合大公國、義大利和中國。
- 也有網站報導,有些「脫衣app」背後可能是俄國駭客,除了取得個資外,目標是想掌握一些「喜歡冒險」的年輕男人的秘密資訊,進而偷取他們的比特幣。
- 雖然這些廣告可能很有趣,也可以滿足我們的一些幻想,但如同一位女性AI分析師說的:「這種趨勢正在使性剝削深偽內容正常化、玩笑化。當其他人被這樣對待時,我們可能覺得這是小事情,但當有人針對妳製作這樣的影像時,尤其是某個妳不希望擁有妳隱私影像的人,每個人都能感受到:這是一種侵犯。」
- 更大的問題在於:這些AI深偽影像,隨時可能流出,造成當事人的傷害。
- 2023年10月,新澤西州14歲女學生 Francesa Mani 發現,她同學利用線上服務,將她的臉放在裸女的身體上,在秘密群組流傳。
- 她並不是唯一的受害者,有許多位同學,都成為男同學的目標,被製作了偽造的色情圖片。
- 她和她的母親Dorota Mani開始遊說,要求在州政府和聯邦政府針對這些未經同意的深偽影像進行管制。她們因為這些努力,受邀參加美國總統拜登的國情咨文演講。
- 但是,即使有這些努力,那些男生只有一位收到停學一天處分。沒有人道歉,這些男生還是與受害女學生一起上課、在同一條學校走廊擦身而過。
- 警察雖然有來學校偵訊學生,但因為家長不在場,所以這些偵訊內容無法當成法庭上的證詞(因為這些男學生未滿14歲)。2024年1月底,當地警方因為證據不足,正式拒絕提出刑事起訴。
- 而受害女生感受到的,是背後隱約或當面感受到的嘲諷、訕笑。受害女生有可能因此更容易被霸凌。
- 加州另一所中學也發生了類似事件,五名學生傳閱同學的深偽色情圖片,幾星期後就被開除。佛羅里達州兩名中學生被控製作類似圖像後被捕,被起訴三級重罪,根據佛州法律,未經他人同意分享這些深偽影像屬於犯罪。
- 這些案例,都值得台灣父母、政府單位以及媒體注意。我們需要確立這樣的觀念:任何明示暗示親密行為或裸露身體的AI偽造影像,都需要經過當事人同意。私下變造是不道德的,散播就是違法。
- 期待你的分享,減少未來台灣可能會受到傷害的人。