雙手沾滿鮮血...祖克柏道歉！網路殘害「兒少身心」，台灣連ACG都要禁止？

祖克柏大概不曾想過——
原本為大學聯誼而生的臉書，竟在全球「殺害」許多少男和少女。

2024年1月31日，祖克柏和其他4位「同夥」齊聚在美國國會接受拷問，因為，他們就像薩諾斯握有的寶石，只要一個念頭閃過腦海，就能做出影響全世界的決定。那天，一個個少男少女的家長就站在他們身後，捧著正值青春年華的孩子的「遺照」…他們的死，跟社群平台的怠惰與縱容脫不了關係。

祖克柏最終起身，轉頭向家長道歉：「我對你們所經歷的一切感到抱歉…沒有人應該經歷你的家人所遭受的事情。」

科技業的生態是快速迭迨，或許誰也很難想像新增或移除一個功能，可能會對使用者造成難以復原的傷害。然而，當問題已明顯可見，平台是否有盡力保護他們的顧客免於傷害？或者，他們只心心念念著財報是否完美？

這也跟最近iWIN的炎上事件有點關係，台灣現今法規嚴格禁止「含有性意涵的未成年虛擬影像」，讓許多ACG作品有觸法疑慮，也有真實下架案例，引起社會反彈。究竟，保護兒少與言論自由，該如何權衡？禁止合不合理？

文長，但別怕！這樣看少負擔：
找有興趣的數字標題0️⃣→看內文→延伸閱讀

焦點快報

－平台猶如薩諾斯寶石，政府想當美國隊長，誰會獲勝？

1️⃣ Meta、TikTok等五平台出席「兒少數位保護」聽證會

2024年1月31日，美國參議院司法委員會召開聽證會，邀請Meta、TikTok、X、Snap、Discord五家平台CEO出席作證，主要探討的是「兒少在平台上所遭遇的各種危險」，當中最重要的議題是「數位性暴力」，像是強迫青少年傳送露骨照片、放任私密影像流通等。此外，該聽證會也關注「兒少身心健康」的議題，包含平台的介面與功能設計，可能危害兒少心理健康，甚至導致兒少走向自殺一途。

你或許在想「平台又不是加害者，為什麼必須承擔這些後果？」然而，這些惡害或許都是平台政策所豢養出來的。2021年《華爾街日報》揭露吹哨者提供的一系列臉書內部文件，即所謂「臉書檔案醜聞」，其中不僅揭露臉書如何設計介面來操弄用戶情緒，更在明知部分設計對用戶有害的前提下，為了自身利潤而「放任問題、毫無作為」。

漸漸的，社會發現平台為了自身利益，就算沒有積極設計可能對用戶有害的功能，光是消極面對已知問題、毫無作為，就可能對用戶造成嚴重傷害，尤其當這些用戶都是未成年人，問題就變得更嚴重。於是，這場聽證會就是希望瞭解平台怎麼面對這種種指控，以及內部曾如何改善，假若國會認為遠遠不足以解決問題，將透過立法強制對他們課責。

2️⃣ 傷害兒少心理健康！紐約市提告Meta、TikTok、YouTube等平台

2024年2月14日紐約市長Eric Adams指出，市政府已對TikTok、Instagram、Facebook、YouTube、Snapchat的母公司提出告訴，理由是平台在「知情」的狀況下，設計、開發、生產、運營、推廣、分銷和營銷其平台，以吸引青少年使用並使其上癮，而且幾乎沒有家長的監督，造成嚴重的兒少心理健康問題。Eric Adams說，孩子越來越沉迷上網，這些有缺陷的平台將影響年輕人的認知，甚至達到「公共衛生危害」等級，如同煙草、槍枝一般。

美國其他州和地方政府也都有類似的告訴，他們希望藉此強迫科技平台對自家產品負起責任，像是改善演算法、按讚等可能不利兒少心理健康的設計。除提告外，紐約市也提出「社群媒體行動計畫」，加強教育以更安全地使用社群媒體，並著手進行相關研究。而國會不僅舉辦聽證會，目前也正在研議《兒童網路安全法》等多項立法行動，顯見這些都不是空穴來風。

平台怎麼回應？Meta表示他們已花十年來解決此類問題，他們有30多種工具幫助兒少及父母更好的使用該平台；TikTok說，他們領先同業推出一些保護兒少的措施，包含家長控制和年齡限制功能，同時也持續向專家請益；Google則說「這些指控不屬實」，他們一直都在提升兒少使用的安全；Snap認為他們本來就希望使用介面與傳統社群媒體不同，他們期待用戶直接打開相機，並注重與親友而非公眾的互動。

3️⃣ 歐盟DSA要平台「交保護費」，TikTok、Meta不爽就提告

歐盟數位服務法DSA在去年8月開始生效，該法要求被指定的超大型平台每年需付「監管費」作為主管機關執法的資金來源，該費用上限是一間公司年利潤的0.05%（若虧損則無須繳交，如X），比如Meta要支付約1190萬美元、Google要付2380萬美元、TikTok要付420萬美元。Meta反對的原因是「有些平台明明也消耗執法資金，卻無須繳交監管費」，而且他們指控費用根本不成比例；TikTok則認為「歐盟計算活躍用戶的方式有缺陷，導致監管費數額不合理」。目前，這兩間平台都已向歐盟法院提出訴訟，將由司法做出最後裁決。

DSA是領先全球、劃時代的數位治理法案（台灣數中法草案的取經對象），希望解決過去平台不負責任對社會造成的負面影響，雖然在立法過程中經過嚴謹程序，平台、公民社會也都參與立法過程，但最終上路後仍將面臨司法機構的審視把關，作為民主程序的最後一道防線（也是檢驗）。換句話說，如果司法機關在此案有不同於立法者的想法，可能會迫使DSA或他國跟進者，必須重新調整思維及手段。

我們想說的是，DSA作為數位治理的指標，在上路後還需受到實務運作及司法機關的驗證，作為後進者的台灣，可以從中得到一些啟發，因此非常值得我們關注。所謂的實務運作，就比如最近歐盟宣布將根據DSA對TikTok展開調查，包括兒少保護、透明度、成癮設計等方面，我們將能從這次的調查成果一探「DSA能與不能」的究竟——歐盟真的有能力管到轄區以外的公司嗎？DSA真有這麼神奇，能強迫平台負起社會責任？

延伸閱讀：
台灣媒體觀察教育基金會》DSA懶人包｜https://mediawatch.pse.is/5mddp9
TechCrunch》歐盟根據DSA展開對TikTok的調查｜https://mediawatch.pse.is/5mddv6

4️⃣ 平台影響力超大？拜登想禁TikTok，但為了選舉還是得低下頭

TikTok除了上述的問題外，在中美對抗的框架下，TikTok一直是美國政府極力以「國安」為由想禁止的中國產品：拜登在2022年簽署法案，禁止聯邦政府設備使用TikTok，而外國投資委員會更致力迫使字節跳動從TikTok撤資。然而，面對即將到來的總統大選，拜登的競選團隊在2月11日為他註冊TikTok帳號，目標是加強接觸年輕選民，因為根據統計，去年共有1億5000萬美國人使用TikTok，其中近一半都低於30歲。對此，同黨國會議員Mark Warner認為，拜登這種作法凸顯其對TikTok的態度前後不一；競選團隊解釋，他們在獨立手機上使用TikTok，並盡力避免可能的資安疑慮。

事實上，《彭博》報導指出「TikTok已經超越Meta成為美國討論大選的主要地方」，因為不僅越來越多老年人開始使用TikTok，TikTok的內容也開始出現嚴肅的政治內容，像是討論戰爭或美國生殖權利等議題，連Z世代的創作者也表示會將重心從IG轉向TikTok。你知道嗎？這個趨勢正如Meta所願，因為他們從2022年開始刻意降低「新聞」的觸及度，像是皮尤研究中心最近就發現「年輕人接受新聞的管道，已從FB和X轉至TikTok」；甚至，IG及Threads更在2月9日直接表示，未來不再主動推播「政治內容」。

上述事件，不僅彰顯出社群平台對人們的影響力有多大，更再再證明社群平台壓根不是「中立」的資訊轉介者，它的一舉一動都會大大改變人們接收資訊的習慣、操控人們的政治參與，而這些決策，都指向一個終極目的——為自身帶來更多利潤，而不是讓社會更好。

延伸閱讀：
IG》IG及Threads不再主動推播政治內容｜https://mediawatch.pse.is/5mdtnl

5️⃣ TikTok高層來台！數發部希望其在台落地、建立溝通管道

農曆年前，TikTok新加坡總部高層來台，史無前例與數位部政務次長李懷仁進行非正式會面，主要討論平台上錯假訊息、違法訊息的問題。TikTok雖然是中國公司字節跳動旗下產品，但與抖音不同，TikTok屬於國際版本，其總部設在新加坡及美國洛杉磯，在台灣沒有辦公室，過去由「戰國策」子公司順律顧問作為代理窗口。TikTok雖然聲稱「早與跟警政署及中選會建立聯繫管道」，但這終究跟Meta、LINE在台灣成立分公司不同，政府不僅無法直接聯繫TikTok官方，他們也無須遵守台灣法律。

這次會面，雖然未能確定TikTok是否來台落地，但雙方聚焦在建立「TikTok與台灣政府的直接溝通管道」，也就是未來若發現TikTok上的違法訊息（如詐騙、暴力），雙方能儘速通報並做出處置，一改過去無能為力的尷尬處境。

解讀焦點

－5位CEO排排坐、受害者家長排排站，一場「兒少保護」的靈魂拷問會

1️⃣ 你可能很好奇：美國聽證會，關台灣什麼事？

事實上，聽證會上討論的這些議題，並不是美國特有的社會問題，不論是台灣或其他國家，都一直有類似的事件，就如同毒品、性、暴力等犯罪一樣，是跨國界都存有的社會問題；另一方面，Meta、TikTok、X等早已是「跨國」平台，意即其市場與影響力早就超脫傳統國與國的疆界，而這也是當代在面對數位環境的問題時，一國的法律常常是力有未逮。

換句話說，今天美國之所以舉辦聽證會，雖然是著眼於解決國內的社會問題，但由於我們也使用這些平台、也面對類似的問題，因此就有分一杯羹的機會，因為平台若隨美國政府要求而改變政策或作為，遠在太平洋彼岸的台灣也就會因此受到影響。另外，種種討論隨著議員質詢進入國會殿堂，並鐵錚錚擺在平台CEO面前，也就象徵著這些社會問題不再只是「擔憂」而是具體而迫切的「議題」，能受到社會各界的廣泛重視。

簡單來說，這場美國的聽證會，與我們並不是毫無關聯，它的發展可能影響我們每天的日常使用。同時，我們也能從聽證會攻防以及曝光的證據中，深入體認到平台究竟對兒少造成哪些傷害？傷害有多深、有多大？

2️⃣ 關於聽證會的背景，以及誰出席了聽證會？

這是由美國國會參議院司法委員會舉辦的聽證會，主因是過去美國持續有內部爆料與司法訴訟，不斷指出社群平台對兒少造成嚴重的身心健康威脅。國會中跨黨派罕見在此議題上有高度共識，就是要致力研擬立法行動，強制平台改善問題、負起責任，於是舉行此聽證會，並且邀集5大平台的CEO直球對決。

當天近4小時的聽證會，除了參議院議員、5平台CEO出席外，現場還有許多因平台而自殘或自殺的兒少家長們齊聚，有些人帶著死去的孩子照片，讓他們宛若活生生地出現在平台老闆面前，現場還播送受害兒少的獨白：「我在臉書上受到性剝削。」現場，除了臉書CEO祖克柏（Zuckerberg）外，其他4位CEO分別是X的Linda Yaccarino、TikTok的Shou Zi Chew（周受資）、Discord的Jason Citron、Snap的Evan Spiegel。

雖然說聽證會是議員蒐集資料的過程，以便未來繼續推動立法，但這類聽證會在美國已不只一次，比如2023年初也有針對TikTok的聽證會、2021年臉書吹哨者Frances Haugen也到國會作證，然而如今美國卻仍未有實質行動。BBC訪問到社群媒體分析師Matt Navarra，他指出「這是美國政治譁眾取寵的案例之一」，即便聽證會看似精彩又關鍵，他卻對未來的實質進展持保留態度。不過，透過一次次聽證會所曝光的證據，以及平台高層直接的說法（這次美國有發傳票強迫Snap、X、Discord出席，可見其珍貴性），我們也才有機會對問題現狀有更深入的瞭解。

延伸閱讀：
The Drum》5個聽證會的重點｜https://mediawatch.pse.is/5mjw5k

3️⃣ 那些受害者是誰？平台究竟如何傷害兒少？

這些兒少因為使用社群平台，遭遇嚴重的性剝削、上癮沉迷、自殺、飲食失調、不切實際的審美標準、霸凌等問題，比如說議員Dick Durbin就引用統計數據指出，跟金融相關的性勒索行為急劇增長，像是未成年人受誘騙而發送露骨的私密影像；而現場有幾位家長也表示，自己的孩子因為在Snapchat和Instagram上遭受霸凌，最終自殺身亡。

新墨西哥州總檢察長AG Raúl Torrez在隨後受訪時也表示，FB及IG是從事性虐待、教唆和人口販運的犯嫌出沒的主要地點，估算每天有10萬兒少收到相關訊息，他相信Meta高層早就知情，而且他們有資源、技術及能力阻止這些事情發生，只是行動消極，於是他在去年12月起訴Meta及祖克柏。此外，Google、Meta、TikTok等平台也在去年遭美國多個州起訴，因為他們「刻意」讓兒少上癮並損害其心理健康（如失眠、焦慮、憂鬱等），例如在年齡驗證上有漏洞、濾鏡造成不健康的外貌期待等，而且這些設計都是平台為了追逐自身利潤，而忽視對兒少的傷害。

事實上，2017年就有一名17歲的英國少女因為「演算法」而自殺，在自殺前幾個月，他在IG存下2100則跟自殺、自殘和憂鬱內容有關的貼文，也在Pinterest平台存下469則相關負面內容。這起案件可能不是特例，但卻是有史以來第一次，法院判決認定因演算法推薦內容而死的使用者——原來演算法真的是「殺人兇手」。

面對這些指控，平台除了強調自己的努力外，也不斷搬出《通訊端正法》第230條作為擋箭牌，該條文認定平台不需為其所中介的內容負責（第三部分會詳細討論）。230條在1996年立法時，目的是保護言論自由，然而隨著時代演進，上述諸多案例都表明：平台透過簡單的介面設計，就能大幅影響使用者的認知及行為，甚至其消極面對問題的結果，將嚴重傷害用戶，而問題根源，即在於利潤先於一切的思維，導致當保護用戶會損害其利益時，他們往往忽略前者、選擇後者。

延伸閱讀：
轉角國際》當螢幕裡只有絕望：一名英國少女如何被「演算法殺死」？｜https://mediawatch.pse.is/5mzp3f
獨立評論》一個英國少女之死：社群媒體演算法的推薦圈套｜https://mediawatch.pse.is/5mzp3w

4️⃣ 平台做了哪些努力？祖克柏：我很抱歉。

祖克柏辯稱「我的工作是製造好的工具」，他也主張Meta花了10年開發30多種工具來協助家長保護兒少，也致力發展兒童網路安全方法，具體案例比如未成年人IG和Messenger預設無法接收陌生訊息。TikTok執行長周受資也不斷指出「安全是核心理念之一」，像是禁止13歲以下兒童使用、嚴格禁止試圖傷害兒少的使用者等。

即使如此，平台看似也努力避免危害兒少身心健康，但站在他們身後的受害者家屬，卻也都是一個個真實的案例。隨後，祖克柏起身，轉向這些受害者家屬的方向，說：「我對你們所經歷的一切感到抱歉，沒有人應該經歷你們家人所遭受的事情。」

聽證會中，議員Lindsey Graham向祖克柏說「你的手沾滿鮮血」、「你的產品會殺人」，但在這些控訴之前，他也表示「我知道你不是故意的」…？如果平台不是故意的，平台也很努力解決問題，那癥結點到底是什麼？一方面，如上所述，平台利潤優先的邏輯讓他們忽略問題，另一方面，平台的「努力」可能只是表面功夫，導致保護措施根本無法有效避免傷害，比如說「年齡驗證」是否有盡力防堵漏洞？應對性暴力內容的防護機制是否及時且有效？

又或者，另一種可能是，平台在糊弄大家、知行不一，就像是面對種種保護兒少的新法案，有些平台壓根都不支持。

5️⃣ 哪些法案正在醞釀？

目前，大概有6項跟兒少保護有關的法案正在研議。X、Snap、微軟都表態支持《KOSA》，X也表態支持《SHIELD》和《Stop CSAM》法案，至於Meta、TikTok及Discord都拒絕支持相關法案，而Meta只表示支持KOSA的基本精神，但不認同該法案。以下，將簡單介紹幾項法案，建議可以進一步跟歐盟DSA的條文相比較，會發現有異曲同工之妙。

📌Kids Online Safety Act（KOSA）

這項法案是大眾焦點，且得到參議院約一半議員的支持。此法希望阻止社群媒體向兒少傳遞有害內容，包括暴力、藥物濫用、飲食失調、網路霸凌、騷擾、性剝削內容等；另外，它也要求平台要保護兒少數據，像是限制個人化廣告、停用令人上癮的功能（如自動播放影片）；最後，平台也應建立家長工具，以限制13歲以下兒少的上網時間。反對者擔心，這恐有侵害言論自由的疑慮，導致公司過度審核，甚至封鎖不一定有害的內容，比如LGBTQ相關內容。

📌SHIELD Act

這項法案主要希望處理性私密影像在未經當事人同意下的外流行為（填補美國現有法規之不足），雖然此法所欲保護的對象包含成年人，但同樣也能打擊兒少的性剝削問題。由於X在色情內容守則上相對寬鬆，是性私密影像外流的溫床，而X支持這項法案的舉動，有一定指標意義。

📌Stop CSAM Act

這項法案將能賦予兒少性暴力受害者足夠的法律權力，包含起訴放任性剝削的社群平台、要求平台刪除兒少性剝削內容。然而，業者與言論自由及隱私權倡議者都擔憂，這項法案將會讓平台因為擔心法律責任，而過渡刪除或審查內容，有削弱網路隱私跟安全保護疑慮。

📌Earn It Act

此法案將可能讓平台因為中介兒少性暴力的內容，而需負起責任，也就是平台需要因為其上的內容負責。換句話說，它直接挑戰了《通訊端正法》第230條給予平台業者的責任豁免權，變項是直接修改該條爭議法律，批評者擔憂，這將透過破壞端對端加密通訊，進而加強監控用戶監控並削弱隱私權。

📌Children and Teens’ Online Privacy Protection Act (COPPA 2.0)

這算是修法，而不是立法。原本的法規規定，平台應先徵得13歲以下兒少的同意，才能蒐集他們的使用數據，而這次修法，不只希望把年齡門檻從13歲上調到17歲，還進一步想禁止網站向兒少投放「定位廣告」。

延伸閱讀：
台灣媒體觀察教育基金會》歐盟DSA條文懶人包｜https://mediawatch.pse.is/5mjvxv

6️⃣ 問題不是美國獨有，已成台灣在內的全球社會問題

以傷害較明確且嚴重的「數位性暴力」為例，具體有肉搜、網路跟騷、未經同意散播性私密影像、與性別有關的仇恨或威脅等10種情況，雖然在網路誕生前就存在這些問題，但是社群平台興起後，犯罪行為變得更加龐大，像是展翅協會統計發現，2021到2022年的數位性暴力諮詢佔總案件數，從4成提高到5成，其中更有1/4跟兒少性虐待、性剝削有關；另外，受害人與加害者也打破國疆限制，成為跨國互通的問題，例如現在許多散播台灣非法性影像的網站，因為網站架在境外而讓執法與下架成為難題，不只誘騙的加害者可能不在台灣，觀看的加害者也可能遍及全球，加劇對受害者的侵害。

事實上，2020年韓國的N號房事件、2021年台灣的小玉DeepFake換臉事件、2023年台灣的Risu外流社團事件，都印證社群媒體如何讓性暴力變得更容易發生、影響更廣泛。《鏡週刊》就曾在2022年發表「青春煉獄：網路獵騙性私密影像事件簿」調查報導，兒少受害者親身說明他是如何被誘騙、傷害如何發生、自己造成哪些後續影響，以下是報導節錄：

「現在不只網路空間，連現實生活也成了地獄。她時常感到焦慮，無法一個人走在路上或高中校園裡。『第一次是別班的，我去倒垃圾，他們就從樓上喊下來，喊影片裡的關鍵字⋯⋯』淯無法提起那幾個字，那是又狠狠羞辱她一次。」

「為了躲避鋪天蓋地的網路霸凌，她在影像外流當天關掉經營許久的抖音跟 IG，『我不在網路露面，不去交際，非常戒備，不信任任何人⋯⋯大眾的眼光，真的可以殺死一個人，我那時候真的想不下去，要繼續活下去，還是要自殺？』」

「會員透過入會審查，預繳 8000元費用，可以依照會員分級，付費瀏覽 10 萬部以上的非法色情資源，包含以性誘拐、詐騙、網路約會、性交易等方式取得國小生、國高中生及成年女性，自拍或偷拍而來的非自願外流性私密影像。經過實名認證的會員，擁有更高權限，包括瀏覽迷藥性侵女性的影片、國小女生性行為影片；遭脅迫的女性以及女童，被要求學狗爬、拿針刺穿身體、異物塞入私密處的影像。這些影像的受害者甚至必須拿著身分證學生證拍攝。」

「很多人知道這是我本人，看過我的裸體，想要看我否認的態度、嘲笑我，我也不能跟人家說那不是我、是 P（後製）的，我的刺青太明顯了，我承認這是我。」

「近 4 萬人的群組中，她看見「自己」正被預告釋出，『檔案下面，有一個眼睛的圖像，旁邊會寫幾 K（千）的人看過⋯⋯我覺得世界崩塌了，天崩地裂。』」

延伸閱讀：
鏡週刊》青春煉獄：網路獵騙性私密影像事件簿｜https://mediawatch.pse.is/5mzqm6

洞悉未來

－iWIN因促下架「未成年性虛擬影像」被炎上，為什麼？

1️⃣ iWIN為什麼炎上？

iWIN是負責處理網路有害兒少身心內容的民間機構，他們在2023年12月接獲檢舉，指出PTT上有篇文章討論「某日本情色遊戲內容（以女性兒少為原型、具性意味的「虛擬」角色）」，雖然該篇貼文屬純文字，但附帶連結（新聞網、遊戲官網）卻包含圖片，因此iWIN徵詢學者與NGO意見後，依《兒童及少年性剝削防制條例》建議PTT及新聞網下架。隨後引起反對網友譁然，認為這將箝制言論自由，尤其法規「連虛擬創作都要被限制」，讓「後宮動漫」或「奇幻、校園、戀愛喜劇」像是《惡魔高校》、《出包王女》等作品都將觸法。網友不僅感嘆「一個時代結束了」，甚至號召群起向iWIN檢舉，灌入1000多張照片來「驗證」違法與否。

這項爭議與去年「性防四法修法行動」有關。2023年初《刑法》在第10條增定「性影像」定義，包括「與性相關而客觀上足以引起性慾或羞恥之行為」（出處是大法官針對「猥褻」的解釋）；這項定義被引用至同年《兒少性剝削條例》第2、38條的修法中，而規範的對象包含「影像、電磁紀錄、圖畫、語音或其它物品」。也就是說，除真實人物外，人工或AI製成的「兒少虛擬影像」只要符合性影像定義，也在禁止範疇中。

事實上，這項限制或許早在1995年立法之初就已存在（當時規範對象就包含「圖畫」），只是2023年這次《兒少性剝削條例》修法從「姦淫（性交）或猥褻」的簡要定義，隨著《刑法》增定性影像變得更具體，尤其「與性相關而客觀上足以引起性慾或羞恥」的定義更讓解讀範疇變得更大。2023年修法時的黨團協商，時任立委王婉諭就質疑這項定義：「我完全沒有辦法理解這個『客觀上』要如何定義，因為它既然是一個感覺，那就絕對不會是客觀，而是主觀。……如果現在很廣泛的包含下去，雖然範圍很廣泛沒有錯，但究竟是很廣泛地有辦法定義，還是很廣泛地沒有辦法定義？」

禁止「真實」兒少影像很好理解，但為什麼要禁止「虛擬」兒少影像？2007年《兒少性剝削條例》第28條修法理由指出「兒童色情圖片對慾望的刺激是有關聯性的，觀看之後可能會採取實際的行動去傷害兒童」、「斬斷市場需求，抑制兒童及少年色情製造」；2015年同法第38條的「圖片」改為「圖畫、照片」，主要原因為「符合《兒童權利公約》所述保護兒童免於從事色情表演或作為色情之題材」；2023年同法的修法理由也提到「避免因觀看兒童或少年與性相關而客觀上足以引起性慾或羞恥行為之素描、漫畫、繪畫等色情圖畫，致進一步侵害兒童或少年」。另外，衛福部次長李麗芬曾在立院說明，兒少色情要保護的還包含「人格尊嚴」這個更大法益，也就是即便沒有暴露器官，但仍可能損及其人格尊嚴。

總而言之，「禁止具性意味的兒少虛擬影像」可能不是去年修法的效果，早在《兒少性剝削條例》立法之初就已涉及相關規範，只是近年因應數位性暴力的「性防四法修法行動」，導致規範變得更加明確，加上民眾主動向iWIN檢舉，才讓這項潛在的爭議爆發。

必須強調，iWIN是根據《兒少法》成立的民間機構，因此他們沒有公權力，靠的是跟平台間的信任所培養的軟性合作關係。基於「不告不理」原則，他們只在收到檢舉後，會判斷該內容是否違反相關法規（透過例示框架），並「建議」平台作適當處置；與此同時，iWIN也會同步向警察機關檢舉，最終裁罰權還是落在政府單位。換言之，要說iWIN「箝制言論自由」恐怕真的是誤會大了。

2️⃣ 爭議延燒：iWIN出面解釋、網友提案通過、政府將找解套

爭議爆發後，網友向iWIN提出1000多則檢舉，執行秘書劉昱均指出，經過檢視後這些申訴都沒有違反《兒少性剝削條例》，不過他們藉此蒐集到很多圖片範例，將會納入圖庫，完善例示框架。他也進一步解釋，性影像分三級，一是違法、二是需有年齡限制機制、三是不違法，通常許多內容只到第二級，但因為網站沒有年齡機制，所以通常網站就選擇下架。

今年2月5日公共政策網路參與平台就有「二次元創作(虛擬產物、圖畫)受兒少性剝削條例規範限制的適切性」的提案，要求政府檢討相關法案，獲得19019個覆議，政府需在4月7日前給予正式回應。初步，衛福部表示將在3月邀集兒少團體、法律學者及相關專家討論，目前將朝「制定兒少性剝削法的子法，訂出虛擬情色圖像違法認定通則」的方向處理；衛福部保護服務司長張秀鴛對此回應「法律不是問題，如何認定內容標準才是問題」。

立委方面，沈伯洋、范雲、徐巧芯都表態支持「真實與虛擬應訂定不同規範」。沈伯洋說，「引起性聯想」的標準太廣泛而危險，且「幼體的性化」跟「性的幼體化」兩者並不一樣，因此他主張真實跟虛擬要完全切分開來。徐巧芯則認為問題在於「感覺」的判斷標準讓人無所侍從，但他不支持完全將虛擬內容排除於兒少法之外，因此主張「真實與虛擬分別訂定規範」。范雲則說，當初立法是為了保護受害人，但二次元沒有受害者，因此他希望關切兒少保護同時，要跟創作自由取得平衡。

3️⃣ 平台到底要不要負責啊？《通訊端正法》第230條說不用耶！

不論是上述iWIN的爭議，或是美國聽證會的種種討論，都指向「平台有為其上內容負責的義務」，即便這些內容根本不是平台發佈的。你或許會覺得奇怪，之所以叫「平台」，就是因為它只提供讓用戶相互交流的場所，而不涉及內容創作的過程，為什麼他得為有問題的內容負責？這不會造成過度審查而侵害言論自由嗎？事實上，過去大家都是這麼認為的，這也是平台為自己辯護的主要理由。

美國在1996年制訂《通訊端正法（Communications Decency Act）》第230條時，當時認為平台只是中立的角色，因此免除其責任有助於維護言論自由，避免平台因為擔心觸法而過度審查，加上當時是網路開始興盛之際，如此規範有助於促進網路蓬勃發展。然而，近年隨著各界開始意識到平台掌握的權力之大，同時也並非對其上內容毫無干預，因此美國屢屢出現是否修法的討論，不只川普、拜登都表態支持修改，在聽證會中Discord的CEO也表示「這是非常古老的法律，需要更新」。

政大傳院助理教授盧建誌在2023年研究指出，隨著科技發展，社群媒體已成為虛擬世界主要言論的媒介，加上傳統言論自由的內涵特徵遭遇衝擊，像是「資訊洪流可能不會讓人們獲得更多有用資訊，反而在汪洋中遭滅頂」、「單獨或小眾意見在網路環境中，如果無法發生群聚效應，將會遭多數意見淹沒」等，因此當代社會必須有更先進的規範框架，才能夠跟上科技發展的腳步，否則將淪為姑息網路平台，形成怠惰、魯莽與疏忽的藉口。

盧建誌主張「230條應與時俱進修正」，包括整合現實與虛擬世界的規範，要求平台應負一定責任，促使他們積極處理不當內容；至於面對侵害言論自由的質疑，他強調應回到「言論自由是為保障民主、追求真理和意見交流功能」的初衷，畢竟許多網路上的言論並無法滿足上述條件，因此根本無法伸張應受言論自由保護。

延伸閱讀：
盧建誌》假訊息管制與言論自由的平衡：美國網路中介責任的邊界探察與反思｜https://mediawatch.pse.is/5n36mv
Wikipedia》通訊端正法230條｜https://mediawatch.pse.is/5n375g
卓新電子報》檢視引發廢除爭議的通信端正法230條｜https://mediawatch.pse.is/5n37xg

4️⃣ 台灣有《通訊端正法》第230條嗎？

有類似的精神，而且還曾因此產生爭議。《電信法》第8條第1項指出：「電信之內容及其發生之效果或影響，均由使用電信人負其責任。」也就是，負責傳遞內容的中介平台不需要為其負責。2013年NCC提出修正草案，草案增加中介平台有「斷網、移除內容」等義務，就具有上述與時俱進的意味，然而當時引發社會反彈而未果。

2022年NCC提出《數位中介服務法》草案，是類似歐盟數位服務法的數位治理法案，其中也有類似規定，一樣引起社會強烈反彈而遭退回。盧建誌指出，上述以不當內容為途徑的直接、事前管制，很難不違憲，因此他認為，從建構平台作為守門人所應履行的具體義務下手，讓它有善盡內容管理的責任，可能是比較好的作法。

總而言之，不論是美國或台灣，「讓平台負起責任」這條改革之路都還在路上，而即便歐盟已具體做出法律變革，目前也還正遭遇司法面的重新檢視。但可以確定的是，「社群平台無須對內容負責」的想法已經過時，免死金牌不復存在。

支持我們🥰

⭐ 和我們一起塑造「更好的媒體，更好的社會」⭐

如果你喜歡這個專題，歡迎 單筆 或 定期定額 贊助我們 這將能支持媒觀持續關心並投入媒體環境監督觀察、兒少閱聽權益、關注新聞自由等工作，謝謝你一直以來的支持與鼓勵！

》關於台灣媒體觀察教育基金會：https://www.mediawatch.org.tw/about

》透過 媒觀官網 支持我們 💰

》歡迎在 Facebook 、 Instagram 上追蹤我們 👍

參考資料

1.中央社(2024)／美參院砲轟網路平台未保護兒童 祖克柏起身道歉｜https://mediawatch.pse.is/5mcjw2
2.華爾街日報(2021)／the facebook files｜https://mediawatch.pse.is/5mcy2j
3.Aljazeera(2024)／CEOs of Meta, X, TikTok grilled about online child safety at US hearing｜https://mediawatch.pse.is/5mcy64
4.CNBC(2024)／TikTok, Facebook and YouTube sued by New York City for alleged harm to kids’ mental health｜https://mediawatch.pse.is/5md78x
5.The Verge(2024)／New York City is suing TikTok and Instagram for ‘addicting’ children｜https://mediawatch.pse.is/5md79v
6.Politico(2024)／Meta, TikTok take EU to court over online content rulebook｜https://mediawatch.pse.is/5mded3
7.The Verge(2024)／Meta and TikTok challenge fees paid to fund EU’s new DSA｜https://mediawatch.pse.is/5mdey9
8.EU(2024)／Commission opens formal proceedings against TikTok under the Digital Services Act｜https://mediawatch.pse.is/5mdg5l
9.法廣(2024)／拜登競選團隊加入 TikTok坐擁1.7億美國用戶太大而無法被禁？｜https://mediawatch.pse.is/5mdtsj
10.德國之聲(2024)／自相矛盾？拜登啟用TikTok吸引年輕選票｜https://mediawatch.pse.is/5mdtv4
11.Bloomberg(2024)／TikTok Steps Ahead as the Place for Campaign Chatter｜https://mediawatch.pse.is/5mdtxs
12.Instagram(2024)／Continuing our Approach to Political Content on Instagram and Threads｜https://mediawatch.pse.is/5mdtzq
13.中央社(2024)／TikTok爭議多 新加坡總部高層農曆年前來台溝通｜https://mediawatch.pse.is/5me4xy
14.自由時報(2024)／TikTok被批假訊息氾濫 新加坡總部高層來台釋誠意｜https://mediawatch.pse.is/5me4zv
15.The Drum(2024)／5 key takeaways from Meta, TikTok, X, Snap’s Congressional hearing on kids’ online safety｜https://mediawatch.pse.is/5mjw7t
16.TechCrunch(2024)／Microsoft, X throw their weight behind KOSA, the controversial kids online safety bill｜https://mediawatch.pse.is/5mjw9r
17.Reuters(2023)／Meta's Instagram linked to depression, anxiety, insomnia in kids - US states' lawsuit｜https://mediawatch.pse.is/5mjwbj
18.CNBC(2024)／Meta chief Mark Zuckerberg ‘needs to do the right thing’ in child sex targeting fight: New Mexico attorney general｜https://mediawatch.pse.is/5mjwdv
19.CNN(2023)／Google, Meta, Snap and TikTok must face teen addiction claims, federal judge rules｜https://mediawatch.pse.is/5mjwfq
20.The Verge(2024)／Senators find tech CEOs’ responses hollow after four-hour hearing｜https://mediawatch.pse.is/5mjwhv
21.NBC NEWS(2024)／Senate hearing highlights: Lawmakers grill CEOs from TikTok, X and Meta about online child safety｜https://mediawatch.pse.is/5mjwlp
22.mint(2024)／Senators Push for Industry Support on Kids’ Online Safety Bills｜https://mediawatch.pse.is/5mjwqu
23.VOX(2024)／Meta, Tiktok and Other Social Media CEOs Testify in Heated Senate Hearing on Child Exploitation｜https://mediawatch.pse.is/5mjwuf
24.CNBC(2024)／Meta’s Zuckerberg apologizes to victims in tense D.C. hearing: ‘I’m sorry for everything you’ve gone through’｜https://mediawatch.pse.is/5mjx9y
25.ABC NEWS(2024)／Meta, Tiktok, X CEOs grilled at US Senate child safety hearing, forcing Zuckerberg to apologise｜https://mediawatch.pse.is/5mjxdy
26.Politico(2024)／Senator to Big Tech: ‘Collectively, your platforms really suck at policing themselves’｜https://mediawatch.pse.is/5mjxlf
27.BBC NEWS(2024)／Meta boss Mark Zuckerberg apologises to families in fiery US Senate hearing｜https://mediawatch.pse.is/5mjxq4
28.Tech Policy Press(2024)／Assessing Support for Child Online Safety Legislation at Senate Hearing with Big Tech CEOs｜https://mediawatch.pse.is/5mjxze
29.鏡週刊(2022)／青春煉獄：網路獵騙性私密影像事件簿｜https://mediawatch.pse.is/5mzqm6
30.NPOST(2018)／網路兒少性剝削市場化、產業化，展翅協會：「持有未成年性剝削影像，也屬犯罪行為」｜https://mediawatch.pse.is/5mzqqn
31.公視新聞網(2023)／台灣數位性暴力案件增加 未成年兒少受害人數攀升｜https://mediawatch.pse.is/5mzqr8
32.公視新聞網(2023)／數位性暴力逾2成為兒少性剝削 民團籲不分享不點閱｜https://mediawatch.pse.is/5mzqs7
33.未來城市(2022)／性私密影像流上網、7成受害者未成年⋯⋯面對10種數位性暴力，你該如何自保？｜https://mediawatch.pse.is/5mzqt5
34.Wikipedia(2024)／「N號房事件」條目｜https://mediawatch.pse.is/5mzqtu
35.Wikipedia(2024)／「小玉DeepFake換臉事件」條目｜https://mediawatch.pse.is/5mzqv3
36.數位女力聯盟WIDI(2023)／讓我們一起抵制以RISU短網址進行性影像外流的粉絲專頁｜https://mediawatch.pse.is/5mzqyu
37.《兒童及少年性剝削防制條例》（1995制訂、2007修正、2015修正、2017修正、2023修正）法條、異動理由、附帶決議｜https://mediawatch.pse.is/5n2gde
38.《兒童及少年性剝削防制條例》2023年版本於2022年12月13日之政黨協商會議紀錄｜https://mediawatch.pse.is/5n2h3q
39.《刑法》（2023年1月7日修正）｜https://mediawatch.pse.is/5n2h9d
40.新頭殼(2024)／連虛擬角色也要管！網友3天內對iWIN怒灌1400件申訴 保護司司長回應了｜https://mediawatch.pse.is/5n2hc4
41.Dcard(2024)／比起iWin，衛福部兒少法讓我們真的要和動漫說再見了｜https://mediawatch.pse.is/5n2hfv
42.自由時報(2024)／通知PTT下架兒少性剝削影像 3天內1400件申訴灌爆iWIN｜https://mediawatch.pse.is/5n2hhp
43.聯合新聞網(2024)／要PTT下架兒少性剝削圖鄉民炸鍋 iWIN：違法就得移除｜https://mediawatch.pse.is/5n2hll
44.PTT(2024)／為什麼不能反對「虛擬兒少色情」？｜https://mediawatch.pse.is/5n2hnn
45.PTT(2023)／當兒童色情的定義擴展到非真人｜https://mediawatch.pse.is/5n2hqq
46.中央社(2024)／iWIN下架兒少性剝削疑慮圖 立委促虛擬認定應切開｜https://mediawatch.pse.is/5n2htq
47.聯合新聞網(2024)／認定有疑慮⋯接逾千件虛擬性影像檢舉 衛福部將訂通則｜https://mediawatch.pse.is/5n2hwe
48.遠見(2024)／宮崎駿都恐審查不過？動漫圈炎上「iWIN」事件一次看懂｜https://mediawatch.pse.is/5n2hzj
49.中央社(2024)／二次元創作受兒少性剝削限制適切性連署過關 衛福部3月底開會｜https://mediawatch.pse.is/5n2j46
50.公共政策網路參與平台(2024)／二次元創作(虛擬產物、圖畫)受兒少性剝削條例規範限制的適切性｜https://mediawatch.pse.is/5n2j6m
51.盧建誌(2023)／假訊息管制與言論自由的平衡：美國網路中介責任的邊界探察與反思｜http://www.tjctaiwan.org/word/5736692023.pdf
52.Politico(2022)／White House renews call to ‘remove’ Section 230 liability shield｜https://mediawatch.pse.is/5n35mp
53.上報(2022)／【數位中介法爭議】蔡英文被挖出9年前反《電信法》PO文　網狠酸：超時空迴力鏢？｜https://mediawatch.pse.is/5n35qa
54.《電信法》（2013年修正）｜https://mediawatch.pse.is/5n35v4
55.NCC(2013)／《電信法》修正草案｜https://mediawatch.pse.is/5n35y8