方格精選

📝📝:ChatGPT 取代了寫手卻創造了編輯?|人類正在成為 AI 生成內容的清潔人員

更新於 發佈於 閱讀時間約 7 分鐘


本文翻譯自 BBC 的專欄文章《AI took their jobs. Now they get paid to make it sound human》由科技線記者 Thomas Germain 撰寫。




從部分介入到全面掌管

Benjamin Miller(化名)Miller 管理著一個由 60 多位撰稿人與編輯組成的團隊,負責為一家科技公司撰寫部落格文章,該公司收集並轉售各式各樣的資料,從房地產到二手車。

這項工作既需要創意,也需要與主題專家合作,讓 Miller 有機會探索各種主題。Miller 的職責包括監督內容的整體方向,並確保每篇文章都能兼具準確性和原創性。

當 Miller 的雇主開始採用新技術時,這一切都改變了。


ChatGPT 取代了寫手卻創造了編輯?Photo by Andrei J Castanha on Unsplash

ChatGPT 取代了寫手卻創造了編輯?Photo by Andrei J Castanha on Unsplash


在一次會議中,管理階層提出整合 ChatGPT 以降低營運成本的想法,之後公司便引進了自動化系統。最初,Miller 的經理會在線上表格中輸入標題,然後由 GPT 產生大綱。Miller 的撰稿人不需要開發自己的想法,而是根據生成的大綱撰寫文章,Miller 會進行最後的編輯。

僅僅幾個月之後,公司又增加了一輪自動化: 

ChatGPT 開始從頭到尾撰寫整篇文章。這項發展使得 Miller 團隊中的大多數人都被淘汰,只剩下幾個人在出版前做最後的編輯。

到了 2024 年,連僅有的幾個職位也不見了。


編輯 AI 的寫作:無比單板的新工作

在 Miller 的處境中,他一開始希望轉換到 AI 驅動的內容,可以讓同行的文案寫手甚至是作家做更多有趣的工作,像是提昇大綱,並將粗糙的草稿塑造成精緻的作品。

然而, Miller 很快就發現 AI 需要不斷的人工干預。ChatGPT 給出的結果充滿了重複的措辭、呆板的轉換、尷尬的成語,有時甚至完全是虛構的。「刪除形式怪異或過度熱情的語言」成了 Miller 每天的例行公事。

Miller 還必須注意可信度;AI 偶爾會插入一些隨機或不準確的陳述,需要刪除。這通常會變成一個耗費時間的過程,因為他必須仔細檢查每一段落,以確保 AI 的「幻覺」(hallucination)都能被發現並糾正。

ChatGPT 給出的結果充滿了重複的措辭、呆板的轉換、尷尬的成語,有時甚至完全是虛構的。Photo by Tim Gouw on Unsplash

ChatGPT 給出的結果充滿了重複的措辭、呆板的轉換、尷尬的成語,有時甚至完全是虛構的。Photo by Tim Gouw on Unsplash


有些編輯的工作完全圍繞著修改 AI 寫成的文字,使其閱讀起來更真實。文案兼編輯 Catrina Cowart 說道,她的許多工作都是讓 AI 產生的文章讀起來更自然。像是刪除過度正式或過時的語言,「因此」(therefore)或「不過」(nevertheless)等,這些字眼很少用在現今的行銷文案中。

Cowart 也強調事實檢查的重擔:

AI 有捏造參考資料或陳述錯誤事實的傾向,因此,即使是看似無關緊要的小細節,也需要仔細核實。

儘管糾正 AI 文字的工作繁重,但編輯的報酬往往比不上從頭開始寫作的報酬。Cowart 就指出,標準的文案撰寫費用約在每字 10 美分左右,而編輯或「AI 潤飾」的費率可能低至 1 美分或 2 美分。這些工作可能更耗時,但報酬卻沒有比較高,完美結合無聊與財務壓力。


在 AI 檢測器和標準流動中維持品質

除了日常的編輯工作之外,AI 的普及也引起了內容品質的問題。

大部分的數位寫作都是為了提升搜尋引擎排名;公司僱用文案撰寫人員製作資訊文章和部落格文章,以吸引 Google 演算法的注意。

然而,Google 已明確表示要懲罰「無助」或公然自動化的內容。雖然 Google 表示精心製作的 AI 內容是可以接受的,但企業仍擔心大量機器產生的文字可能會對其知名度造成負面影響。

這種憂慮催生了 AI 偵測器(像是 GPT ZERO),此軟體系統可辨識文字是由機器還是人類撰寫。

GPTZero 是一款人工智慧偵測軟體,旨在識別 AI 生成的文本。來源:維基百科

GPTZero 是一款人工智慧偵測軟體,旨在識別 AI 生成的文本。來源:維基百科


自由撰稿平台或個人客戶,有時會要求撰稿人透過這些檢測器檢視他們的成果,以確保最後的文案符合特定的「人類門檻」。諷刺的是,正如 Cowart 所解釋的,提供編輯工作以修復 AI 文字的平台,也會頻繁提醒不要觸發 AI 檢測。

撰稿人最後只能玩無止盡的猜測遊戲,猜測哪句話可能會「太像 AI」,可能會被標示需要重寫。更令人沮喪的是,AI 偵測器本身也會不斷更新,因此何謂「人類寫作」的規則也不斷改變。

遇到過這個系統的人都抱怨這扼殺了創造力,把人搞得像偏執狂。Cowart 表示,「同一件事有數百萬種說法」,任何一天都會有一套新的準則,規定要刪除或取代多少同義詞或不相干的字彙,才能獲得合格的 AI 評分。

對於新手來說,因為檢測器錯誤地將他們的文字識別為 AI 而失去工作或合約,可能是個毀滅性的打擊。與此同時,對於那些長期編輯 AI 作品的人來說,他們的閱讀方式已經有點機械化,出錯的機會也相當渺茫。


從人性化到為 AI 驅動的公司工作

Miller 最終的命運突顯了這個新創作環境的不穩定性。

儘管他花了好幾個月的時間讓 AI 作業達到標準,但當 Miller 的雇主認為潤飾的工作也能用新技術自動化時,Miller 就被解雇了。Miller 既驚訝又沮喪,眼睜睜看著公司內容管道,最後一道人工檢核關卡消失。

Miller 很快就發現了另一個充滿諷刺意味的機會。離職不久後,Miller 受雇於一家名為 Undetectable AI 的公司,這家公司專門開發工具,讓 AI 所產生的文字更難辨識。在這裡,Miller 加入了當初自己反對的技術。


Undetectable AI 專門開發工具,讓 AI 所產生的文字更難辨識。來源:Undetectable AI Linkedin

Undetectable AI 專門開發工具,讓 AI 所產生的文字更難辨識。來源:Undetectable AI Linkedin


Undetectable AI 的技術長 Bars Juhasz 承認,他公司的工具可能會對勞動市場造成負面影響。不過 Juhasz 也指出,歷史早有先例(例如汽車取代馬車的興起)顯示社會最終會適應。

Juhasz 認為,雖然許多工作都會轉移或被取代,但能夠有效運用 AI 並與 AI 合作的人仍能茁壯成長。換句話說,擁有相關技能的人可能會發現自己站在新角色的最前線,即使這些職位一開始看起來不如傳統的文案或編輯工作吸引人。




對人類價值與未來工作的思考

Miller 對於他花在編輯 AI 內容的幾個月,後悔之情溢於言表。

Miller 看到網路上開始充滿他認為的「垃圾文章」。這些主要為搜尋引擎最佳化而創作的文章,缺乏真正的洞察力和真實的敘述。諷刺的是,當企業意識到這些文章沒有真正的價值時就會刪除,或是被新的 AI 驅動的更新所取代。

從 Miller 的觀點來看,AI 內容的短暫性,突顯了真正的工藝與企業成本削減之間的錯置。正如新技術取代了歷史上的舊工具一樣,AI 也正在塑造勞動力。取代在短期內會帶來痛苦,但也有可能出現幾年前不存在的新定義的角色。

問題在於,在這個過程中,公司是否會重視人類勞動的無形資產 — 創造力、同理心、理解深度,或是將人類輸入,純粹視為機器產生文字的最後清潔人員


留言
avatar-img
留言分享你的想法!
彼得潘-avatar-img
2025/01/18
Ai 出現“幻覺”時 大概率象徵了Ai 也不是那麼強大無敵 據聞Ai再訓練的機器 第九代就會“不知所云”甚至胡言亂語 人文的基本價值不可忽略 機器必然冰冷 有溫度的是人類而非過熱的耗能。
鋼哥-avatar-img
發文者
2025/01/18
彼得潘 我有讀到那篇研究,下次會轉述成文章🤟🤟但確實如此,一旦真的讓 AI 完全自動化,不消幾代過後,模型就會開始「吞噬」自己
Kai-Man-avatar-img
2025/01/20
其實要先讓Ai認知,他是某個領域的身分,先備知識多餵,可以降低胡說八道。
鋼哥-avatar-img
發文者
2025/01/20
C.K L 不知道有沒有專門胡說八道的知識~~~
mdocho-avatar-img
2025/01/29
工具用的好,事業沒煩惱 😂
對於AI檢測滿有共鳴。有過自己寫的東西被檢測為AI,然後又要重複修改(因為不知道是什麼字還是語法被認定為AI)到他認定是人類。這種過程其實反而更費時耗力。 謝謝分享。
鋼哥-avatar-img
發文者
2025/01/27
哭追肉泥K.Z. 真的!有時候覺得這很像在玩躲貓貓,目前我也還在摸索中文的哪些詞彙容易被判定成AI撰寫。大概能抓得到,AI很愛結尾,像是:總的來說、總而言之、總之...就像讀了很多書但是愛說教的長輩
津輕海峽-avatar-img
2025/01/20
AI的本意是给人提供助力,实际效果则往往是添加麻烦,制造天量的垃圾,令人防不胜防,扫不胜扫。窃以为这是它不可救药的、源于其设计基本思想的致命伤——它是设计来提供人们期望会得到的答案(因此充其量是在窠臼里打转),提供不了就编造尽可能乱真的答案(即从一开始就被注意到的所谓幻想hallucination)。由此说来,它的基本设计宗旨就是垃圾。垃圾产品设计,产品必然垃圾,不可能有别的。
鋼哥-avatar-img
發文者
2025/01/20
津輕海峽 「垃圾产品设计,产品必然垃圾」真的是一針見血
avatar-img
社會人的哲學沉思
116會員
254內容數
從物理到電機工程再轉到資訊傳播,最後落腳在社會學。衣櫃拿來當書櫃擺的人。我常在媒介生態學、傳播理論、社會學、心理學、哲學游移;期盼有天無產階級可以推倒資本主義的高牆的兼職家教。
2025/04/25
大型語言模型以自然的節奏說話,表達好奇心,甚至聲稱能體驗情感。但這精心打造的表象掩蓋了一個基本的事實: 這些 AI 系統根本不具備這些人類特質。
Thumbnail
2025/04/25
大型語言模型以自然的節奏說話,表達好奇心,甚至聲稱能體驗情感。但這精心打造的表象掩蓋了一個基本的事實: 這些 AI 系統根本不具備這些人類特質。
Thumbnail
2025/04/22
「懶惰原住民」(the Lazy Native)的迷思並非自然形成,而是殖民當局帶著明確的意識形態意圖精心打造的。
Thumbnail
2025/04/22
「懶惰原住民」(the Lazy Native)的迷思並非自然形成,而是殖民當局帶著明確的意識形態意圖精心打造的。
Thumbnail
2025/04/18
KK 指出,AI 的長期影響將超過電力與火的發明,但這個變革需要數百年來逐步展現。
Thumbnail
2025/04/18
KK 指出,AI 的長期影響將超過電力與火的發明,但這個變革需要數百年來逐步展現。
Thumbnail
看更多
你可能也想看
Thumbnail
「欸!這是在哪裡買的?求連結 🥺」 誰叫你太有品味,一發就讓大家跟著剁手手? 讓你回購再回購的生活好物,是時候該介紹出場了吧! 「開箱你的美好生活」現正召喚各路好物的開箱使者 🤩
Thumbnail
「欸!這是在哪裡買的?求連結 🥺」 誰叫你太有品味,一發就讓大家跟著剁手手? 讓你回購再回購的生活好物,是時候該介紹出場了吧! 「開箱你的美好生活」現正召喚各路好物的開箱使者 🤩
Thumbnail
介紹朋友新開的蝦皮選物店『10樓2選物店』,並分享方格子與蝦皮合作的分潤計畫,註冊流程簡單,0成本、無綁約,推薦給想增加收入的讀者。
Thumbnail
介紹朋友新開的蝦皮選物店『10樓2選物店』,並分享方格子與蝦皮合作的分潤計畫,註冊流程簡單,0成本、無綁約,推薦給想增加收入的讀者。
Thumbnail
當你邊吃粽子邊看龍舟競賽直播的時候,可能會順道悼念一下2300多年前投江的屈原。但你知道端午節及其活動原先都與屈原毫無關係嗎?這是怎麼回事呢? 本文深入探討端午節設立初衷、粽子、龍舟競渡與屈原自沉四者。看完這篇文章,你就會對端午、粽子、龍舟和屈原的四角關係有新的認識喔。那就讓我們一起解開謎團吧!
Thumbnail
當你邊吃粽子邊看龍舟競賽直播的時候,可能會順道悼念一下2300多年前投江的屈原。但你知道端午節及其活動原先都與屈原毫無關係嗎?這是怎麼回事呢? 本文深入探討端午節設立初衷、粽子、龍舟競渡與屈原自沉四者。看完這篇文章,你就會對端午、粽子、龍舟和屈原的四角關係有新的認識喔。那就讓我們一起解開謎團吧!
Thumbnail
當AI取代大部分寫作時,人類的寫作角色和目的將會發生深刻的變化。 以下是一些關鍵觀點,探討人類在AI主導的寫作環境中仍能發揮的獨特價值。 人類寫作的獨特性 內在思考的表達 人類寫作不僅僅是內容的生產,更是一種思考和自我表達的方式。 即使AI能夠生成高質量的文本,寫作對於人類來說
Thumbnail
當AI取代大部分寫作時,人類的寫作角色和目的將會發生深刻的變化。 以下是一些關鍵觀點,探討人類在AI主導的寫作環境中仍能發揮的獨特價值。 人類寫作的獨特性 內在思考的表達 人類寫作不僅僅是內容的生產,更是一種思考和自我表達的方式。 即使AI能夠生成高質量的文本,寫作對於人類來說
Thumbnail
問題在於,公司是否會重視人類勞動的無形資產 — 創造力、同理心、理解深度,或是將人類輸入,純粹視為機器產生文字的最後清潔人員?
Thumbnail
問題在於,公司是否會重視人類勞動的無形資產 — 創造力、同理心、理解深度,或是將人類輸入,純粹視為機器產生文字的最後清潔人員?
Thumbnail
誰才是真正的創作者? 隨著ChatGPT等AI技術的崛起,我們身邊充滿了各種針對AI的讚譽與質疑。有人說它能改變創作的未來,也有人認為它最終會取代人類。但如果你覺得ChatGPT能做所有的創作工作,那你就錯了。作為一個編劇,我要告訴你一個不太討喜的事實:
Thumbnail
誰才是真正的創作者? 隨著ChatGPT等AI技術的崛起,我們身邊充滿了各種針對AI的讚譽與質疑。有人說它能改變創作的未來,也有人認為它最終會取代人類。但如果你覺得ChatGPT能做所有的創作工作,那你就錯了。作為一個編劇,我要告訴你一個不太討喜的事實:
Thumbnail
近來生成式AI(Generative Artificial Intelligence)的快速發展,為全球帶了一股衝擊性的產業變革力量,其強大的內容生成能力可有效地支援內容創作者的工作,甚至取代創作者本身。AI取代人類工作的趨勢正快速發展中...
Thumbnail
近來生成式AI(Generative Artificial Intelligence)的快速發展,為全球帶了一股衝擊性的產業變革力量,其強大的內容生成能力可有效地支援內容創作者的工作,甚至取代創作者本身。AI取代人類工作的趨勢正快速發展中...
Thumbnail
隨著所有的知識和資訊都能由人工智能生成,知識工作者面臨著前所未有的挑戰。對此你是否感到擔憂?我理解許多人都有類似的擔憂,然而也許我們無需過度焦慮,因為仍有眾多領域是人工智能無法取代的。 科技的崛起確實改變了許多領域,但我們不應過分擔心科技會完全取代人類的角色。科技僅能在某些方面替代人力,卻難以在所
Thumbnail
隨著所有的知識和資訊都能由人工智能生成,知識工作者面臨著前所未有的挑戰。對此你是否感到擔憂?我理解許多人都有類似的擔憂,然而也許我們無需過度焦慮,因為仍有眾多領域是人工智能無法取代的。 科技的崛起確實改變了許多領域,但我們不應過分擔心科技會完全取代人類的角色。科技僅能在某些方面替代人力,卻難以在所
Thumbnail
HI: 我相信自從Chatgpt的出現,AI日新月異的進化, 以文案維生的文案手會開始感到心驚膽戰, 而不以文案維生的老闆或行銷人..等會感到開心。 有了AI,以後還需要花錢找文案寫手嗎? 我相信這是很多人共同的問題。
Thumbnail
HI: 我相信自從Chatgpt的出現,AI日新月異的進化, 以文案維生的文案手會開始感到心驚膽戰, 而不以文案維生的老闆或行銷人..等會感到開心。 有了AI,以後還需要花錢找文案寫手嗎? 我相信這是很多人共同的問題。
Thumbnail
  前陣子ChatGPT出來,一時成了最熱門的搜索詞,在Youtube上面這類的介紹討論也大量冒出。有賺views的,也有賣課的。   我本身是個科技白癡,試了一陣AI作畫之後,因為總感覺不符預期(可能是因為自己的提詞能力有待提高),因此又拿起筆,練起美術基礎來。   Chat的功能我用過一點,它比
Thumbnail
  前陣子ChatGPT出來,一時成了最熱門的搜索詞,在Youtube上面這類的介紹討論也大量冒出。有賺views的,也有賣課的。   我本身是個科技白癡,試了一陣AI作畫之後,因為總感覺不符預期(可能是因為自己的提詞能力有待提高),因此又拿起筆,練起美術基礎來。   Chat的功能我用過一點,它比
Thumbnail
隨著時代更迭,AI的功能也日益更新,人工智慧也已經成為現今最備受矚目的焦點。而AI也在我們的生活中無處不在,幾乎是人們不可或缺的東西之一。在這充斥著AI的世代,讓人們也不禁開始思考人工智慧對我們的利與弊。
Thumbnail
隨著時代更迭,AI的功能也日益更新,人工智慧也已經成為現今最備受矚目的焦點。而AI也在我們的生活中無處不在,幾乎是人們不可或缺的東西之一。在這充斥著AI的世代,讓人們也不禁開始思考人工智慧對我們的利與弊。
Thumbnail
AI有AI所謂的「創作」,我也有我的想法與創作,在沒有電腦、網路的時代,就已經有一堆人在寫作了,現在不過多加了AI進來……在思考ChatGPT會不會威脅到寫作這部份,我的想法反而是:未來的人們是想看人工智慧所寫出來的內容?還是人類所寫的內容?
Thumbnail
AI有AI所謂的「創作」,我也有我的想法與創作,在沒有電腦、網路的時代,就已經有一堆人在寫作了,現在不過多加了AI進來……在思考ChatGPT會不會威脅到寫作這部份,我的想法反而是:未來的人們是想看人工智慧所寫出來的內容?還是人類所寫的內容?
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News