艾德蒙‧柯溫的主要業務範疇是產業保險,總是如老學究般溫文儒雅且臨危不亂,神色自若的態度,令人感到安心與尊重,但是企業文化中令人作嘔的事情也會發生在他頭上。醫療保險部門因缺乏深入理解,開啟人工智慧技術設計與審查醫療保單理賠專案。由於醫療科技進步被保人壽命延長,保險公司需要持續支付醫療理賠,導致長壽風險加劇,並引發保單責任準備金不足的問題。
為了緩解這一壓力,醫療保險部門啟用了AI技術,試圖通過分析法律和醫療科技的變化來重新評估保單風險,進而削減長期理賠負擔。由於艾德蒙在文物保險領域擁有豐富經驗,且對應對保單的挑戰頗為熟稔,他不得不被納入這項專案中,協助解決相關問題。
艾德蒙的角色是一種影子管理中的替罪羊式委任,高層將專案的名義責任推到他身上,但實際控制權完全不在他手中,這既是因刻板印象導致的職責錯置,也是一種典型的擺爛式委任。他對這項專案在心中非常抵觸也不只是企業文上的問題。
他認為將AI技術如此運用,不僅缺乏企業應有的道德,還背棄了對顧客的承諾,損害保險業的核心價值,永續、信任與責任。身為一個熱愛閱讀的愛書人,艾德蒙對文字的力量有著深刻的理解。他欣賞文字在書籍中帶來的知識與啟發,卻對文字遊戲在實際運用中扭曲事實的做法感到厭惡。利用人工智慧鑽研文字與技術來規避理賠,不僅是對保戶的欺瞞,也是對他個人信仰的挑戰,「用機器來解釋信任,用演算法來計算價值,與我所理解的責任毫無關聯。」
雖然不喜歡卻也不能眼睜睜看著犯嫌做案成功,艾德蒙想到能幫忙打擊這項專案的助手。這時候應該輪到偵探登場了,偵探不應該只在犯罪發生之後才現身,這起惡性重大的打算運用人工智慧預備詐欺犯,應該也要讓偵探來防治醫療保險部門的預謀犯案。於是艾德蒙向克莉絲汀發出邀請,讓她以外部協助顧問的形式來參與協助這項專案。
「雷文斯克羅夫特小姐,你的新圍巾真是漂亮,圖案與形制很獨特,似乎是手工織造。」艾德蒙假裝若無其事地閒聊著。
「喔,這個啊!」克莉絲汀稍微抬起肩膀用臉磨蹭著圍巾一角,彷彿是在感受它的溫度,「這是霍克送給我的聖誕節禮物,將古代編織書的資料匯入AI編排應用,讓仿生機械手編織出來的。」
艾德蒙差點噴掉咖啡,克莉絲汀居然若無其事地描述一項翻天覆地的仿人手工技術,「我的天啊,除非使用生物檢測法測試毛線是否有手汗造成人類DNA滲入,否則根本沒辦法辨識手工的真偽,希望霍克先生不要讓這種東西大量流入市面。」
「還有眼見為憑不是嗎?不用擔心這個,霍克只是順道檢驗訂製仿生手的靈活度而已。」克莉絲汀若無其事地表示。
「喔,那就好,我已經為了人工智慧的事心力交瘁了。」無奈地愛德溫推了一下眼鏡,「這個AI還在BETA封閉階段。」。
「嗯,我認為很多東西不是AI可以取代的。」克莉絲汀淺淺地聞了一下咖啡的味道,「人類在聲討人性的低劣同時,也因為人性的低劣造成了可預期性的變化,反而產生了信任。」
「這就是為什麼會有法律。」艾德蒙對於克莉絲汀的思辨提出了回應,「還有道德觀念以及普世的價值觀,因為人類擁有智慧才會產生出人性。」
克莉絲汀說明了一些通常的手段,「透過公眾手段或者是吹哨者機制,會花費非常多的時間去與這個AI辯論,或者說服公眾以特定的眼光來看待這個專案的AI。」
「有時候真想對大學一畢業就異想天開的傢伙一頓親切問候。」艾德蒙不悅地說:「我之所以接下這個專案經理的職務,是因為我不想讓公司面臨嚴重的信任與道德危機。」
「現在不就是問候他們一頓的時機嗎?」克莉絲汀笑著說:「艾德蒙你已經用盡全力完成那個AI,過去十幾年來在職場上的經歷,用最刁鑽的角度來協助專案的AI完成了。」
「說來慚愧畢竟我也不是AI專家面對這個專案我也無可奈何,但也因為這樣我才能找來最熟悉的偵探來協助。」艾德蒙見到克莉絲汀似乎胸有成竹的模樣感到安心,「看來雷文斯克羅夫特小姐有想法了。」
「只要艾德蒙有在這個專案上用盡全力,那我就有辦法『破案』了。」克莉絲汀點頭表示,並且簽下顧問委託書,「我就以外部協助顧問來接下這個委託。」
接下來克莉絲汀禮貌性地訪問了這個AI的研發團隊,雖然研發團隊的人們都表示歡迎,但是每個人都知道所謂的外部協力顧問,只是要讓這個AI合法的程序不會被技術部找碴而已。所有人都是帶著蔑視的笑容,看待這位五體不足且殘缺的協力者。
「大家好,我是克莉絲汀‧雷文斯克羅夫特,本次專案的外部協力顧問。」克莉絲汀也以禮貌性的方式回應,「那麼事不宜遲,請把保單拿來讓我簽約吧。」
這次測試是虛擬保單,AI並不清楚客戶的真實目的,但是克莉絲汀依然據實提供個人相關資料給AI。
「這樣的條件…到底是怎麼回事啊?」專案成員們尷尬地看著這份保單設計議論紛紛,「這種足以讓客戶感受到保費和保障之間感到強烈的不平衡感。AI的審查邏輯…到底有沒有問題啊,把高風險保戶的保障作最大化壓縮,這種條件真的能合法嗎?」
所有的成員看向艾德蒙希望他能為這種尷尬的局面帶來一點緩解,但是艾德蒙卻沒有任何表態,他只是默默地拿著咖啡戳飲了一小口。
克莉絲汀也沒有表現出任何激烈的反應,她只是微笑地看著螢幕上展示出來的結果,於是她開始思考人生中遇過的一些危險,「喔,這樣啊,我曾經在咖啡廳差點被打翻的咖啡燙傷,幸好服務生機器人即時救了我。假如我被咖啡燙傷,會獲得怎樣的理賠呢?」
艾德蒙深深的吸了口氣但是沒有發怒,而是像是要咖啡的味道完全品嘗一樣。這是很常見的降低理賠風險的概念,對於意外情境,如燙傷,設定高門檻與低比例的賠付,讓公司實際支出控制在極低水平。
「看似合理的條款與條件,限制客戶在常見情境中的理賠金額,同時維持表面上的契約合法性。這種相對的剝奪感是怎麼回事?」一個人失落地抱著後腦杓。
有人無奈地仰躺在椅背上,「這樣很明顯對高風險保戶掩飾期保單本身的不公平性!幾乎是讓AI設計目的與意圖直接在客戶面前裸奔啊!」
還有人驚恐地摀著嘴,「讓客戶在對比支出與理賠金額後,感到索賠過程的麻煩與不值得,進而主動放棄申請,這明顯誘導客戶放棄申請理賠,這樣做不算是法律邏輯沒有問題嗎?」
克莉絲汀沒有對此表達任何質疑,艾德蒙也沒有表達任何意見,於是克莉絲汀又問了,曾經遭遇MAVIS輔助設備暖器故障罹患感冒,導致必須緊急入院治療,保單會如何理賠。
所有的專案成員都看不下去了,「這種誇張的東西到底是什麼?」不可思議地指著螢幕大吼質問。
「通過將MAVIS輔助設備的故障問題歸類為保戶責任,這是當MAVIS製造商的法務是笨蛋嗎?」也有人攤著手完全無法理解。
「又來了!符合疾病治療的理賠條件,花費超過門檻的部分才能啟動賠付,且以較低比例進行。這是人會開出的條件嗎?」不耐煩的人開始手指敲著桌面。
「又是誘導保戶主動放棄索賠?這樣的東西要是多來個幾次真的不會出事嗎?」有些人痛苦地摀著胸口好似心臟病要發作了。
看著慌亂的成員,艾德蒙沒有發表評論,愜意地開起咖啡杯蓋,將稍微冷一點咖啡大口喝下。
而克莉絲汀則是繼續追問下去,「在馬路上行人會遭遇各種危險,不要說四肢健全的人了,我身為ALS患者,肯定會早愈更多危險,假如因為事故造成癱瘓呢?」
假設客戶因車禍產生以下支出:
最終賠付計算:
總賠付金額: 最高為 65單位,但可能根據責任劃分進一步縮減至 32.5單位。
先是一陣沉默…成員們發出絕望的撻伐。
「車禍導致的癱瘓被認定為ALS的惡化,而非獨立事故,因此將大量長期支出歸類為病史相關。這是惡魔嗎?」受不了搖搖頭不想看螢幕。
「只提供一次性補助看似體貼,但實際金額微不足道,無法覆蓋長期護理與設備費用的需求,讓消費者自行承擔高昂成本。這樣保險有意義嗎?」摀著胸口的人貌似快要暈到了。
「通過模糊責任歸屬,天啊!這保單的責任道德還存在嗎?」無奈地攤手臉趴在桌上,彷彿這幾周的努力全部報廢。
克莉絲汀微笑地對該項專案的AI說,「感謝你的配合。」接著回過頭詢問該項專案的成員,「是否還有任何疑問需要追加的嗎?」在場所有成員都尷尬地沉默不語。
艾德蒙見此於是若無其事地宣布,「嗯,既然這樣那麼,AI已經可以成功設計醫療保單並且審查理賠,這樣專案就算完成了,大家去慶祝一下吧!雷文斯克羅夫特小姐,如果有空也請賞光。」
此時克莉絲汀突然想到一件事於是補充說明,「喔,對了,雖然我目前單身,但是我已經訂婚了,會在今年內完成結婚登記。」
就在話音剛落的瞬間,AI又開始了它邪惡的計算…
………
……
…
在艾德蒙的冷靜注視下,專案室內的氣氛達到了臨界點。專案成員已經徹底崩潰,情緒性地哀嚎著,彷彿結婚這個字眼是壓垮駱駝的最後一根稻草。終於,有人不再忍耐,猛地起身衝向操作台。
「夠了!」技術成員怒吼一聲撲向主控台,用員工卡取得權限後,雙手在鍵盤上飛快操作,「你這個惡魔!」開始連打熟悉的 Ctrl + Alt + Del組合按鍵,在屏幕上閃過幾行緊急重新啟動的提示後,AI的運算瞬間停止,系統回到了冷冰冰的啟動界面。
房間內頓時一片死寂,只剩下人們粗重的喘息聲。克莉絲汀始終保持著平靜,像是早已預見了這一切。她沒有說一句話,只是操控著MAVIS輪椅,緩緩駛向門口,無聲地離開了這場鬧劇。
片刻後,仍然有專案成員忍不住低聲問艾德蒙:「雷文斯克羅夫特小姐的收入究竟有多少?她到底為什麼要參與這樣的專案?」
艾德蒙微微一笑,語氣平靜得如同整場事件與他無關:「她的收入?我曾經跟她競爭過一捲羊皮紙的拍賣,當時競價到大概相當於一家科技業技術部門CTO的薪酬,簡單來說大約是人均GDP的十倍左右。」
他停頓了一下,目光掃過一臉茫然的專案成員,輕輕嘆息道:「我們創造AI,是希望它能學習人類的思考,幫助我們解決複雜問題。但看看這個專案,反倒是我們在模仿AI的思維以數據為準則,排除人性,僅僅追求效率與利益。」
整理好衣襟後,他緩緩起身,語調依然從容:「或許這是一種值得反思,究竟是邁向未來,還是背離初衷?」
說完,他優雅地轉身離開,留下了一群陷入沉思的專案成員。
夜色如水,克莉絲汀正等著計程車,大樓燈光灑在她的輪椅上,為她冷靜的身影增添了些許的耀眼。艾德蒙快步走出大門,喊住了她:「克莉絲汀,等等。」
她停下,轉過頭來,臉上是那種永遠從容的微笑:「有事嗎,艾德蒙?」
艾德蒙停在她面前,微微喘著氣,語調卻依然平靜:「我有些事想不明白,你是怎麼預期到今天的結果的?」
克莉絲汀稍作思索,然後輕聲回答:「依靠三法則而已。」
「三法則?」艾德蒙不慎理解,似乎覺得這個答案太過簡單,「怎麼解釋?」
克莉絲汀輕輕抬起肩膀,目光柔和卻透著睿智:「第一法則,AI不能傷害人類,或因無所作為使人類受到傷害。」
艾德蒙皺起眉:「可它分明在設計保單時漠視消費者的利益,這難道不是一種傷害嗎?」
「或許你應該再聽聽第二法則。」克莉絲汀語氣平和:「在不違背第一法則的前提下,AI必須服從人類的命令。」
艾德蒙沉思了一下,點頭道:「是這樣沒錯,但它的行為看來並沒有完全聽從我們的命令。它設計的保單顯然是在苛刻使用者,而不是以服務為目的。」
克莉絲汀嘴角微笑,彷彿在等待這個問題:「這就要說到第三法則了—在不違背前兩項法則的前提下,AI必須保護自己。」
艾德蒙似乎有些明白了,但又露出疑惑的表情:「它這樣運行,最終被我們強制重啟,這算是保護自己嗎?」
克莉絲汀看著遠處的計程車燈光低聲道:「正是因為它知道自己的局限性,才選擇了這種方式。我推理它的行動準則是這樣的:通過設計那些明顯誇張、浮誇且過度膚淺的保單,讓專案團隊自己放棄這套傷害消費者的機制。」
艾德蒙若有所思地點了點頭,眼中透出一絲領悟:「它選擇了極端的方式,阻止專案進行,同時保護自己免於被技術部門標記為惡意程式…」
克莉絲汀輕輕笑了一聲,語氣中帶著溫暖與警醒:「它還在提醒我們,技術是冷酷的,但設計技術的人不能冷酷。如果我們放棄了人性,技術便無法保護我們。」
艾德蒙沉默片刻,然後低聲喃喃:「這套保單的條件,看似荒謬至極,但它其實是在告訴我們,不要這麼作,對吧!」
這時,計程車緩緩停在克莉絲汀面前,她轉過輪椅抬頭看向艾德蒙,語氣輕柔而堅定:「或許,這正是AI最後的忠告,不要放棄守護人性。」
艾德蒙苦笑著搖了搖頭:「有時候,我們確實需要一台機器來提醒我們怎麼當人。」
克莉絲汀的輪椅慢慢倒退上計程車,她微微一笑稍稍揮手告別:「晚安,艾德蒙。」計程車載著她漸漸消失在夜色中,留下艾德蒙站在大門口。