以存活率考慮救援對象的機器人
圖片:2004年電影《I, Robot》截圖
買大小(不算圍骰)會中的機率是一半一半,但如果改變一下條件,開大的機率有45% ,而開小的機率有11%,理性思考應該會選買大吧,就算只有一次機會,相信買大的人還是多數。
試著換個場景,一個醫生面前有兩個人需要動緊急手術,一個是成年男子史普納(Spooner),跟一個小女生。最理想的狀況是兩個都能救,不過醫生只能選一個救,根據他超過一萬次做手術的經驗,他估計史普納動手術後能活下來的機率大約有45%;小女生狀況比較差,大概只有11%。小女生向醫生求救,史普納也叫醫生別理他,救小女生優先。
經過一番考量,醫生決定救史普納而非小女生。最終史普納活了下來,但他對救活他的醫生無比厭惡,覺得他不救小女生是很沒人性的行為。醫生很納悶,如果試著救小女生最終可能兩人都活不下來,他不懂史普納為什麽要怨恨他。
以上情節出於電於電影《I, Robot》(香港譯《智能叛變》;中國譯《我,機器人》,台灣譯《機械公敵》),不過不是醫生救人,而是男主角與小女生同時溺水,有一個機器人來了,他計算出救了男主後他能活下的機會有45%,而小女生只有11%,於是選擇救男主而不是小女生。但男主認為機器人只會算機率,沒有感情與人性,開始討厭機器人。電影中有一句經典名言就是11 percent is more than enough(11%已經很足夠)。
這反映了人性奇怪的地方,如果是買大小,很多人都會選機率比較高的一邊;但換了場景,卻不再以機率為思考原則,而是「期待後果」,史普納就算知道小女生救回來的機率低,也要把機會讓給她,即使最後兩個人都會死的機率比較高。
這行為跟很多買樂透的人很象,即使會中樂透的機率低到小數點後不知多個位,仍是想要碰一下運氣,因為中了獎,錢會多都數不完。因為潛在回報太高而願意賭一把。人總是渴望理想結果,縱然機率很低,這也是賭場長期人丁興旺的原因。如果每個人都像機械那樣以機率來思考,賭場這東西早就在地球消失了。
不過只談機率還不夠,人類還有一個思考模式,就是「願意犧牲自己」,如果機械人有這個把這個思考模式加進程式裡,或許它就會順著史普納的意願救小女生。
但如果把問題試著再弄複雜一點,史普納與小女生都昏迷了,機器人沒辦法知道史普納的想法,那機器人應應該是要以「存活率」為優先,還是以「小孩是首要拯救對象」為優先?
這問題恐怕人類也很難回答吧?