睡夢中安詳離去的司機

閱讀時間約 5 分鐘

〈睡夢中安詳離去的司機〉2023-03-31


  近期,馬斯克在內的一些專家或意見領袖在一份公開信上表達了對於AI高速發展的擔憂。他們認為這種AI研發競賽應該要被暫緩,並呼籲我們應該先設立足夠的監管與安全機制,讓我們對這種發展可能帶來的巨大風險可以有能力抵禦。


  由這些具有科技背景的人士來表述出擔憂對人類社會是有益的,他們的表態比那些更擅於戲劇性討論奇文軼事的網紅更具有代表性,一方面能讓更多人意識到風險的的確確存在,另一方面,影響力人士的出面制止,也能給予資本一種不持續朝那個方向蜂擁的抑制性驅動力。然而,我並不認為人類會有真正準備好的一天,尤其僅僅六個月。



  許多人將這些呼籲風險的聲音視為一種眼紅式的著急,去嘲諷他們(尤其一直與AI發展保持緊密距離的馬斯克)想叫別人停下來是因為「自己來不及上車」。然而,事實上這份公開信最核心想做的事情,正是去制止open AI以外的科技企業因為這種眼紅式的著急而可能犯下的嚴重錯誤。


  我們已經看到了google發布Bard時甚至沒能注意到錯誤所昭示的那種倉促、看到了令人懷疑的「中國版GPT」百度文心、也看到近期google、微軟等公司將結合了了AI的軟體與諸多模組套件陸續公布。科技界顯然進入了一種對下個世代科技主導權展開的軍備競賽。


  這無疑是極度危險的,在AI足夠強大到本身就對人類帶來傷害之前,這種科技霸權的爭奪以及爭奪戰結束後的那種嚴重壟斷,就已經是近在眼前的、值得警惕的問題。遑論AI進展之飛速所伴隨的科技物本身的風險,同樣真實且難以估量。



  不只是看熱鬧的網民,真正處於科技前沿的專家中,也有許多人並不認為這樣的暫緩有必要。雖然進步的確很快,但「一種與人類競爭甚至取代人類的意識」顯然並不是當前已經具備普及性的「語言生成模型」發展的方向。


  的確,當前的AI模型並非如字面上的是一種"Intelligence",就像智慧型手機一樣,它並不擁有傳統意義下的智慧或意識。並不會像「老高式理解」中的那樣去成為足以超越並宰制人類的意識主體。然而,因此便相信AI發展還不足以令人擔心的專家,其實高估了傳統意識能力對人造行為主體實踐的重要程度。


  事實上,要引發人類社會的顛覆,它們絲毫不需要有傳統意義下的意識,我們完全可以預見,AI會在部分專家以為還早的某一天如同AlphaGo之於圍棋那樣做出人類只能夠興嘆的大師行為。


  那時,一直存在於人類心中的素樸行為主義思路會直接地讓更多人不得不轉去承認「它至少具有某種意識」,那種所謂的「意識」和人類傳統意義下談論的意識有很大的不同。而在很多領域上,這種連原來的設計者都難以掌握其運作方式的「所謂意識」,將能更好地完成許多我們做不到的事。


  聽起來不錯,但問題就在於,我們真的知道我們即將更有效地完成的是什麼嗎?



  事實上,過往並不是沒有過這類討論。基因複製技術、基因改造技術、核反應技術都遭遇到倫理問題以及種種被人類社會認為有其必要性的限制。我並不認為人類的科技發展應該要在某個地方「就此打住」,也不認為人類有能力真正阻止時代巨輪前進。但我們要的是什麼?我們已經要了嗎?


  人類社會很可能真的有必要在每個重大的發展階段裡慢下腳步,去共同思考、討論、並給出一種即便不夠完備但至少具共識的階段性人類整體答覆,然後才往下走。人類社會都還沒有完全地認識與消化社群媒體帶來的激化與對立、還不知道怎麼處理虛擬貨幣與資產對社會帶來的衝擊與相關監管問題,我們真的知道我們為什麼要進入下一個時代了嗎?我們有辦法在事情與人類目標出現明顯落差的時間點上,快速地做出反應嗎?



  我們知道人類科技競賽曾帶來過哪些後果。運氣好的話,我們會踏上另一顆月球;運氣不好,我們馬上會迎來新的「小男孩」與「胖傢伙」。監管是一個重要的問題,但在那之前,人類缺乏的是那整體性的共同目的。


  我們不能否認微軟對open AI的注資加速了科技發展,但這也為我們帶來公開信裡談到的「競爭與黑盒」的明面上的與潛在的問題。在這些科技巨頭對科技的把持下,我們沒有辦法相信open AI還能保持創立之初所重視的開源與獨立。


  為了要在這項競賽中取得勝利,人類的整體命運被一併地推上前線。變化較小的情況下,更加懸殊的科技貧富差距會讓我們加速進入某種如既定印象(或更加糟糕)的賽博龐克世界;變動較大的話,我們將活在一個不再主要由人類主導的文明。



  改變並不是一定要拒斥的,人類主導的文明不見得真正對個人或個人所處的世界比較有利。但對人類社會來說,這幾年的鉅變已經是吃不消的了。我並不認為有多少人已經準備好去迎接一種更加難以設想的新秩序。


  我們尚且不需要去討論什麼秘密結社或陰謀論,光是疫情、烏俄戰爭、中美對抗、AI發展與生活場域的數位化、以及高機率即將到來的經濟衰退,都已經向我們展示了一連串不可逆的重大改變。我們應當去學習與運用科技高速發展所帶來的碩果,但在這個時間節點上的人類真的沒有足夠的餘裕不去謹慎面對。



  當那些對科技的不可預測性過分樂觀的專家以一種Searle式意識觀說著「機器沒有目的所以沒有意識」的同時,放任擁有最多資源與最領先技術的科技巨頭為了搶佔下個時代科技板塊進行AI軍備競賽的人類,又真的明白並擁有自己的意識嗎?




延伸閱讀:

〈AGImenschen〉

〈AI時代:技術革命下的價值重估契機〉

〈Please be True in other Words.〉





27會員
400內容數
一個寫作實踐,關於我看到和思考中的事情。
留言0
查看全部
發表第一個留言支持創作者!
你可能也想看
迎新活動「方格新手村」:新格友註冊加入方格子,知名日料吃到飽餐券送給你! 👉 還不是 vocus 的會員嗎?點此註冊,參與新手村活動 👈 近期站上也出現了不少新格友,為了歡迎各位的加入,「方格新手村」隨之登場! 即日起,只要是新註冊帳號於活動期間內發佈 3 則文章,就有機會抽獎獲得知名日料吃到飽餐券。原格友也可以一起同樂,我們準備了小任
Thumbnail
2024-06-21
90
閱讀心得:展現自我的生活態度|成熟大人的說話課我們每天都在說話,但說出的話合適嗎? Sunny最近讀完一本有關溝通的書籍。 這是由世紀奧美公關的創辦人「丁菱娟」所寫的書,書的全名《丁菱娟的成熟大人說話課:如何說,才能得體又不傷人?反擊時,如何堅定又有力量?任何情境都可用的38個溝通之道》。 會找這本書來看,主要是因為Sunny 近期發
Thumbnail
2024-07-10
69
防曬產品係數測試報告彙整(2024年)從2014年起,自己對於市售防曬產品的效能產生了濃厚的興趣。因為當時候發現不少產品的防曬係數其實標示是有問題的,像是原本應該是人體測試的SPF與PA數值,實際上沒有做,只用機器測試的數據來充當,但這兩者卻有很大的差異。像是防曬係數其實有強度、廣度與平均度三個面向需要一起判斷,但多數廠商並沒有完整標示
Thumbnail
2023-04-27
40
睡夢中的殺手!「這疾病」恐增心臟負擔,提升 4 倍中風風險。 睡眠呼吸中止症是一種在睡眠中呼吸中止或異常淺的疾病,通常由喉嚨後部的軟組織在睡眠時阻塞氣道導致。 這種疾病不僅會導致日間疲勞、注意力不集中、情緒波動等問題,更嚴重的是它會對心臟造成巨大負擔,增加患者心臟病、高血壓甚至中風的風險。 研究表明,睡眠呼吸中止症患者中風的風險是一般人的四倍。 心臟負
Thumbnail
發佈在
健康Hello
2024-03-17
0
睡夢中的玩具刺激主人趁著狗狗睡覺的時候  掀開棉被  手拿玩具經由她的腿  慢慢往上一直到小穴洞口徘徊 跳蛋塞進去濕透的小穴後  接著再拿陰蒂玩具  陰道跟陰蒂一起玩 玩具玩得差不多後  換主人的肉棒來囉
Thumbnail
睡夢中的殺手!「這疾病」恐增心臟負擔,提升 4 倍中風風險。 睡眠呼吸中止症是一種在睡眠中呼吸中止或異常淺的疾病,通常由喉嚨後部的軟組織在睡眠時阻塞氣道導致。 這種疾病不僅會導致日間疲勞、注意力不集中、情緒波動等問題,更嚴重的是它會對心臟造成巨大負擔,增加患者心臟病、高血壓甚至中風的風險。 研究表明,睡眠呼吸中止症患者中風的風險是一般人的四倍。 心臟負
Thumbnail
發佈在
健康Hello
2024-03-07
4
睡夢中驚醒!日本生活突遇大地震!日本是個地震大國,所以很多日本人從小就有防災知識,也會在家裡裝備防災包(裡面大概會有飲用水、照明、保暖用品、哨子、雨具等等等),日本房屋在建設時對於耐震也非常注重,當時地震過後許多公寓的天然氣遇到緊急情況會自動斷開,要自己手動才能恢復。
Thumbnail
發佈在
en的沙龍
2022-08-17
13
不要再吵了!我在睡夢中大聲的說不要再吵了!我在睡夢中大聲的說 同床八九年的另一伴一直有打呼的習慣,昨晚我比平常提早了二個小時上床入睡,中間睡睡醒醒了三次,到凌晨六點多時,我突然大吼「不要再吵了!」,此時的我在夢中做著我處理工作的瑣事,另一伴卻一直發出聲音干擾的我的夢。現實中另一伴驚醒,搖晃我的臉,想確認我的狀態。。。
Thumbnail
發佈在
矮唷艾瑪
2021-10-02
4
心靈隨筆:睡夢中夢到廟裡神龕供奉的玉帝金身倒了?二十幾年前,那是在午後小憩之下做的一個夢: 睡夢中夢到自己不經意地走到一間廟前,沒看到廟名,邊走邊往裡面望,看到廟的神龕供桌正中央供奉一尊瓷器做的神尊,大約是一呎六高。 起先也不以為意,正往前走兩步,眼睛餘光突然看到金身整個往左邊倒下,夢中本人趕忙跑進廟的神龕裡,把金身扶正。
Thumbnail
心靈隨筆:睡夢中夢到拿到一本無字天書?二十幾年前,因緣際會跟隨了神明,成為神明代言人 記著剛跟隨神明沒幾年,有天晚上睡覺中忽得一夢 睡夢中夢到在一間富麗堂皇的廟宇大殿裡 廟的大殿上方是個八卦雕樑,八卦正中央擺了一本書,夢中感覺是本天書 於是拿著梯子把書取下,打開來看,裡面全是空白紙張,沒寫半個字 夢中直覺是本無字天書
Thumbnail
睡夢中偷走了一小時|夏令時間文/乳酪小姐 《Bonjour法國鄉村生活》 每年的這一天,在睡夢中會不知不覺的被偷走了一小時...... 週末早上悠悠地醒來,時針卻在不知不覺中往前跳躍一格。 平常7點起床,瞬間變成賴床8點? 夏令時間、日光節約時間(Daylight Saving Time, DST)
Thumbnail
2021-03-28
4
2015韓劇SBS《龍八夷 용팔이》從惡夢中逃離的方法,就是從睡夢中醒來(金泰熙 周元 趙顯宰 蔡貞安 金美京 鄭雄仁) 2015韓劇SBS《龍八夷 용팔이》從惡夢中逃離的方法,就是從睡夢中醒來(金泰希 周元 趙顯宰 蔡貞安 金美京 鄭雄仁)  金泰賢(周元)-外科醫生‧龍八夷 韓茹真(金泰熙)-韓信集團女繼承人 韓道俊(趙顯宰)-韓茹真同父異母的哥哥     李彩英(蔡貞安)-韓道俊的妻子 金素賢(朴慧秀)-泰賢的
Thumbnail
2015-10-03
0
迎新活動「方格新手村」:新格友註冊加入方格子,知名日料吃到飽餐券送給你! 👉 還不是 vocus 的會員嗎?點此註冊,參與新手村活動 👈 近期站上也出現了不少新格友,為了歡迎各位的加入,「方格新手村」隨之登場! 即日起,只要是新註冊帳號於活動期間內發佈 3 則文章,就有機會抽獎獲得知名日料吃到飽餐券。原格友也可以一起同樂,我們準備了小任
Thumbnail
2024-06-21
90
閱讀心得:展現自我的生活態度|成熟大人的說話課我們每天都在說話,但說出的話合適嗎? Sunny最近讀完一本有關溝通的書籍。 這是由世紀奧美公關的創辦人「丁菱娟」所寫的書,書的全名《丁菱娟的成熟大人說話課:如何說,才能得體又不傷人?反擊時,如何堅定又有力量?任何情境都可用的38個溝通之道》。 會找這本書來看,主要是因為Sunny 近期發
Thumbnail
2024-07-10
69
防曬產品係數測試報告彙整(2024年)從2014年起,自己對於市售防曬產品的效能產生了濃厚的興趣。因為當時候發現不少產品的防曬係數其實標示是有問題的,像是原本應該是人體測試的SPF與PA數值,實際上沒有做,只用機器測試的數據來充當,但這兩者卻有很大的差異。像是防曬係數其實有強度、廣度與平均度三個面向需要一起判斷,但多數廠商並沒有完整標示
Thumbnail
2023-04-27
40
睡夢中的殺手!「這疾病」恐增心臟負擔,提升 4 倍中風風險。 睡眠呼吸中止症是一種在睡眠中呼吸中止或異常淺的疾病,通常由喉嚨後部的軟組織在睡眠時阻塞氣道導致。 這種疾病不僅會導致日間疲勞、注意力不集中、情緒波動等問題,更嚴重的是它會對心臟造成巨大負擔,增加患者心臟病、高血壓甚至中風的風險。 研究表明,睡眠呼吸中止症患者中風的風險是一般人的四倍。 心臟負
Thumbnail
發佈在
健康Hello
2024-03-17
0
睡夢中的玩具刺激主人趁著狗狗睡覺的時候  掀開棉被  手拿玩具經由她的腿  慢慢往上一直到小穴洞口徘徊 跳蛋塞進去濕透的小穴後  接著再拿陰蒂玩具  陰道跟陰蒂一起玩 玩具玩得差不多後  換主人的肉棒來囉
Thumbnail
睡夢中的殺手!「這疾病」恐增心臟負擔,提升 4 倍中風風險。 睡眠呼吸中止症是一種在睡眠中呼吸中止或異常淺的疾病,通常由喉嚨後部的軟組織在睡眠時阻塞氣道導致。 這種疾病不僅會導致日間疲勞、注意力不集中、情緒波動等問題,更嚴重的是它會對心臟造成巨大負擔,增加患者心臟病、高血壓甚至中風的風險。 研究表明,睡眠呼吸中止症患者中風的風險是一般人的四倍。 心臟負
Thumbnail
發佈在
健康Hello
2024-03-07
4
睡夢中驚醒!日本生活突遇大地震!日本是個地震大國,所以很多日本人從小就有防災知識,也會在家裡裝備防災包(裡面大概會有飲用水、照明、保暖用品、哨子、雨具等等等),日本房屋在建設時對於耐震也非常注重,當時地震過後許多公寓的天然氣遇到緊急情況會自動斷開,要自己手動才能恢復。
Thumbnail
發佈在
en的沙龍
2022-08-17
13
不要再吵了!我在睡夢中大聲的說不要再吵了!我在睡夢中大聲的說 同床八九年的另一伴一直有打呼的習慣,昨晚我比平常提早了二個小時上床入睡,中間睡睡醒醒了三次,到凌晨六點多時,我突然大吼「不要再吵了!」,此時的我在夢中做著我處理工作的瑣事,另一伴卻一直發出聲音干擾的我的夢。現實中另一伴驚醒,搖晃我的臉,想確認我的狀態。。。
Thumbnail
發佈在
矮唷艾瑪
2021-10-02
4
心靈隨筆:睡夢中夢到廟裡神龕供奉的玉帝金身倒了?二十幾年前,那是在午後小憩之下做的一個夢: 睡夢中夢到自己不經意地走到一間廟前,沒看到廟名,邊走邊往裡面望,看到廟的神龕供桌正中央供奉一尊瓷器做的神尊,大約是一呎六高。 起先也不以為意,正往前走兩步,眼睛餘光突然看到金身整個往左邊倒下,夢中本人趕忙跑進廟的神龕裡,把金身扶正。
Thumbnail
心靈隨筆:睡夢中夢到拿到一本無字天書?二十幾年前,因緣際會跟隨了神明,成為神明代言人 記著剛跟隨神明沒幾年,有天晚上睡覺中忽得一夢 睡夢中夢到在一間富麗堂皇的廟宇大殿裡 廟的大殿上方是個八卦雕樑,八卦正中央擺了一本書,夢中感覺是本天書 於是拿著梯子把書取下,打開來看,裡面全是空白紙張,沒寫半個字 夢中直覺是本無字天書
Thumbnail
睡夢中偷走了一小時|夏令時間文/乳酪小姐 《Bonjour法國鄉村生活》 每年的這一天,在睡夢中會不知不覺的被偷走了一小時...... 週末早上悠悠地醒來,時針卻在不知不覺中往前跳躍一格。 平常7點起床,瞬間變成賴床8點? 夏令時間、日光節約時間(Daylight Saving Time, DST)
Thumbnail
2021-03-28
4
2015韓劇SBS《龍八夷 용팔이》從惡夢中逃離的方法,就是從睡夢中醒來(金泰熙 周元 趙顯宰 蔡貞安 金美京 鄭雄仁) 2015韓劇SBS《龍八夷 용팔이》從惡夢中逃離的方法,就是從睡夢中醒來(金泰希 周元 趙顯宰 蔡貞安 金美京 鄭雄仁)  金泰賢(周元)-外科醫生‧龍八夷 韓茹真(金泰熙)-韓信集團女繼承人 韓道俊(趙顯宰)-韓茹真同父異母的哥哥     李彩英(蔡貞安)-韓道俊的妻子 金素賢(朴慧秀)-泰賢的
Thumbnail
2015-10-03
0