那個電腦機房裡長大的天才

2023/05/15閱讀時間約 6 分鐘
我問ChatGPT :
如果在太陽下晾乾一件襯衫需要1小時,晾乾15件襯衫需要多久?
這個考倒天才的白癡問題不是我發明的,是我在Podcast聽到的。主講者是專業A I科學家。他沒有反對 AI ,那是他吃飯的本錢,他只是呼籲這一股A I風潮背後隱藏著太多我們不知道的危險。人們應該正視這個問題。
當大家都在對這位一出生就可以考上律師執照的天才驚艷的同時,不要忘了他是個「沒有普通常識的天才」。當全世界擁抱這位天才的同時,也應該知道真正的危險不在他如何取代你,而在他缺乏普通常識,卻取代了你。
他可能讓你在根本沒想到的地方陰溝裡翻船。
普通常識不需要訓練,只要活著,我們無時無刻不在不知不覺中學習,這是生物本能。如果一輛失控的汽車朝一個四歲的孩子衝過去,孩子一定會跳開,他也許跑錯方向被撞到,但至少知道應該要逃跑。可是同一輛汽車如果是慢慢地行駛過來,孩子可能會繼續在草地上玩耍。AI 在這個例子的角色,不是替我們決定要不要逃跑,而是告訴我們往哪個方向逃跑活命的勝算最大。這是兩個不同的問題,我們不應該搞混。
這些不用教,也從來沒有人想到要教。孩子的父母從來沒有告訴他要如何反應。 普通常識不需要訓練,也不能訓練。硬訓練的結果就是失敗,訓練者永遠不可能周全到滴水不漏。如果任何一種生物沒有經過明確訓練,就不知道如何反應,那地球上所有生物早就絕種了。
所以今天我們看待這個問題,應該把重心從「他到底有多厲害」,轉移到「老天,到底還有哪些他該知道,而不知道的」。 我們要如何防範?
曾經有人把限速35英哩路標的 「3 」那個字,中間用一小段黑膠帶加長一點,就使得一輛特斯拉自駕車加速到時速85英哩。那個 3 雖然奇怪了一點,但在任何人類的眼裡看起來仍舊是 3。就算有點像 8 ,但我們的普通常識會立刻接手,大腦不會准許我們這樣是非不分 。天下不會有任何一個城市限速 85英哩 - 那是時速137公里的概念。全美不會有任何路段有這樣的限速,那形同沒有限速,這種交通規則不會存在 - 這,叫做普通常識。 當它跟你的知識抵觸的時候,普通常識 必須獲勝。 不然物種就無法存活。
這不需要教,也不可能訓練, 否則天下有多少種奇形怪狀的 3,你都得想到,也都得教。
這只是示意圖
ChatGPT 訓練的資料來自網路所有資料,網路上不會有人把天下都當白癡,告訴你在太陽下「可以」同時晾好幾件衣服。 你沒說,或忘了說, 或沒想到要說,或假設他知道而不說,抱歉,他都是就是不知道。這種訓練白痴的資料,網路上根本也不存在。 你沒有辦法教一個天才不存在的東西。好吧,那咱們就訓練 AI ,告訴他太陽下可以「同時」晾無數件衣服。但下次把晾衣服的問題搬到陽台上,他又掛了;再下次把問題搬到操場上,屋頂上,甚至沙漠裡⋯⋯ 他還會繼續掛下去,直到你全部都教過為止。
好吧,不談晾衣服,談別的。
所以我又問他了,下雨天接滿一桶水需要1小時,接滿 17 桶水需要多少時間? 歡迎您繼續想、繼續耐心訓練。
所以問題不是如何訓練他,而是哪些可以交給他做,哪些不能。因為你不知道他有哪些是你打死都沒想到會不知道的。 5年10年後的A I會如何我不知道,但我們談的是今天,這一切重大的改變現在已經在發生,我們要如何面對現階段有缺陷的 AI?
更糟的是傳統程式發生問題,工程師們知道要去哪裡修改,也知道怎麼改。改完就沒事了。AI 的問題在資料,不在程式。他把網路上所有的資訊全部讀完了才能這般融會貫通。我們可以修改錯誤的程式,卻不知道要如何修改資料。更麻煩的是那是網路上已經存在的資料,根本没人知道在哪裡,知道了又要怎麼改? 那根本不是你的資料。
曬衣服這件事甚至跟資料無關,網路上並沒有錯誤的資料,唯一不同的是沒有人明確告訴他這盡人皆知的普通常識。這種資料根本無從改起。
當然我不懂A I是如何訓練的,也許很快專家們就會想出一些變通的方法。所以現階段的 A I 只能用來補我們的不足,而不應該、也不能取代我們。他的角色是增強,而不是取代。 如果擔心自己被取代,那你應該先一步升級,讓A I 做你的嘍囉,不能讓他替你做決策,主從關係不能搞混。決定權、過濾權、選擇權都在人類手裡。他只是個嘍囉,嘍囉不能取代主子。
比方上面那個汽車衝過去的例子, A I可以很明確地告訴你往哪個方向跑勝算最高,那個我們不會。但他不能替你決定該不該逃跑 - 那是普通常識,是生物本能。你只能教知識,不能教常識,更不能教本能。
這就是天才長大的地方: 一切在他都是數字
AI 是個電腦機房裡長大的天才,他沒有見過外面的世界,他的一切都在電腦機房裡,拔了插頭就沒了。他知道的一切都是伺服器裡的紙上談兵。他不會知道什麼叫做太陽,什麼叫做陽台。當然他認識這些字,但不曉得,也不必曉得這些到底是什麼東西,以及背後真正的意義。ChatGPT 能夠這麼迅速回答人們的問題,完全只是在做填空題,從問題中抓關鍵的字串,憑著過去讀過的資訊,迅速而精準地判斷空格中該放入哪些字串。他是一個填空高手,一切對他來說都是文字遊戲。 他的答案是把網路上別人說過的話,選擇性、綜合性地搬出來而已。 說穿了這背後所有的一切的一切,對他都只是數字。太陽是一串數字,衣服是另一串數字,兩者之間除了相關性的或然率高低之外,一切都沒有其他意義。 訓練沒教到的他就不知道;資料沒有,他也不會知道。
他只不過讓你看起來覺得什麼都懂,讓你以為他是個天才。
所以現階段我們應該樂觀但非常謹慎地使用它,借用他的長處,避開他的短處。

回到晾衣服那個問題,他真的是天才,很仔細地告訴我這跟天氣、濕度、風向及陽光角度都有關⋯⋯ 這些都是我沒想到而他知道的,這也是我需要他的地方;至於晾乾15件衣服需要15小時⋯⋯ 這是我們大家都沒想到,也應該警惕的。
如果我用水桶而不是用杯子問這個問題,他的答案還是錯的,只不過最後還貼心的提醒我當心不要製造洪水
為什麼會看到廣告
6.8K會員
187內容數
全世界都是向 Google 看,向臉書看,沒有人往矽谷的另一邊看。所以我要帶你看矽谷很少有人知道的另一面。矽谷不是你想的那樣。
留言0
查看全部
發表第一個留言支持創作者!
從 Google News 追蹤更多 vocus 的最新精選內容