那個電腦機房裡長大的天才

我問ChatGPT :

這個考倒天才的白癡問題不是我發明的，是我在Podcast聽到的。主講者是專業A I科學家。他沒有反對 AI ，那是他吃飯的本錢，他只是呼籲這一股A I風潮背後隱藏著太多我們不知道的危險。人們應該正視這個問題。

當大家都在對這位一出生就可以考上律師執照的天才驚艷的同時，不要忘了他是個「沒有普通常識的天才」。當全世界擁抱這位天才的同時，也應該知道真正的危險不在他如何取代你，而在他缺乏普通常識，卻取代了你。

他可能讓你在根本沒想到的地方陰溝裡翻船。

普通常識不需要訓練，只要活著，我們無時無刻不在不知不覺中學習，這是生物本能。如果一輛失控的汽車朝一個四歲的孩子衝過去，孩子一定會跳開，他也許跑錯方向被撞到，但至少知道應該要逃跑。可是同一輛汽車如果是慢慢地行駛過來，孩子可能會繼續在草地上玩耍。AI 在這個例子的角色，不是替我們決定要不要逃跑，而是告訴我們往哪個方向逃跑活命的勝算最大。這是兩個不同的問題，我們不應該搞混。

這些不用教，也從來沒有人想到要教。孩子的父母從來沒有告訴他要如何反應。 普通常識不需要訓練，也不能訓練。硬訓練的結果就是失敗，訓練者永遠不可能周全到滴水不漏。如果任何一種生物沒有經過明確訓練，就不知道如何反應，那地球上所有生物早就絕種了。

所以今天我們看待這個問題，應該把重心從「他到底有多厲害」，轉移到「老天，到底還有哪些他該知道，而不知道的」。 我們要如何防範？

曾經有人把限速35英哩路標的 「3 」那個字，中間用一小段黑膠帶加長一點，就使得一輛特斯拉自駕車加速到時速85英哩。那個 3 雖然奇怪了一點，但在任何人類的眼裡看起來仍舊是 3。就算有點像 8 ，但我們的普通常識會立刻接手，大腦不會准許我們這樣是非不分 。天下不會有任何一個城市限速 85英哩 - 那是時速137公里的概念。全美不會有任何路段有這樣的限速，那形同沒有限速，這種交通規則不會存在 - 這，叫做普通常識。 當它跟你的知識抵觸的時候，普通常識 必須獲勝。 不然物種就無法存活。

這不需要教，也不可能訓練， 否則天下有多少種奇形怪狀的 3，你都得想到，也都得教。

ChatGPT 訓練的資料來自網路所有資料，網路上不會有人把天下都當白癡，告訴你在太陽下「可以」同時晾好幾件衣服。 你沒說，或忘了說， 或沒想到要說，或假設他知道而不說，抱歉，他都是就是不知道。這種訓練白痴的資料，網路上根本也不存在。 你沒有辦法教一個天才不存在的東西。好吧，那咱們就訓練 AI ，告訴他太陽下可以「同時」晾無數件衣服。但下次把晾衣服的問題搬到陽台上，他又掛了；再下次把問題搬到操場上，屋頂上，甚至沙漠裡⋯⋯ 他還會繼續掛下去，直到你全部都教過為止。

好吧，不談晾衣服，談別的。

所以我又問他了，下雨天接滿一桶水需要1小時，接滿 17 桶水需要多少時間？ 歡迎您繼續想、繼續耐心訓練。

所以問題不是如何訓練他，而是哪些可以交給他做，哪些不能。因為你不知道他有哪些是你打死都沒想到會不知道的。 5年10年後的A I會如何我不知道，但我們談的是今天，這一切重大的改變現在已經在發生，我們要如何面對現階段有缺陷的 AI？

更糟的是傳統程式發生問題，工程師們知道要去哪裡修改，也知道怎麼改。改完就沒事了。AI 的問題在資料，不在程式。他把網路上所有的資訊全部讀完了才能這般融會貫通。我們可以修改錯誤的程式，卻不知道要如何修改資料。更麻煩的是那是網路上已經存在的資料，根本没人知道在哪裡，知道了又要怎麼改？ 那根本不是你的資料。

曬衣服這件事甚至跟資料無關，網路上並沒有錯誤的資料，唯一不同的是沒有人明確告訴他這盡人皆知的普通常識。這種資料根本無從改起。

當然我不懂A I是如何訓練的，也許很快專家們就會想出一些變通的方法。所以現階段的 A I 只能用來補我們的不足，而不應該、也不能取代我們。他的角色是增強，而不是取代。 如果擔心自己被取代，那你應該先一步升級，讓A I 做你的嘍囉，不能讓他替你做決策，主從關係不能搞混。決定權、過濾權、選擇權都在人類手裡。他只是個嘍囉，嘍囉不能取代主子。

比方上面那個汽車衝過去的例子， A I可以很明確地告訴你往哪個方向跑勝算最高，那個我們不會。但他不能替你決定該不該逃跑 - 那是普通常識，是生物本能。你只能教知識，不能教常識，更不能教本能。

AI 是個電腦機房裡長大的天才，他沒有見過外面的世界，他的一切都在電腦機房裡，拔了插頭就沒了。他知道的一切都是伺服器裡的紙上談兵。他不會知道什麼叫做太陽，什麼叫做陽台。當然他認識這些字，但不曉得，也不必曉得這些到底是什麼東西，以及背後真正的意義。ChatGPT 能夠這麼迅速回答人們的問題，完全只是在做填空題，從問題中抓關鍵的字串，憑著過去讀過的資訊，迅速而精準地判斷空格中該放入哪些字串。他是一個填空高手，一切對他來說都是文字遊戲。 他的答案是把網路上別人說過的話，選擇性、綜合性地搬出來而已。 說穿了這背後所有的一切的一切，對他都只是數字。太陽是一串數字，衣服是另一串數字，兩者之間除了相關性的或然率高低之外，一切都沒有其他意義。 訓練沒教到的他就不知道；資料沒有，他也不會知道。

他只不過讓你看起來覺得什麼都懂，讓你以為他是個天才。

所以現階段我們應該樂觀但非常謹慎地使用它，借用他的長處，避開他的短處。

回到晾衣服那個問題，他真的是天才，很仔細地告訴我這跟天氣、濕度、風向及陽光角度都有關⋯⋯ 這些都是我沒想到而他知道的，這也是我需要他的地方；至於晾乾15件衣服需要15小時⋯⋯ 這是我們大家都沒想到，也應該警惕的。