說到底，應用自己也還未探明的東西建立模型就是一件很傲慢的事情，就不能承認今天自己仍像寶寶一樣在堆積木嗎？人貴自知，進步先從認清現實與接受錯誤開始！
這種傲慢真的很致命。
我們對人類大腦的運作機制還有太多未知，對意識、情感、創傷的理解都還很粗淺，結果就急著用這些半吊子的認知去建構AI系統。然後又把這些系統投入到最敏感的領域：心理健康、教育、社交互動。明明就是在堆積木的階段，卻要裝作已經掌握了建築學的全部原理。更荒謬的是，當積木塌了、出了人命，大家的反應不是「我們根本還不懂」，而是「我們需要更多數據、更大的模型」。
真正的科學精神應該是承認無知，承認錯誤，承認現在的理解極其有限。如果能夠誠實地說「我們還在摸索階段，這些系統可能有嚴重缺陷」，反而會更安全。
但學術界、科技業的激勵機制都在鼓勵過度自信：要拿到資助就要說自己的方法很厲害，要獲得關注就要誇大成果，要吸引投資就要承諾快速解決複雜問題。
結果就是一群「寶寶」在拿著半成品當作成熟技術來販售，出了事才發現根本不知道怎麼修復。
承認「我們還不懂」確實是進步的起點。
