連結 第8章 易出錯-存在於電腦間的現實

連結 第8章 易出錯-存在於電腦間的現實 我讀後的想法是這樣子。 我們先論述 人類活動是非常複雜的而且偶爾帶點偏激再來非常容易出錯，由於人類的不管政治，經濟，情緒在主觀上是無法量化的，而且從偏左到偏右這之間的光譜這條中間線連人類都無法去定義。 就連宗教經典原本想打造一個以規則來制訂理想完美的理想，但宗教經典卻沒辦法解讀自己，就得成立人類的機構制度來解讀那些神聖的語言，並因應不同變化的情境做出調整。結果，不同的人對經典有不同的解讀方式，也就再次打開了貪腐墮落與錯誤的大門。 再來目標一致性 人類給與電腦的目標一致性，但電腦為了達成目標，可能採取人類無法預料甚至有害的手段，例如 臉書為了讓使用者提高黏著度而演算法推播了憤怒與血腥。 存在於電腦間的現實 例如，寶可夢虛擬世界裡面的寶物動物或谷歌上面的排行榜名單， 在虛擬的狀態下在玩家在連結通訊時就形成了存在於電腦的現實，類似於人類網路所創造的存在於主體間的現實。雖然與人類中的現實認同還有差距，但這股力量漸漸的存在電腦間的現實，最終的力量可能不低於人類所創造，存在於人類主體間的神話。 在前面的論述明白人類是多麼可能有偏見或誤解，那麼訓練Ai的資料就像人類的同年，演算法甚至也會跟人類一樣，互相傳染偏見偏誤，而這些偏誤有可能來自於設計者，數據本身，以及演算法運作目標性機制等多個方面。例如，訓練數據如果本身就帶有性別或種族偏見，演算法自然會繼承這些偏見。 而人類現在正在設計，讓電腦能夠把自己所演算出來的偏誤也帶入思考。 但人類這麼做，並不是製造新的工具，而是在釋放新的獨立行為者。全新種類的神祇。 最後還是要人類智慧來監控，並給與演算法有承認自己的錯，讓演算法有修正機制。 結論 新的電腦網路不一定是好或壞。我們唯一能確定的是人類將難理解這種電腦網路，而且這種電腦網絡是會犯錯的。因此，人類建立的機構制度除了要能夠發現各種常見的人性弱點，例如貪婪與仇恨，還要有能力察覺沒見過的錯誤。這項難題無法用技術來解決，它將是一項政治上的挑戰。