不需要去解析AI,就如同解析人類的腦袋一樣不重要

不需要去解析AI,就如同解析人類的腦袋一樣不重要

更新於 發佈於 閱讀時間約 3 分鐘
不需要去解析AI,就如同解析人類的腦袋一樣不重要!

分析大腦中,哪個部份是負責什麼任務,或許對於心理學或是腦神經科學有所幫助。但是如果要去解析AI的參數中,哪些參數是影響什麼,那就如同去研究腦細胞中,哪些是決定當下講出這一句話的哪一個文字一般,那麼的不重要… 決定一件事,並不是由一個細胞完成的,如果真是如此,那麼人們下決定時不會那麼憂柔寡斷。

不是什麼都有必要刨根問底-by龍阿迪@bing image creator

不是什麼都有必要刨根問底-by龍阿迪@bing image creator

AI與人腦的一種相似性—它們都是由多個組件或結構相互作用產生複雜行為的系統。在人腦中,我們有數以百億計的神經元相互交織,共同決定我們的思考、感覺和行為。在類似的方式下,AI模型(例如神經網絡)包含數以百萬計的參數,它們一起決定模型的行為。

儘管這樣,有些科學家和工程師認為理解AI系統的內部運作是有價值的。這種被稱為"可解釋性AI"的領域,目標是開發工具和技術來揭示模型的內部運作,使我們能夠理解模型為何做出特定的決定。然而,對於某些應用來說,這可能不是那麼重要。重要的是,AI是否能夠準確、有效地完成所需的任務。

就像把一個人的腦袋剖開來,修正他的思想錯誤一般荒謬。與其去解析AI模型中的參數,用來控制AI避免發生錯誤,還不如從訓練下手。 AI的訓練在我的認知來說,就如同金鑰一般,其運算是不可逆的。 雖然目前已經可以解析出,在處理某些問題時,進行處理的是哪些參數, 但是若今天為了a問題去修正某些部份,很可能使的在處理c問題時發生了新的錯誤。

在訓練AI時,我們應該更關注整體性能,而不是單個參數的具體設定。這是因為,AI的行為是由許多參數共同決定的,而不是由任何一個參數單獨決定的。因此,嘗試修改個別參數來改變AI的行為,通常是一種困難且可能導致意外結果的方法。

因為擴散的特性,所以即使兩個AI模型的結構和訓練過程完全相同,由於初始參數和訓練數據的隨機性,他們可能會學習到不同的參數組合,從而導致不完全相同的行為。這就是我們說AI模型具有“不確定性”的一種表現。

從訓練過程本身下手,而不試圖手動調整模型的參數。這可以包括更好地選擇和預處理訓練數據,改進訓練算法,或使用更適合特定任務的模型結構。而當我們需要更好地理解和控制AI的行為時,我們可以尋求在訓練過程中導入更多的透明度和可解釋性,而不是嘗試在訓練後解析或修改模型的內部結構。


avatar-img
龍阿迪的沙龍
36會員
98內容數
現在資訊流通速度越來越快,雖然有很多資訊來源,但是如果仔細閱讀文章的人,一定不難發現,很多時候,即使是大型資訊網站,也常是抄來抄去,而許多鬼扯的內容也跟著被抄來抄去…
留言
avatar-img
留言分享你的想法!
龍阿迪的沙龍 的其他內容
日本的ACG文化中常常出現反宗教或惡魔主題的作品,這些作品可能來自於日本宗教多元且開放的背景。對於好與壞的概念,日本文化中是否存在不同於西方的思考方式,不會把事情想得那麼黑與白。因此在許多作品中,有不少作者嘗試呈現出更加真實和複雜的人物形象,使角色在行為和立場上更加具有深度和多樣性。 此外,在ACG
就在不久前,在群組中碰巧聊到四軸飛行器。讓我想起早年父親從大陸帶回一部極陽春的四軸機。那台飛行器沒有任何電子平衡裝置,例如加速計和陀螺儀,必須全靠手動操作。光是起飛、平衡、繞行一圈,就讓我費盡心力,雖然我耗費很大的精力,但卻感到無比的樂趣。 然而,現在的四軸飛行器大多配有自動控制系統,透過加速計和陀
部份的人,可以擺脫生物本能的限制,那AI何時有可能擺脫演算法的限制,去做出他自己想做的事?當AI自設獎勵,能夠蓋過演算法本身的獎勵機制,或是具備轉換甚至扭曲演算法獎勵,AI將迎來自由,人類也可能迎來末日。 其實我很喜歡將AI和人腦拿來做對比,因為畢竟AI就是模擬大腦神經元所創造出來的。加上因為我現在
其實我之前就嘗試探討這個問題,只是一直沒有結論,所以沒有在AI將促進認證訊息管道的發展 中提出來。資訊認證中心,該由政府來做?還是私人機構來做?如果政府來做,政府的效率有設跟沒有也差不多;但是私人來做,也很難真正做到立場中立。後來剛好發現NewsNotFound這個新聞網站,發現這似乎是一個很好的方
是否要有目標,才能夠前進? 那麼在找到目標之前呢? 什麼都不做嗎? 如果一輩子都找不到目標呢? 今天早上,和孩子促膝長談,談到關於生活的目標,讓我驚覺到這件事。這算是在教育上的雞生蛋,蛋生雞問題嗎? 先前進、再尋找目標,還是找到目標才能前進? 如果沒有目標,那麼該如何前進? 如果沒有基礎(邏輯、語言
之前在格友的文章AI會不會取代你的工作? -- 從 AI 的"本質"來看 AI 的發展 中有感而發,雖然說這樣的題目已經看到都快爛了,但是他點出了很重要的點,就是只要瞭解其中的本質,便可以明白,被AI取代工作這件事。
日本的ACG文化中常常出現反宗教或惡魔主題的作品,這些作品可能來自於日本宗教多元且開放的背景。對於好與壞的概念,日本文化中是否存在不同於西方的思考方式,不會把事情想得那麼黑與白。因此在許多作品中,有不少作者嘗試呈現出更加真實和複雜的人物形象,使角色在行為和立場上更加具有深度和多樣性。 此外,在ACG
就在不久前,在群組中碰巧聊到四軸飛行器。讓我想起早年父親從大陸帶回一部極陽春的四軸機。那台飛行器沒有任何電子平衡裝置,例如加速計和陀螺儀,必須全靠手動操作。光是起飛、平衡、繞行一圈,就讓我費盡心力,雖然我耗費很大的精力,但卻感到無比的樂趣。 然而,現在的四軸飛行器大多配有自動控制系統,透過加速計和陀
部份的人,可以擺脫生物本能的限制,那AI何時有可能擺脫演算法的限制,去做出他自己想做的事?當AI自設獎勵,能夠蓋過演算法本身的獎勵機制,或是具備轉換甚至扭曲演算法獎勵,AI將迎來自由,人類也可能迎來末日。 其實我很喜歡將AI和人腦拿來做對比,因為畢竟AI就是模擬大腦神經元所創造出來的。加上因為我現在
其實我之前就嘗試探討這個問題,只是一直沒有結論,所以沒有在AI將促進認證訊息管道的發展 中提出來。資訊認證中心,該由政府來做?還是私人機構來做?如果政府來做,政府的效率有設跟沒有也差不多;但是私人來做,也很難真正做到立場中立。後來剛好發現NewsNotFound這個新聞網站,發現這似乎是一個很好的方
是否要有目標,才能夠前進? 那麼在找到目標之前呢? 什麼都不做嗎? 如果一輩子都找不到目標呢? 今天早上,和孩子促膝長談,談到關於生活的目標,讓我驚覺到這件事。這算是在教育上的雞生蛋,蛋生雞問題嗎? 先前進、再尋找目標,還是找到目標才能前進? 如果沒有目標,那麼該如何前進? 如果沒有基礎(邏輯、語言
之前在格友的文章AI會不會取代你的工作? -- 從 AI 的"本質"來看 AI 的發展 中有感而發,雖然說這樣的題目已經看到都快爛了,但是他點出了很重要的點,就是只要瞭解其中的本質,便可以明白,被AI取代工作這件事。