【學術筆記】《人工智慧的意識與可解釋性:John Kontos教授的觀點》

更新於 發佈於 閱讀時間約 11 分鐘

原著:約翰康托斯(John Kontos),雅典大學

 

|人工智慧定義

        與其試圖將人工智慧 (A.I.) 定義為一門單一且綜合的學科,不如將其視為一組易於單獨定義的不同技術。這組技術可以包括資料探勘、問答、自我意識系統、模式識別、知識表示、自動推理、深度學習、專家系統、資訊擷取、文字探勘、自然語言處理、問題求解、智慧代理、邏輯程式設計、機器學習、人工神經網路、人工視覺、計算發現和計算創造力。因此,人工智慧的「自我意識」(Self-aware)或「意識」(conscious)系統是這些技術之一的產物。

 

|約翰康托斯(John Kontos)一些相關工作歷史

        自1970年以來,我發表了多篇基於軟體系統的論文,這些系統由我的團隊實現,解決了「自然語言處理」的問題,尤其是在「自然語言問答」的子領域。我在1992年發表了一篇論文 [1],踏出了進入機器意識領域的第一步。其中描述了一個自我報告問答系統的實現,該系統可以自動產生對其推理的解釋。我從事這條研究路線已有二十多年,這些記錄都記錄在了我發表的論文中。我在 2009 年發表了題為「從生物醫學文本中進行後設認知問答」(Metagnostic Question Answering from Biomedical)的論文 [2]。2013 年,我們與藝術家 Polyxeni Kasda 合作發表了題為「利用機器意識進行圖像異常挖掘和解釋」(Mining and Image Anomaly Explanation with Machine Consciousness)的論文 [3],我們的合作促成了一本書的問世。本書將在下面介紹。

 

|書本針灸

        「書本針灸」(Book Acupuncture)的概念源自於我意識到,當波利克塞尼.卡斯達(Polyxeni Kasda)的希臘文著作《意識之眼》(Conscious Eye)初版時,該書初版中所包含的許多想法,展現了驚人的前瞻性,甚至帶有類似神諭(Pythia)般的預示性。當我在這本書初版問世 25 年後重讀它時,憑藉我長年在人工智慧領域的研究經驗,我辨識出可以插入「科技或科學針頭」的「針灸點」。在《人工智慧與意識之眼》(Artificial Intelligence and the Conscious Eye)初版出版25年後,我重讀這本書,憑藉我在人工智慧領域的長期研究經驗,我可以將科學或技術“針”插入這些穴位。這些「針頭」(Needles)寫於 2013 年 2 月至 2015 年 2 月之間,並收錄於我們2015年出版的著作[4]中,與《意識之眼》英文版一同出版。它們主要基於(但不完全)根據希臘文《意識之眼》初版之後的出版物。在撰寫我的「針」時,我盡力引用了我自己研究團隊或其他研究者的最新文獻。我在某些情況下也指出了與該段落相關的研究最早出現的時間,呈現出其思想的脈絡延續,正如「意識之眼」〔註1〕的相關段落所暗示的那樣。

 

「針頭」內容簡介

        這些構成了我對這本書的科學貢獻,其排列順序大致上也對應了這些重要概念在現實世界中出現的時間順序:

  1. 第一針:人工智慧簡介
  2. 第二針:圖靈測試

 - 介紹 1950 年提出、1991 年實作的圖靈測試。我親自與 2012 與 2013 年 Loebner Prize 的得獎程式進行對話,並展示這些對話紀錄,說明這些程式在面對需具備「意識」才能回答的問題時,立即顯現出其非人性。


  1. 第三針:內省、自我意識機器與自內窺系統(Autoendoscopic Systems)

 - 探討從公元前4世紀亞里斯多德的《前分析篇》(Prior Analytics)〔註2〕追溯人類邏輯推理與內省(Introspection)的歷史,並引出「機器意識」(Machine Consciousness)與「自內窺系統」(Autoendoscopic Systems)這些當代熱門概念。


  1. 第四針:格式塔理論(Gestalt)〔註3〕

 - 探討知覺如何穿越無意識與意識的界線,提出我所發展的「超弦」(hyper-string)〔註4〕模型來說明人工說明生成與推理。


  1. 第五針:認知地圖與因果地圖

 - 源自 Tolman 於 1948 年提出的理論,特別聚焦於因果地圖及其在我 1990 年以來研究中的應用。


  1. 第六針:「那張椅子」

 - 以畢卡索畫中一張半遮蔽的椅子為例,說明電腦視覺如何處理混亂場景中的物體辨識。


  1. 第七針:科技與藝術中的人工視覺研究
  2. 第八針:保羅·沙特《噁心》與意識的出現

 - 探討主角如何透過覺察存在主義,並延伸討論「有意識的自動機」這一哲學主題。


  1. 第九針:修補(Tinkering)與學習、編程的關聯
  2. 第十針:隱喻分析

 - 回顧亞里斯多德時代起對隱喻的探討,以及我 1980 年提出的電腦辨識隱喻的演算法。


 

|機器意識與軟體生成

        隨著程式複雜度超過某個門檻,程式設計師對其程式的全部運作理解也日漸減少。這在某些情況下會構成極大的風險,特別是當這些程式被用來控制關鍵基礎設施,例如:航空交通控制系統、發電站與能源網絡,甚至是飛機與火車系統時。因此,我們極需一種新的軟體工程方法,來開發能夠「了解自己」的電腦系統,讓它們在發生緊急狀況或錯誤時,能夠回答使用者提出的「如果……會怎樣」或「為什麼會這樣」這類關鍵性問題。人工智慧可以透過「機器意識」(Machine Consciousness)這一研究領域的成果提供幫助。未來的軟體應能支援「錯誤偵測並給出解釋」,對於除錯或異常行為的理解將非常有用。我主張將一套軟體系統應能夠自動產生對使用者友善的解釋,讓它的行為類似一個有意識的代理者。

 

|自我覺知計算(Self-aware Computing)

        所謂「自我覺知計算」的發展趨勢,即讓電腦擁有某種對於其自身狀態的「感知能力」,目前正逐漸成形。這種趨勢可能導致出現能夠:

  • 偵測系統是否運作異常,
  • 察覺使用者是否在努力修復錯誤或系統漏洞


一個自我覺知系統的基本架構可以分為三個層次:

  1. 基礎層(Ground Level):了解當前發生的事情
  2. 物件層(Object Level):根據資訊採取行動
  3. 元層(Meta Level):監控與調節系統行為

        過去數十年間,學界與產業界已持續嘗試打造這類系統。例如早期的「專家系統」技術(Expert Systems),就是一種能模仿人類專家思維,並能生成行為診斷報告的系統。

 

|可解釋人工智慧

        美國國防高等研究計劃署(DARPA)目前正推動一項名為「可解釋人工智慧(XAI, Explainable AI)」的技術,這正是一種自我覺知運算的形式。推動這項技術的原因是:當一個系統能夠向使用者說明其輸出結果的來源與邏輯,而不只是提供一個黑箱結果時,我們便可以說它展現了一種自我意識的跡象

 

|軟體複雜性與信任問題

        隨著軟體愈來愈複雜,程式設計師能理解的部分卻愈來愈少。此外,許多軟體由大型團隊合作開發,團隊之間溝通效率不佳,這讓風險更加升高。尤其在關鍵基礎設施領域,這樣的情況可能導致嚴重後果。因此,決策者往往不信任系統的建議,特別是當他們無法理解這些建議的產生過程時。為了改善這種情況,我們需要一種全新的軟體工程:自我覺知軟體工程。這類系統應能在錯誤發生時主動回報:

  1. 何時發生錯誤?
  2. 為什麼會發生?
  3. 使用者應該怎麼處理?

而不是悄無聲息地發生故障,讓客戶對發生的具體情況一無所知。

 

實際應用範例:

  • 無人機(Drone):可以透過感知周圍物體(人、樹、建築物、高壓電線),來避開碰撞。
  • 自動駕駛農機(Tractor):能夠接收農民透過電腦下達的指令,並利用攝影機監控其行動,檢測引擎轉速、油量與路徑障礙,自主執行任務。


 

|結語

        人工智慧的未來,將由兩大領域所主導:

1. 機器意識(Machine Consciousness)

2. 可解釋軟體(Explainable Software)

這兩者結合的力量,不僅會使人工智慧更可靠,也將讓人類與系統之間的互信成為可能

 

 

〔註1〕「意識之眼」通常指的是一種高度的覺察狀態,人在其中以專注和有意識的方式觀察並理解世界。這個概念涉及自我反思,能夠清楚地看待自己、他人以及周圍環境,不受偏見或先入為主的想法影響。它通常象徵著一種深層的內省之眼,能夠超越表象來捕捉事物背後的真實。

〔註2〕亞里斯多德的《前分析篇》(Prior Analytics)是他邏輯學(Organon)體系中的核心著作之一,主要討論「三段論法」(Syllogism),這本書可以說是形式邏輯的開山之作,探討推理結構和邏輯形式的著作。

〔註3〕格式塔理論是一種強調整體性認知的心理學理論,起源於 20 世紀初的德國。它的核心觀點是:「整體大於部分之和。」意思是人們在感知事物時,傾向於先看到整體的圖像或結構,而不是一點一點地拼湊出各個部分。格式塔理論主要應用於視覺知覺與圖像處理,也廣泛影響設計、美學、教育與心理治療。

〔註4〕傳統粒子物理學認為,物質的最小單位是「點狀粒子」——像電子、夸克這樣的無結構點。然而,超弦理論認為這些粒子其實是「一條一條極其微小的弦」,這些弦可以振動,而不同的振動模式對應不同的粒子(如光子、電子、重力子等)。

 

 

[1] Kontos, J. (1992). “ARISTA:基於科學文本的知識工程”。《資訊與軟體技術》,第34卷,第9期,第611-616頁。

[2] Kontos, J 等人(2009)“基於生物醫學文本的元認知問答”,HCI2009,美國聖地亞哥,7月19-24日。

[3] Kontos J. 和 Kasda P. (2013). 基於機器意識的文本挖掘和圖像異常解釋。《電腦科學進展》,第2卷,第5期,第6期,11月。

[4] Kontos J. 和 Kasda P. (2015). “人工智慧教授 John Kontos 揭示了 Poly Kasda 的意識之眼”。本書(第297頁)。由 Notios Anemos 出版,希臘雅典。

留言
avatar-img
留言分享你的想法!
avatar-img
開域空間讀書會
29會員
75內容數
中原大學室內設計研究所畢。 喜歡現代詩、推理、科普、有趣的人事物,人生光譜的代表色系:天青色。 連絡信箱:childbenefits@gmail.com
開域空間讀書會的其他內容
2025/07/07
過去我們熟悉的馬斯克,是火箭工程師、電動車霸主、社群平台買家,現在他扮演起政客的角色,難免讓人聯想到《黑鏡》裡科技掌權者主導社會的情節。
Thumbnail
2025/07/07
過去我們熟悉的馬斯克,是火箭工程師、電動車霸主、社群平台買家,現在他扮演起政客的角色,難免讓人聯想到《黑鏡》裡科技掌權者主導社會的情節。
Thumbnail
2025/07/06
喜歡醫學歷史迷因的人有福了。這不是一本嚴肅的醫學教科書,而是一本能讓你「一邊發笑、一邊長知識」的怪奇百科全書。  
Thumbnail
2025/07/06
喜歡醫學歷史迷因的人有福了。這不是一本嚴肅的醫學教科書,而是一本能讓你「一邊發笑、一邊長知識」的怪奇百科全書。  
Thumbnail
2025/07/04
      你每天滑的手機、聽的耳機、看的螢幕、坐的電動車,其實早就捲入了這場資源大戰。只是你不知道。這些元素沒有香味,不會發亮,名字也不好記,但它們的命運,和我們的生活緊緊相連。它們可能來自中國內蒙古、剛果礦場、澳洲沙地,也可能就藏在你抽屜裡那支退役的舊手機裡。   |一切從一個
Thumbnail
2025/07/04
      你每天滑的手機、聽的耳機、看的螢幕、坐的電動車,其實早就捲入了這場資源大戰。只是你不知道。這些元素沒有香味,不會發亮,名字也不好記,但它們的命運,和我們的生活緊緊相連。它們可能來自中國內蒙古、剛果礦場、澳洲沙地,也可能就藏在你抽屜裡那支退役的舊手機裡。   |一切從一個
Thumbnail
看更多
你可能也想看
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
一本自然主義的哲學經典。 大眾也理解的哲學讀物。 談談進化論、自由意志、生命及其他。
Thumbnail
一本自然主義的哲學經典。 大眾也理解的哲學讀物。 談談進化論、自由意志、生命及其他。
Thumbnail
文創實驗 - 何時加入觀看,都明其所以。公元2055年,人類無需工作,無論粗活細活,快活慢活,都由 AI 智能人24 小時不眠不休負責,人類進入比帝王還舒適的生活。
Thumbnail
文創實驗 - 何時加入觀看,都明其所以。公元2055年,人類無需工作,無論粗活細活,快活慢活,都由 AI 智能人24 小時不眠不休負責,人類進入比帝王還舒適的生活。
Thumbnail
這本由德國作家彼強.莫伊尼創作的《演算人生》,講述了一個近未來的時空中,由公投接受名為「立方體」的演算法人工智慧作為社會系統,所引發的一系列故事。文章對於人工智慧的影響及可能的警示提出了值得深思的看法(這段摘要還是用人工智慧算出來的,真夠諷刺)。
Thumbnail
這本由德國作家彼強.莫伊尼創作的《演算人生》,講述了一個近未來的時空中,由公投接受名為「立方體」的演算法人工智慧作為社會系統,所引發的一系列故事。文章對於人工智慧的影響及可能的警示提出了值得深思的看法(這段摘要還是用人工智慧算出來的,真夠諷刺)。
Thumbnail
─改變人類對決策/判斷理解的劃時代研究 謹以此篇文章致敬 當代心理學巨擘 Daniel Kahneman與他的傑出貢獻。
Thumbnail
─改變人類對決策/判斷理解的劃時代研究 謹以此篇文章致敬 當代心理學巨擘 Daniel Kahneman與他的傑出貢獻。
Thumbnail
一台容易出錯但能自我修正的機器仍將受制於哥德爾的結果。只有從根本上不一致的機器才能擺脫哥德爾。我們能有個根本不一致,但同時又能自我修正的機器嗎? 《心智、機械與哥德爾》由約翰·盧卡斯教授於1959年撰寫的哲學論文,認為人類數學家不能被圖靈機所替代。
Thumbnail
一台容易出錯但能自我修正的機器仍將受制於哥德爾的結果。只有從根本上不一致的機器才能擺脫哥德爾。我們能有個根本不一致,但同時又能自我修正的機器嗎? 《心智、機械與哥德爾》由約翰·盧卡斯教授於1959年撰寫的哲學論文,認為人類數學家不能被圖靈機所替代。
Thumbnail
人類的心智,與AI本質上的區別。 《心智、機器與哥德爾》(英語:Minds, Machines and Gödel)由約翰·盧卡斯教授於1959年撰寫的哲學論文,他認為人類數學家不能被圖靈機所替代。
Thumbnail
人類的心智,與AI本質上的區別。 《心智、機器與哥德爾》(英語:Minds, Machines and Gödel)由約翰·盧卡斯教授於1959年撰寫的哲學論文,他認為人類數學家不能被圖靈機所替代。
Thumbnail
《逆思維》是一本值得閱讀的書,主要探討如何成為一名思考的科學家,透過重新思考、提醒自己認知的盲點,找出新的解決方法來解決正面臨的問題。
Thumbnail
《逆思維》是一本值得閱讀的書,主要探討如何成為一名思考的科學家,透過重新思考、提醒自己認知的盲點,找出新的解決方法來解決正面臨的問題。
Thumbnail
  「我們的知識都是從感覺開始,經過理解,最終達到理性。沒有任何事物是高過理性的。」-康德   在苑舉正老師經年累月的教學經驗與活用哲學的資歷下(曾擔任財經台評論員、目前經營YT(苑舉正的正舉苑)與b站(bilibili:苑舉正)),哲學不再是艱澀難懂的學問,而是有用且與生命有關的學問
Thumbnail
  「我們的知識都是從感覺開始,經過理解,最終達到理性。沒有任何事物是高過理性的。」-康德   在苑舉正老師經年累月的教學經驗與活用哲學的資歷下(曾擔任財經台評論員、目前經營YT(苑舉正的正舉苑)與b站(bilibili:苑舉正)),哲學不再是艱澀難懂的學問,而是有用且與生命有關的學問
Thumbnail
精神層面受外在環境影響而情感流竄的同時,藝術可以作為我們的內涵,我是這樣理解這本書的。
Thumbnail
精神層面受外在環境影響而情感流竄的同時,藝術可以作為我們的內涵,我是這樣理解這本書的。
Thumbnail
搬運6年前文章:以「刻意為之」的系統化、複雜邏輯化又帶有詩味的語言行文,反諷當時商管界風行一時的「系統思考(systems thinking)」。以哲學和科學發展視角,批判、諷諭「系統思考」。 --更是為了揶揄六年前把「系統思考」當作圭臬/聖杯的創業團隊而作。 *文後還有後記。
Thumbnail
搬運6年前文章:以「刻意為之」的系統化、複雜邏輯化又帶有詩味的語言行文,反諷當時商管界風行一時的「系統思考(systems thinking)」。以哲學和科學發展視角,批判、諷諭「系統思考」。 --更是為了揶揄六年前把「系統思考」當作圭臬/聖杯的創業團隊而作。 *文後還有後記。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News