每周一篇文章的讀書會心得報告摘要與筆記，本次分享文章為：AI 並非萬能！越洋採訪史隆獎得主、UCLA 台籍教授：2 缺陷要靠人類修補。
1.人工智慧技術；
2.資料寬廣度不足時，就會複製人類偏見；
3.即便條件相同，也無法每次都做出正確判斷；
4.餵指令給 AI 要多元化，嘗試換句話說、刻意混淆。

國際

政治與評論

職場產業

每周一篇文章的讀書會心得報告摘要與筆記，主要段落分成：
<blockquote>1. 為什麼選這篇文章分享? &nbsp;&nbsp; 
2. 作者為什麼要寫這篇文章? &nbsp;&nbsp; 
3. 內容重點 &nbsp;&nbsp; 
4. 心得</blockquote>
原文網址：<a href="https://www.managertoday.com.tw/articles/view/62902?utm_source=%E7%B6%93%E7%90%86%E4%BA%BA%20main%20list&amp;utm_medium=email&amp;utm_campaign=dailyedm&amp;utm_content=21_05_16&amp;mc_cid=733a0c37ab&amp;mc_eid=b7b8ef8801">AI </a><a href="https://www.managertoday.com.tw/articles/view/62902?utm_source=%E7%B6%93%E7%90%86%E4%BA%BA%20main%20list&amp;utm_medium=email&amp;utm_campaign=dailyedm&amp;utm_content=21_05_16&amp;mc_cid=733a0c37ab&amp;mc_eid=b7b8ef8801">並非萬能！越洋採訪史隆獎得主、</a><a href="https://www.managertoday.com.tw/articles/view/62902?utm_source=%E7%B6%93%E7%90%86%E4%BA%BA%20main%20list&amp;utm_medium=email&amp;utm_campaign=dailyedm&amp;utm_content=21_05_16&amp;mc_cid=733a0c37ab&amp;mc_eid=b7b8ef8801">UCLA </a><a href="https://www.managertoday.com.tw/articles/view/62902?utm_source=%E7%B6%93%E7%90%86%E4%BA%BA%20main%20list&amp;utm_medium=email&amp;utm_campaign=dailyedm&amp;utm_content=21_05_16&amp;mc_cid=733a0c37ab&amp;mc_eid=b7b8ef8801">台籍教授：</a><a href="https://www.managertoday.com.tw/articles/view/62902?utm_source=%E7%B6%93%E7%90%86%E4%BA%BA%20main%20list&amp;utm_medium=email&amp;utm_campaign=dailyedm&amp;utm_content=21_05_16&amp;mc_cid=733a0c37ab&amp;mc_eid=b7b8ef8801">2 </a><a href="https://www.managertoday.com.tw/articles/view/62902?utm_source=%E7%B6%93%E7%90%86%E4%BA%BA%20main%20list&amp;utm_medium=email&amp;utm_campaign=dailyedm&amp;utm_content=21_05_16&amp;mc_cid=733a0c37ab&amp;mc_eid=b7b8ef8801">缺陷要靠人類修補</a>
<a href="https://theconversation.com/ai-is-here-to-stay-now-we-need-to-ensure-everyone-benefits-121175">Photo Credits</a>
<h3>為什麼分享這篇文章？</h3>
<ul>
 <li>AI為近年來熱門話題</li>
 <li>對AI該注意的問題點及解決方式有粗淺概念</li>
</ul>
<h3>作者想表達甚麼？</h3>
<ul>
 <li>說明AI的侷限性</li>
 <li>該如何解決AI侷限性的的問題</li>
</ul>
<h3>重點內容</h3>
人工智慧技術
<ul>
 <li>美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授張凱崴</li>
</ul>
<ol>
 <li>研究如何讓 AI 更符合人性</li>
 <li>獲得 2021 年的史隆研究獎（Sloan Research Fellowships）。</li>
</ol>
<ul>
 <li>目前人工智慧技術已經可以幫助人類完成很多事</li>
 <li>AI 並非萬能，要先認知它的局限</li>
</ul>
AI 局限1. 資料寬廣度不足時，就會複製人類偏見
<ul>
 <li>AI 的運作方式</li>
</ul>
<ol>
 <li>第一步是輸入資料，第二步是分析，過程容易出現偏見。</li>
</ol>
<blockquote>例如電腦在理解「總統」這個字</blockquote>
<ol>
 <li>會去看四周有什麼字詞，來學習總統這個詞</li>
 <li>由於許多總統都是男性，電腦就會「覺得」總統是男性</li>
 <li>如果讓 AI 學習，在它的認知裡，女性「不可能」當美國總統（因為沒有資料紀錄，出現系統性誤差）</li>
</ol>
<ul>
 <li>電腦在學習的時候，是依賴「彙整數據資料」來判斷，並沒有真正思考</li>
</ul>
<ol>
 <li>如果資料來源太狹隘、不夠多元，資料寬廣度不足，電腦判斷就會出現偏差</li>
 <li>AI需要知道代名詞指的是「哪個名詞」，才能運算下去</li>
</ol>
<ul>
 <li>AI 無法清楚分辨「不曾出現」與「不能出現」（無法出現）之間的區別</li>
</ul>
<ol>
 <li>只是從資料統計出要學的東西</li>
 <li>無法像人類一樣進行邏輯思辨</li>
</ol>
<ul>
 <li>想讓AI取代部分工作，首先需要留意資料的廣度、多元性，才能減少電腦犯錯的機會。</li>
</ul>
AI 局限2. 即便條件相同，也無法每次都做出正確判斷
<ul>
 <li>現在的 AI 就像一台原型飛機，還缺乏穩定性。</li>
</ul>
<blockquote>看似可以做很多有趣的事，但「可以飛」跟「飛得很好」，有一大段落差。</blockquote>
<ul>
 <li>所謂的缺乏穩定性，指的是 AI 沒辦法在相同條件下，每次都做出正確決策</li>
 <li>紐西蘭的簽證系統</li>
</ul>
<ol>
 <li>人們上傳簽證照片，AI 掃描後，確認是不是本人</li>
 <li>系統沒有估算到某些亞洲人眼睛比較小，一名亞裔男子被判定「沒有張開眼睛」，因此照片無效。</li>
 <li>系統沒有考慮到不同人種的差異，很死板地認為你眼睛沒張開</li>
</ol>
<ul>
 <li>將影評中一些字換成同義詞</li>
</ul>
<ol>
 <li>例如把電影（movie）換成影片（film），或改寫句子等</li>
 <li>意思並未改變，系統卻把原本判斷為正面的影評標註成負面。</li>
 <li>AI系統還未真正了解語言的含義。</li>
</ol>
<ul>
 <li>設定的資料範圍要更完整，考慮這些因素，就能減少偏見、落差，進而加強穩定性。</li>
</ul>
餵指令給 AI 要多元化，嘗試「換句話說」、刻意混淆
<ul>
 <li>設計 AI 模型時</li>
</ul>
<ol>
 <li>把來源群組不同的資料分門別類測試</li>
 <li>在測試階段讓群體多元化</li>
 <li>確保不同特色的使用者，用起來都沒有問題</li>
</ol>
<ul>
 <li>一套 A 系統擁有來自各地的使用者</li>
</ul>
<blockquote>如果設計者是台北人，設計系統的思維容易以台北生活為主 
很可能因為當地習慣不同，導致花蓮使用者操作不順。</blockquote>
<ul>
 <li>用不同的「語意」，去測試 AI 有沒有徹底學會一個概念</li>
</ul>
<ol>
 <li>一套評鑑的 AI 系統，只要蒐集、整理使用者意見，就能判斷顧客的評比是高分或低分。</li>
 <li>可以利用「抽換詞面」的方法確認系統的穩定性</li>
 <li>訓練模型時，可以將詞彙隨機抽換成同義詞，增加 AI 的詞彙量。</li>
</ol>
<ul>
 <li>改變句型、重寫句子，確認AI 不會搞混</li>
</ul>
<ol>
 <li>同樣一句話，換成不同說法</li>
 <li>將「因為發生 A 事件，所以導致 B 事件」，改寫成「B 事件發生了，是因為 A 事件的緣故」</li>
 <li>如果要鞏固 AI 的穩定性，可以使用自動改寫的方式，增加資料的多樣性。</li>
</ol>
<a href="https://www.managertoday.com.tw/articles/view/62902?utm_source=%E7%B6%93%E7%90%86%E4%BA%BA%20main%20list&amp;utm_medium=email&amp;utm_campaign=dailyedm&amp;utm_content=21_05_16&amp;mc_cid=733a0c37ab&amp;mc_eid=b7b8ef8801">Photo Credits</a>
<h3>個人心得</h3>
<ul>
 <li>個人對於AI的認知，認為AI模型的演算法</li>
</ul>
<ol>
 <li>有點像是非常複雜的數學方程式，常人難以理解</li>
 <li>透過離開演算法的範圍造成BUG，導致AI模型失效(拿圍棋的AI玩西洋棋等)</li>
</ol>
<ul>
 <li>當有人希望AI技術越來越好，則有一派希望阻擋AI的進步</li>
</ul>
人臉辨識系統：防辨識眼鏡
在圖片、影像放置人類看不到的雜訊，防止AI辨別
<ul>
 <li>目前的AI技術類似人類，是屬於技術職居多</li>
</ul>
<blockquote>是否未來也會出現類似人類社會的分工模式：像是管理職、整合型、運籌等</blockquote>

每周一篇文章的讀書會心得報告摘要與筆記，主要段落分成：

1. 為什麼選這篇文章分享?   
2. 作者為什麼要寫這篇文章?   
3. 內容重點   
4. 心得

原文網址：AI 並非萬能！越洋採訪史隆獎得主、UCLA 台籍教授：2 缺陷要靠人類修補

對AI該注意的問題點及解決方式有粗淺概念

美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授張凱崴

獲得 2021 年的史隆研究獎（Sloan Research Fellowships）。

目前人工智慧技術已經可以幫助人類完成很多事

AI 並非萬能，要先認知它的局限

AI 局限1. 資料寬廣度不足時，就會複製人類偏見

第一步是輸入資料，第二步是分析，過程容易出現偏見。

例如電腦在理解「總統」這個字

會去看四周有什麼字詞，來學習總統這個詞

由於許多總統都是男性，電腦就會「覺得」總統是男性

如果讓 AI 學習，在它的認知裡，女性「不可能」當美國總統（因為沒有資料紀錄，出現系統性誤差）

電腦在學習的時候，是依賴「彙整數據資料」來判斷，並沒有真正思考

如果資料來源太狹隘、不夠多元，資料寬廣度不足，電腦判斷就會出現偏差

AI需要知道代名詞指的是「哪個名詞」，才能運算下去

AI 無法清楚分辨「不曾出現」與「不能出現」（無法出現）之間的區別

想讓AI取代部分工作，首先需要留意資料的廣度、多元性，才能減少電腦犯錯的機會。

AI 局限2. 即便條件相同，也無法每次都做出正確判斷

現在的 AI 就像一台原型飛機，還缺乏穩定性。

看似可以做很多有趣的事，但「可以飛」跟「飛得很好」，有一大段落差。

所謂的缺乏穩定性，指的是 AI 沒辦法在相同條件下，每次都做出正確決策

人們上傳簽證照片，AI 掃描後，確認是不是本人

系統沒有估算到某些亞洲人眼睛比較小，一名亞裔男子被判定「沒有張開眼睛」，因此照片無效。

系統沒有考慮到不同人種的差異，很死板地認為你眼睛沒張開

例如把電影（movie）換成影片（film），或改寫句子等

意思並未改變，系統卻把原本判斷為正面的影評標註成負面。

AI系統還未真正了解語言的含義。

設定的資料範圍要更完整，考慮這些因素，就能減少偏見、落差，進而加強穩定性。

餵指令給 AI 要多元化，嘗試「換句話說」、刻意混淆

把來源群組不同的資料分門別類測試

確保不同特色的使用者，用起來都沒有問題

一套 A 系統擁有來自各地的使用者

如果設計者是台北人，設計系統的思維容易以台北生活為主
很可能因為當地習慣不同，導致花蓮使用者操作不順。

用不同的「語意」，去測試 AI 有沒有徹底學會一個概念

一套評鑑的 AI 系統，只要蒐集、整理使用者意見，就能判斷顧客的評比是高分或低分。

可以利用「抽換詞面」的方法確認系統的穩定性

訓練模型時，可以將詞彙隨機抽換成同義詞，增加 AI 的詞彙量。

改變句型、重寫句子，確認AI 不會搞混

將「因為發生 A 事件，所以導致 B 事件」，改寫成「B 事件發生了，是因為 A 事件的緣故」

如果要鞏固 AI 的穩定性，可以使用自動改寫的方式，增加資料的多樣性。

個人對於AI的認知，認為AI模型的演算法

有點像是非常複雜的數學方程式，常人難以理解

透過離開演算法的範圍造成BUG，導致AI模型失效(拿圍棋的AI玩西洋棋等)

當有人希望AI技術越來越好，則有一派希望阻擋AI的進步

在圖片、影像放置人類看不到的雜訊，防止AI辨別

目前的AI技術類似人類，是屬於技術職居多

是否未來也會出現類似人類社會的分工模式：像是管理職、整合型、運籌等

讀後感：AI 並非萬能！越洋採訪史隆獎得主、UCLA 台籍教授：2 缺陷要靠人類修補

每周一篇文章的讀書會心得報告摘要與筆記，本次分享的文章為：談談競爭迷思2：巨頭不會想做這個，阿里巴巴怎麼可能會做養豬生意？巨頭整合、相同用途、不同產品的顛覆、產業無效率又太肥就可能吸引巨頭進去顛覆。