《2023 AI for better UX 實務研討：設計師在 AI 產品開發的職責》講座心得#4

更新於 2024/10/03發佈於 2024/10/03閱讀時間約 25 分鐘

感謝 UserXper 悠識學院舉辦的《2023 AI for better UX 實務研討》此次有幸獲選擔任講座的筆記手，第四場這場以英文簡報為主，大部分是透過 AI 和個人的轉譯，若翻譯不順暢或是有錯誤地方麻煩請再告知，個人會再修正謝謝。壓軸終場講者 Steven 自 2007年國內知名公司 ASUS 和 Cyberlink 從事 UI 設計師，再轉為資深 UX 設計師和團隊 Lead，2014年30歲時想說以往都是to C 端的產品設計，30歲後想要做可以改變世界的事情而轉入to B 的 IBM ，專注在智慧城市專案，如今身為 IBM Software 資深 UX 設計 Lead，管理公司各專案。分享在 AI 產品開發的經驗，也進一步促使聽眾們思考數位工作者面對AI 衝擊變化，如何在職涯上找到自己的方向定位，降低焦慮感。

設計師在 AI 產品開發的職責

江宗哲 Steven（IBMSoftware, Sustainability SoftwareSenior UX design lead）

⠀ ⠀講者經歷過像是丹麥大橋、緯創手機製程、底特律電廠做電網管理，都有透過設計思考方式。對於他來說這些不是項目不是專案，是真正的產品。設計思考（Design thinking）用意在於先假定所有的人不知道，而去深入了解使用者心智（User mindset）。

▍ 什麼是 AI？What is artificial intelligence ?

定義二：人工智慧是一種社會和認知現象，它使機器能夠與群體進行社交性整合，以執行需要認知過程的競爭性任務，並透過閱讀較多的情報並且提供較簡單精要的訊息來與其他實體進行通訊。
Definition 2: Artificial Intelligence is social and cognitive phenomena that enable a machine to socially integrate with a society to perform competitive tasks requiring cognitive processes and communicate with other entities in society by exchanging messages with high information content and shorter representations.
定義一：人工智慧是認知的自動化。
Definition 1: Artificial Intelligence is the automation of cognition.

以上資料來源：Published in: IEEE Transactions on Artificial Intelligence (Volume: 2, Issue: 2, April 2021)

定義二比較哲學社會學的，透過很多內容去提供較簡單精要的訊息。而實體可以是人或者不是人。但這些對於我們來說還很遠。而定義一是所有產業未來的五至十年，正在追尋的目標。講者陳述到所謂「認知的自動化」是用電腦系統嘗試著模仿人類思維解決問題和決策的能力。更精確描述是 AI 更能夠自動化、可預測、最佳化、像人類一樣思考。現今能實際運用如圖像辨識的電腦視覺（Computer vision）、數據科學（Data Science）、自然語言處理（Natural Language Processing）、機器人學（Robotics）…等等。

基於規則的系統（Rule-based system）舉例來說用三條邊線合在一起就是三角形給機器，機器就能明確定義出三角形；機器學習系統（Machine learning systems）是用了一系列的範例來告訴它，讓它學會圖像識別（Pattern recognition），舉例來說用很多照片，告訴它那些照片是三角形。機器透過不同形狀去學習並辨識出什麼是三角形。

1950’s Artificial Intelligence 是指電腦系統嘗試模仿人類思維解決問題和決策能力的能力。
1980’s Machine Learnings 基於機器學習的系統接受歷史資料的訓練來發現模式。
2010’s Deep Learning 深度學習使用多層神經網路共同處理資訊。適合圖像語音辨識複雜的應用。
2020’s Fundation Model 使用稱為transformer特定神經網路架構建立AI模型，來產生相關數據序列。

講者闡述一開始的人工智慧（Artificial intelligence）定義是能夠取代人類思維的，後來發現這是個巨大長遠目標，我們無法這麼快地達到。但能夠從中找的一條路線，透過歷史數據資料，能夠加以訓練的機器學習（Machine learning）是比較像 AI 的東西。後來更進一步的深度學習（Deep learning）更比較接近人類思考方法的腦科學，可以更複雜的應用，這也是早期文字轉語音功能（Text-to-Speech）、語音轉文字功能（Speech-to-Text）在 IBM 取得很多專利。到 2015年左右基礎模型（Foundation mode）基於深度學習進一步使用變換器（ Transformer ）特定神經網路來建立 AI 模型，可以更好運用辨識什麼資料是有關聯性的，能夠去辨識語意上下文的脈絡。

延伸閱讀：IBM Design for AI 《What is artificial intelligence?》

▍從 +AI 到 AI+ 的階層（The modern-day AI Ladder）：

收集數據產生洞見（ Collect, organize, grow data）
引入AI（Add AI to applications）
簡化流程（Automate your workflows）
自動化工作管理（Replace your workflows）
AI全自動化（AI does the work）

IBM 思考著如何從 +AI 到 AI+？當 +AI 收集數據後，嘗試運用在正在使用的工具，看是否能簡化流程。當自動化可信度相當高，就可以取代原本的工具，到最後團隊們希望 AI 能夠取代所有事情。最後一步就是 AI+ 。

▍圍繞企業數據的難得機會（Incredible Opportunities around enterprise data）

基礎模型（Foundation models）：感測器資料、資訊技術資料、業務資料、語音、自然語言、對話、圖像、編程語言(代碼)、地理空間、化學與材料。
Foundation models: Sensor Data、IT Data、Business Data、Speech、Natural language、Dialog、Images、Programming language(code)、Geospatial、Chemisrty&materials.
企業基礎模型（Foundation models for Business）：大語言模型、資訊技術自動化模型、數位勞動力模型、網路安全模型。
Large language models、IT Automation models、Digital Labor models、Cybersecurity models.
As leaders adopt AI, they need to consider three things: How to create competitive edge? How to scale AI across the business? How to advance trustworthy AI?

不管基礎模型來源和過程是什麼，最終希望能夠創造出企業使用的基礎模型，像是大語言模型、資訊技術自動化模型、數位勞動力模型、網路安全模型。協助企業定義為什麼需要它？更有兢爭力增加、縮短流程來降低成本…再來 AI 一旦試驗成功後在整個企業中擴展，最後推進更可靠值得信賴的 AI。

▍AI 置於商業核心將改變我們的工作方式（Placing AI at the core of the business will transform how we work）

數位勞動力（Digital Labor）：透過 AI 自動化使個人能夠做出更好的決定並更快地實現。
Empower individuals to make better decisions and deliver faster outcomes with AI and automation.
IT 自動化（IT Automation）：透過 AI 自動化關鍵系統，實現新的效率和恢復力水平。
Achieve new levels of efficiency and resiliency by intelligently automating your most essential systems.
安全性（Security）：將 AI 引入安全性，大大擴展視野並加快響應時間。
Bring intelligence to security to dramatically expand visibility & accelerate response times.
可持續性（Sustainability）：將可持續性嵌入日常運營來增加效率。
Capture new efficiencies by embedding sustainability into daily operations.
應用（Application）：建構和現代化組合式的、基於 API 的和事件驅動的應用程序。
Modernization Build and modernize applications that are composable, API-based, & event-driven.

▍ 設計師的職責是將設計思維帶入AI 產品開發流程。

設計師關注的職責正是標註藍字項目

評估（Assess）：識別目標人群、評估需求、識別數據來源、解構數據、計劃 AI 模型。
Identify target personas, Assess needs, Identify data sources, Deconstruct data, Plan AI model.
建立（Build）：建立 AI 模型、部署連接器、收集數據、啟動績效分析、模式識別和聚合、通過自然語言處理（Natural Language Processing, NLP）分析進行深度學習。
Build Al model, Deploy connectors, Collect data, Activate performance analytics, Pattern identification and aggregation, Deep learning through NLP analysis.
理解（Understand）：人類可讀的見解、異常信號、可操作的見解解釋。
Human readable insights, Anomalous signals, Actionable explainability for insights.
預測（Predict）：持續發現建構智能、精煉 AI 模型、基於機器學習( ML )和自然語言處理( NLP ) 的針對性預測、可操作的預測解釋。
Continuous discovery builds intelligence, Al model refinement, Targeted predictions based, ML & NLP, Actionable explainability for predictions.
建議（Recommend）：模型驅動的優化建議、可操作的建議。
Model-driven recommendations for optimization, Actionable explainability for recommendations.

延伸閱讀：IBM Design for AI 《Why apply design thinking to artificial intelligence?》為什麼將設計思維應用於人工智慧？

《20 years of buzzwords》by Marc Charbel

The designer’s responsibility is to bring a design thinking mindset to an AI (or any) product development process:

Stop buzzwords, and understand the tools and weapons.
Ask questions, ask the right questions.
Understand your users, and identify the real problems.
Continuously validation and iteration.

身為投入設計十幾年的講者發現世界變化快速是表面的，實際沒有那麼快。引用自 Marc Charbel 的《20 years of buzzwords》圖表記錄了 2000年到2022年間的潮流術語 Buzzword 圖表中黑色區塊亦代表該話題的熱潮起伏狀況。從中發現像是前年 Crypto 、NFT 、元宇宙…如今為何大家現在都不談了？在變化中的危機就是大部份的人都不知道 Buzzword 那真正到底什麼意思？因此需要假定所有人都不知道，再透過設計研究方法，去了解 Buzzword 背後真正意思、問對的問題，一開始的問題可能很笨，但別放棄去問到對的問題了。透過不斷提問，定義出最核心的問題再透過原型（Prototype）驗證。

▍ 設計師在 AI 產品團隊的價值

1. 為了更好協作溝通而記錄整理 AI 詞彙表（AI glossary）。

設計師合作對象包括產品經理團隊和技術團隊。就需要每個人都能共同存取，一致的明確定義。

Document an AI glossary

2. 了解產品使用者（Product users）。

像是 Gartner GenAI Use Case Scorecard 是很好的設計研究工具，在不同領域有一張計分表，以數據去檢查產出的價值和可行性

Gartner GenAI Use Case Scorecard

3. 了解競爭對手（Competitors）。

IBM Competitive Analysis — Maximo

透過指標來了解產品與市場之間的差距，像是影響力（Impact）價值（Value）、精緻度（Sophistication）、可信度（Trustworthiness）、是否有成熟 AI 操作模型（AI Operation model）、數據（Data）、合適的易用性（Ease of use）。

4. 了解團隊夥伴（Human in the AI product team）。

數據科學家（Data Scientist）：與競爭對手相比，我的AI模型是否更佳？
軟體工程師（Software engineer）：我們是否可以把我們的AI模型佈署在複雜場景中而且還可擴展，以幫助我們在競爭對手中脫穎而出？
使用者體驗設計師（User Experience Designer）：我們是否提供了能夠提升產品水準的AI體驗？
產品經理（Product Manager）：我們是否提供了能夠提升產品水準的AI體驗？

5. 使用者研究仍是根本

紀錄描繪人物誌（Persona）、使用案例（Use case）、當前旅程地圖（As-is journey）了解利害關係人（Stakeholder）交互的過程是什麼？

6. 寫下並迭代 AI 意圖（Write down and iterate the AI intent）

了解使用者為什麼需要這個，紀錄下來並跟團隊檢閱，與之確認是否為使用者真正需求。

一位租賃經理需要一種有效分析租賃提案方法，以便他們可以確定租賃優先順序來支援決策制定。

A lease manager Needs a way to Analyze the lease proposals efficiently, So they can Identify the lease offering priorities to support making decisions.

一位植被經理需要一種在沒有人工流程的情況下優先考慮關鍵修剪方法，以便他們可以平衡成本和勞動力並確保電網可靠性。

A vegetation manager Needs a way to Prioritize the critical trim works without a manual process, So they can Balance the costs and labor and ensure grid reliability.

7. 探索我們擁有的數據（Explore which data we have…）

探索我們擁有哪些數據能幫助使用者，像是幫助顧客優先排序樹木修剪的次序。環境的模擬（Environment simulation）會需要很多數據，像是樹香料、風速、風向、土壤濕度、酸鹼值、海拔地理位置，並且還需讀很多論文，最後去驗證那些東西是可以產出的。

8. 與顧客建立 Workshop（Explore which data output users expect…）

講者敘述當有了第一版本可執行計畫後，開始與顧客建立工作坊（Workshop）。與顧客共創了解那些資料需要在裡面？哪些數據產出是使用者預期的？釐清顧客在意那些數據？不同的模型（Models）來自那些數據資料（Data），如果做出來的數據是客戶不需要的，那為什麼還要做呢？

Vegetation Management Distribution

9. 探索哪些模型值得建構（Explore which models are worth building…）

下圖垂直軸是對市場的價值而橫軸是可行性，IBM 不會去做右上角太顯而易見很容易被抄襲，所以會專注在重大賭注（Big bets）和公用事業（Utilities）。

10. 需要回答的問題（Questions needed to be answered）

改善模型（Improving the model）
部署之前我該如何改進模型？（How can I improve the model before I deploy it?）、模型的行為是否如預期，還是需要改進？（Does the model behave as intended or does it need improvement?）
驗證系統能力（Evaluating an AI system’s capability）
這個 AI 是否有能力或足夠好來使用？（Is the Al capable or good enough to use?）、這個 AI 能為我做什麼？（What can this AI do for me?）、這個 AI 不能為我做什麼？（What can this AI not do for me?）
建構信任與告示（Forming appropriate trust and caution）
有哪些風險和局限性？（What are the risks and limitations?）、在什麼情況下，模型的表現可能會次優？（In what situations might the model perform sub-optimally?）、用戶能否理解AI得出答案的方式？（Can the user understand how the AI arrives at its answers?）
改變模型的模式（Changing how the model behaves）
這個 AI 是如何工作的？（How does the AI work?）、我有哪些選項可以控制系統的行為？（What are my options for controlling the system’s behavior?）
告知決策與最好的解決方案（Making informed decisions and taking better actions）
AI 為什麼作出這個預測或建議？（Why did the Al make this prediction or recommendation?）、我可以做些什麼來避免或改善預測的結果？（What can I do to avoid or improve the predicted outcome?）
安全與隱私疑慮（Security and privacy concerns）
AI 正在哪裡存儲其數據？（Where is the AI storing its data?）、我可以控制 AI 使用哪些數據嗎？（Can I control what data the AI uses?）
操作倫理與合規（Ensuring ethical or legal compliance）
AI 是否會歧視某些群體？（Does the AI discriminate against certain groups?）、這個 AI必須考慮哪些法律問題？（What legal concerns must this Al consider?）

▍ 最佳實踐（Design AI best practices）

了解使用者（Know your users）
了解使用者的意圖（Know users’ intents）
選擇正確的模式進行交流（Choose the right modality to communicate）
不要讓使用者不知所措（Don’t overwhelm users）
將解釋能力整合到整體使用者工作流程和體驗中（Integrate explainability into the overall user workflow and experience）
知道何時詳細說明（Know when to elaborate）
按需提供更多資訊的鏈接（Provide links to more information as needed）
配合私隱問題（Accommodate privacy concerns）
為法規和合規性建設（Build for regulation and compliance）

Be good, don’t be cool.

講者最後勉勵設計師應該做使用者的好朋友，多了解使用者，而不是酷酷冷漠的設計師。很有幸能透過場講座降低我們對於 AI 取代設計師的焦慮感。我們可以發覺即便 AI 夠能快速生成，但背後仍需大量的使用者研究，無論是量化數據分析或是質性研究談訪和顧客做工作坊共創討論。這些對於使用者深入洞察都是 AI 難以取代，相對我們可以利用 AI 去協助更快速的數據收集與分析。設計師也可設計有效的團隊溝通方式，像是整理 AI 詞彙表（AI glossary）、人物誌（Persona）、使用案例（Use case）、當前旅程地圖（As-is journey）。最後仍感謝講者 Steven 帶來精采分享，讓設計師在 AI 產品團隊中更有價值展現。

※會後的 Sildo 提問請參閱 UserXper 悠識學院的 hackmd 筆記