給產品經理的AI開發指南#2:如何管理機器學習產品?/Bastiane Huang

閱讀時間約 10 分鐘
在設計機器學習相關產品與服務時,必須瞭解它和一般軟體開發的不同、以及過程中獨特的優先順序與需求。前一篇中探討了機器學習產品開發時,專案經理必須具有的基礎認識和挑戰,本文則延續討論相關的產品管理須知。
Bastiane Huang
Bastiane Huang目前在舊金山的AI/Robotics新創公司擔任產品經理,擁有近10年產品行銷及市場開發管理經驗;曾在美國《機器人商業評論》及《哈佛商業評論》發表文章及個案研究。如果你也對Robotics 2.0(AI-Enabled Robotics)、產品管理、Future of Work有興趣,歡迎追蹤她的最新訊息
比起一般軟體,機器學習(ML)產品需要更多的反覆試驗;因此,作為PM(專案經理),你需要給工程師和資料科學家足夠的空間和時間去探索。
但要如何幫助團隊應對這些不確定性呢?如何在明確定義問題和衡量成功標準的同時,又給團隊足夠彈性進行實驗探索?

1. 規劃:從「明確定義問題」開始

ML是一種工具、也是達到目標的方法之一。如果你想解決的問題並不需要ML,就不應該使用它。
我們要從確定問題開始:找到有市場需求、技術上可行的客戶痛點;先進行市場評估,找出客戶需求。
接下來,則是判斷ML是否可以幫助我們解決使用者的問題。
機器學習有許多可能的應用,但最適合的是用來進行決策或預測。
我們可以將ML應用分為幾種類型:
  • 檢測/檢查(detection/inspection):幫助使用者識別缺陷或異常,例如銀行或保險的欺詐檢測、或是生產線上的產品缺陷檢測;
  • 模式識別(pattern recognition):幫助使用者篩選大量數據,包括推薦、排序、個人化、分類、預測維護、以及人機互動;例如針對Alexa或Google Home等智慧音箱進行自然語言處理(NLP);
  • 高維認知(high-dimension cognition):幫助使用者篩選、處理大量高維感官數據;例如人工智慧機器人、自動駕駛汽車。
在以下情況下,你應該避免在產品中使用機器學習功能:
  • 可以用更簡單的規則解決問題;
  • 正在構建的解決方案不需要因應新數據而改變;
  • 無法取得訓練ML模型所需的數據;
  • 產品要求高精度,不能容許任何一點出錯;
  • 產品需要資訊完全透明。
找到正確的問題之後,下一個關鍵任務就是「明確定義需求」。
開發ML產品是一個需要迅速迭代(iterative)的過程。常會聽到有人說「我們先建一個ML模型,再看看結果如何」,但如果跳過了「事前計劃」和「定義問題」的步驟,最後可能反而會浪費整個團隊大量的時間,而得不到具體結果。

2. 定義「目標函數」和「指標」,保留更多空間和彈性

ML產品不需要我們事先編寫規則,而是由機器自動從大量數據中分析出規則。
與一般的軟體工程相比,它更具實驗性及不確定性,所以很難預測哪些方法有效、哪些無效。這就是為什麼在決定最終解決方案之前,必須給工程師和資料科學家更多的空間和時間去探索。
作為產品經理,你可以藉由以下方法,幫助團隊在廣泛的探索過程中保持專注:
  • 定義一個目標函數(objective function):你的ML模型試圖預測的期望結果是什麼?或者你還在嘗試辨識出資料中的固定模式?有什麼「已知事實」(ground truth)可以用來比較模型的結果、並判斷準確性?例如你設計了一個模型來預測天氣,就可以比較預測結果與實際天氣數據,來驗證模型的性能。
  • 定義性能指標(performance metrics):如何衡量產品的成敗?設置驗收標準並不總是那麼容易。你會如何比較「翻譯模型」和「人工翻譯」的準確度?有時需要先查看模型的初步結果,才能確定標準為何;但最重要的,是儘早開始思考測試標準、並且不斷測試模型,直到找出預測結果令人滿意的ML模型為止。
  • 儘早並頻繁測試ML模型(end-to-end testing): 你可以將ML模型看作一個黑盒子;定義模型的輸入和輸出,但不一定瞭解盒子裡的神經網路如何運作。這就是為什麼儘早、並且儘可能頻繁測試很重要;從簡單的原型(prototype)開始測試關鍵功能,然後進行修改。重點是,盡量避免在驗證好模型的關鍵功能前,就試圖建構太複雜的解決方案。
但需要注意的是,模型本身的準確性通常並不是最好的衡量標準。
我們必須同時考慮測量精確度(true positives/all positive predictions)和召回率(positive predictions/all true positives);精確度是「多少個選定項目的相關性」,而召回率則是「選定多少個相關項目的相關性」。
這沒有適用於所有情況的經驗法則,所以你需要根據使用者的案例來決定權衡。

3. 從第一天就開始考量數據策略

訓練ML模型需要大量高品質的數據。在使用大量數據進行訓練時,深度學習的性能會優於舊的算法;因此,從第一天就開始計畫取得數據的策略和途徑就非常重要。
數據可以來自購買、與其他公司合作、從客戶那裡收集、在內部生成、或是僱用第三方來生成或標記數據。同時,你也需要考慮競爭對手在做什麼、客戶和監管機構在想什麼、以及每種策略的相應可行性和成本。
擬定數據策略的責任不在於資料科學家,而在於產品經理,而且公司高層也需要經過清楚定義的競爭策略。
如果你是一家新創公司, 更需要三思而後行:你想進入的市場,是否有產業巨頭掌握了大多數資料?你可能不想在電子商務上與Amazon競爭、或是在位置資料方面與Google地圖匹敵。
所以,你必須找到目前還沒有一家公司能主導客戶資料的藍海市場。
你是否能夠建立可以保護、而且可以持續的數據管道(data pipeline)?如何遵守使用者的隱私政策?如果你的公司在歐盟和其他數據保護法規範圍內營運,則必須熟悉GDPR(通用資料保護法規)的規定。
例如根據GDPR,公司需要確保個人資料不僅是合法收集的、也要能防止他人濫用;因此,PM必須從產品開發的早期階段就考慮資料保護措施。
PM必須與ML團隊討論,以確定未來需要什麼數據、需要多少數據;同時,也必須讓法務和營運部門等其他相關單位參與。
為機器人和自動駕駛汽車等現實世界應用開發ML產品,帶來了更大的挑戰;所以必須充分利用模擬(simulation)方法、並且注意相關研究領域,包括轉移學習(Transfer Learning)和元學習(Meta Learning),以降低對大量數據的需求、並加快模型訓練過程。

4. 不能只考慮ML

構建ML產品的過程,其實是跨領域的;而且在大多數情況下,我們開發的並不只是ML模型而已。為了做出完整、可立即投入生產的產品,我們還需要使用者介面(UI)、執行模型預測的軟體、以及硬體的搭配組合。
如果過度專注於ML模型上,而忽略了使用者體驗(UX),產品就不會成功。你需要一個不僅包括ML工程師和資料科學家,還包括數據工程師、軟體工程師、UI/UX設計專家和硬體工程師的跨領域的團隊;此外,還需要與後端工程師合作,以打造出支持ML產品的基礎結構。
作為PM,必須盡量減少不同職能或團隊之間的相互依賴和衝突。如前所述,ML的性質與一般軟體開發完全不同,因此在組織上也應該有所改變。
例如,雖然每日的站立會議(stand-up meetings)可能有助於保持軟體工程團隊的生產力,但對於ML團隊而言,這可能不是最好的時間利用方式。所以,ML開發不僅僅是技術上的改變,還牽涉到組織變革。
作為產品經理,你可以幫助其他團隊瞭解ML產品在本質上的不同、並協助解決潛在的衝突。
PM與內部團隊和客戶的溝通也很重要。ML產品的性能,會隨著時間的推移而提高;但這也代表著,客戶可能無法在一開始就獲得最好的結果。使用者可以接受這一點嗎?
如何減輕使用者的風險、並保證可接受的最低性能?如何設計產品,以降低不確定性、並獲得最好的使用體驗?

5. 投資ML產品的理由

  • 改善使用者體驗或產品功能:ML可以用來讓產品更個人化、或是客製化;例如讓使用者更容易找到最相關的結果,或是應用ML來提高預測的準確性。這些都是對公司內部或外部使用者(客戶)潛在需求應用的考量。
  • 將流程或重複性任務自動化:公司同仁或客戶是否需要重複執行一些可以自動化的流程?透過自動執行重複性工作,可以節省時間、成本、資源,甚至創造更好的使用體驗。如果流程太複雜,是否可以將部分流程自動化、或幫助使用者更有效率地完成工作?Gmail的「Smart Compose」(字句建議)是一個很好的例子:現在,Gmail可以自動幫使用者完成句子,不需要每次都手動輸入「你好」這類重複的單詞或句子。
  • 開創新的商機:是否有新的商機或使用者問題,是以往無法解決、但現在可以用ML完成的?例如在倉庫中,貨物分揀通常需要人工完成,因為很難幫機器手臂編寫程式,讓它們識別和處理數百萬種產品;但是有了ML,機器人可以在最少的人工幫助下,自行學會識別各種物體。ML與人工智慧的這種能力,為倉庫機器人打開了龐大的商機。

6. 有些好的PM直覺,反而不適用於ML產品

有時候,管理軟體產品的方法不一定適用於ML產品。我常會提醒自己以下幾點:
  • 必須清楚認知開發ML和軟體產品之間的區別。要讓單一組織流程適用於所有產品,是不太可能的;必要的時候,你必須調整產品計畫流程(sprint planning)、產品藍圖、甚至整個組織。
  • 不需要太詳細列出產品需求書(Product Requirement Document)上的所有需求,而要著重於定義目標功能和衡量標準,讓ML團隊有更多探索和試驗的空間。
  • 與其在開發過程開始時向ML團隊詢問可能結果,不如與團隊密切合作,儘早開發和測試產品原型。
  • ML只是方法之一,並不一定非用不可。

總結

關於管理AI產品,我認為最重要的幾件事包括:
  • ML產品管理比一般軟體更具挑戰性,因為它涉及更多的不確定;不僅需要技術上的改變,還需要組織上的改變。
  • ML最適合用於協助決策或預測。
  • ML產品經理最重要的工作:明確定義問題,確定需求,設定衡量成功的標準,並為ML工程師提供足夠的空間和時間探索解決方案。
  • 從第一天就開始計畫數據策略。
  • 構建ML產品是跨領域的,牽涉到的職能並不只是機器學習而已。
為什麼會看到廣告
1.4K會員
2.0KContent count
為您送上頂尖作者的最新管理與科技產業思維。
留言0
查看全部
發表第一個留言支持創作者!
雖然虛擬實境(VR)和擴增實境(AR)眼鏡的前途還沒有定論,但研發過程中遭遇的困難,卻讓許多人寄予厚望的Apple躊躇不前。Apple究竟還會做嗎?還是有計畫在秘密進行中?
如果您身為商業開發、業務、或者產品經理,就必須對成本、費用等觀念瞭若指掌;此外,由於市場調查時常需要閱讀財報及新聞等公開資料,所以財報閱讀能力在很多場合都很有幫助。本文以繪圖晶片大廠nVidia的第三季財報為例,告訴您如何解讀市場的重點與趨勢。
當一個人在「第二人生」、也就是職場中經歷過困境後,就會有許多問題,需要尋找答案或解決方案;日積月累之後,心中自然就會有一份「問題清單」。而心中已經有這份清單的人,就會自動去尋找答案。
沒有了愛心數之後,其實還有很多東西可以看;但成功的網紅行銷公司,必須能拿出愛心數之外的更多成長指標,以有效幫助甲方找到適當網紅人選。至於如何運用內容,將粉絲帶到廣告主希望他們去的地方,將會是網紅行銷的一大挑戰。
這是個既競爭、也要合作的世代;因為很少有公司能單獨做出創新時代、顛覆市場的產品。本文主要以汽車市場為例,為讀者解說現今各大產品陣營的競爭與合作局勢、合作對於業界不同角色的重要性、以及各種不同型態的合作可能。
金字塔頂端高齡人口的需求,並不侷限在生理或安全的需求層次,更多的是在社會、尊重和自我實現的需求上。許多長照產業中的創業者,往往只看到基礎的生理和安全需求,殊不知必須從更高層次的服務中獲利,才能先生存下來、再為更廣泛的對象服務。
雖然虛擬實境(VR)和擴增實境(AR)眼鏡的前途還沒有定論,但研發過程中遭遇的困難,卻讓許多人寄予厚望的Apple躊躇不前。Apple究竟還會做嗎?還是有計畫在秘密進行中?
如果您身為商業開發、業務、或者產品經理,就必須對成本、費用等觀念瞭若指掌;此外,由於市場調查時常需要閱讀財報及新聞等公開資料,所以財報閱讀能力在很多場合都很有幫助。本文以繪圖晶片大廠nVidia的第三季財報為例,告訴您如何解讀市場的重點與趨勢。
當一個人在「第二人生」、也就是職場中經歷過困境後,就會有許多問題,需要尋找答案或解決方案;日積月累之後,心中自然就會有一份「問題清單」。而心中已經有這份清單的人,就會自動去尋找答案。
沒有了愛心數之後,其實還有很多東西可以看;但成功的網紅行銷公司,必須能拿出愛心數之外的更多成長指標,以有效幫助甲方找到適當網紅人選。至於如何運用內容,將粉絲帶到廣告主希望他們去的地方,將會是網紅行銷的一大挑戰。
這是個既競爭、也要合作的世代;因為很少有公司能單獨做出創新時代、顛覆市場的產品。本文主要以汽車市場為例,為讀者解說現今各大產品陣營的競爭與合作局勢、合作對於業界不同角色的重要性、以及各種不同型態的合作可能。
金字塔頂端高齡人口的需求,並不侷限在生理或安全的需求層次,更多的是在社會、尊重和自我實現的需求上。許多長照產業中的創業者,往往只看到基礎的生理和安全需求,殊不知必須從更高層次的服務中獲利,才能先生存下來、再為更廣泛的對象服務。
你可能也想看
Thumbnail
1.加權指數與櫃買指數 週五的加權指數在非農就業數據開出來後,雖稍微低於預期,但指數仍向上噴出,在美股開盤後於21500形成一個爆量假突破後急轉直下,就一路收至最低。 台股方面走勢需觀察週一在斷頭潮出現後,週二或週三開始有無買單進場支撐,在沒有明確的反轉訊號形成前,小夥伴盡量不要貿然抄底,或是追空
Thumbnail
重點摘要: 1.9 月降息 2 碼、進一步暗示年內還有 50 bp 降息 2.SEP 上修失業率預期,但快速的降息速率將有助失業率觸頂 3.未來幾個月經濟數據將繼續轉弱,經濟復甦的時點或是 1Q25 季底附近
Thumbnail
近期的「貼文發佈流程 & 版型大更新」功能大家使用了嗎? 新版式整體視覺上「更加凸顯圖片」,為了搭配這次的更新,我們推出首次貼文策展 ❤️ 使用貼文功能並完成這次的指定任務,還有機會獲得富士即可拍,讓你的美好回憶都可以用即可拍珍藏!
Thumbnail
對於家中有嬰兒的雙薪家庭來說,想要享用健康又營養豐富的家常料理往往變得困難。鱸好家的產品提供瞭解決這個問題的便利方式,提供了加熱即食的舒肥鱸魚和專業的去刺服務。透過專業的精煉製程製作的鱸魚精更可以幫助人們補充能量,讓人在生活中輕鬆品嚐到健康又美味的料理。
A "NUMBER" TO WHAT YOU SELL https://www.morelogin.com/?from=AA8hYFkWA6qp
Thumbnail
在16年前,第一次當媽媽,展開人生中最困難的任務_迎接完全無助的嬰兒,我必須擔起照顧這個孩子的身體健康與心理健康的責任,並將孩子養育成具有生產力,能為自己未來負責的能力,如果可以,也希望他能為這社會做出一些的貢獻,對於步入職場快20年的我,沒有一件工作的難度,可以超越養育孩子。   
Thumbnail
聽到贈與稅,應該有不少人會以為那是跟有錢人有關的稅,我是平民老百姓,贈與稅應該跟我沒關係,其實這是錯的,除非你是低收入戶,不然都可能與贈與稅有關係。 當我們年紀逐漸變大,就會思考到財物或財產移轉的問題,也許你現在有沒有這的需求,先了解一下總是好的。如果你正好面臨這個問題,那更要具備贈與稅的基本知識
Thumbnail
儘管跟配偶的感情不睦,但也習慣這樣的日子了,突然離婚、清算財產也很麻煩,便開始想方設法為遺產做打算,至少萬一來的那天,不能讓辛苦大半輩子存下的錢落入對方手裡。但仔細研究了一下法規,發現事情似乎沒那麼簡單,想到的辦法不是無法完全規避特留分,就是可能會讓自己在生前吃盡苦頭。
Thumbnail
送禮你會送甚麼呢??雞精可能是個選項,但是補精氣神前提下;送來送去雞精還是那一樣嗎??未必。這篇介紹龜鹿茸益飲或許你應該送這個。龜鹿茸益飲價格比雞精低,但是營養成分卻高於雞精。看完本文之後,雞精還是別送了;要送禮請送龜鹿茸益飲。 龜鹿茸益飲相關資訊:: 地址: 台南市安平區府前四街104號 電話:
Thumbnail
大家好,我是台灣微告的艾比,近年在服務日本客戶上,發現他們經營品牌的心態與台灣有很大的不同,隨著全球電商市場發展日趨成熟,新創品牌前仆後繼創立自己的購買平台,門檻雖低挑戰卻也不少,這篇希望借鏡日本品牌經營電商的訣竅,分享觀察給即將開始經營電商或正在經營的你! 眾所周知,Cookie 技術即將在 20
Thumbnail
2020 年我開始在網路上寫 Obsidian 系列文章,2022 年初我將系列文轉錄成 YouTube 教學影片,最終製作了「Obsidian 教學包」教大家如何使用 Obsidian。一開始寫文章的收入是 0,發表教學包後我的半年收入是 60,000。這篇文章和你分享我銷售數位知識產品、賺取被動
Thumbnail
「我們的產品能做到什麼」跟「你可以用我們的產品做到什麼」聽起來很相似,但卻是完全不一樣的事情。多練習描述產品/服務帶來的成功,是打動消費者購買的秘訣。
Thumbnail
1.加權指數與櫃買指數 週五的加權指數在非農就業數據開出來後,雖稍微低於預期,但指數仍向上噴出,在美股開盤後於21500形成一個爆量假突破後急轉直下,就一路收至最低。 台股方面走勢需觀察週一在斷頭潮出現後,週二或週三開始有無買單進場支撐,在沒有明確的反轉訊號形成前,小夥伴盡量不要貿然抄底,或是追空
Thumbnail
重點摘要: 1.9 月降息 2 碼、進一步暗示年內還有 50 bp 降息 2.SEP 上修失業率預期,但快速的降息速率將有助失業率觸頂 3.未來幾個月經濟數據將繼續轉弱,經濟復甦的時點或是 1Q25 季底附近
Thumbnail
近期的「貼文發佈流程 & 版型大更新」功能大家使用了嗎? 新版式整體視覺上「更加凸顯圖片」,為了搭配這次的更新,我們推出首次貼文策展 ❤️ 使用貼文功能並完成這次的指定任務,還有機會獲得富士即可拍,讓你的美好回憶都可以用即可拍珍藏!
Thumbnail
對於家中有嬰兒的雙薪家庭來說,想要享用健康又營養豐富的家常料理往往變得困難。鱸好家的產品提供瞭解決這個問題的便利方式,提供了加熱即食的舒肥鱸魚和專業的去刺服務。透過專業的精煉製程製作的鱸魚精更可以幫助人們補充能量,讓人在生活中輕鬆品嚐到健康又美味的料理。
A "NUMBER" TO WHAT YOU SELL https://www.morelogin.com/?from=AA8hYFkWA6qp
Thumbnail
在16年前,第一次當媽媽,展開人生中最困難的任務_迎接完全無助的嬰兒,我必須擔起照顧這個孩子的身體健康與心理健康的責任,並將孩子養育成具有生產力,能為自己未來負責的能力,如果可以,也希望他能為這社會做出一些的貢獻,對於步入職場快20年的我,沒有一件工作的難度,可以超越養育孩子。   
Thumbnail
聽到贈與稅,應該有不少人會以為那是跟有錢人有關的稅,我是平民老百姓,贈與稅應該跟我沒關係,其實這是錯的,除非你是低收入戶,不然都可能與贈與稅有關係。 當我們年紀逐漸變大,就會思考到財物或財產移轉的問題,也許你現在有沒有這的需求,先了解一下總是好的。如果你正好面臨這個問題,那更要具備贈與稅的基本知識
Thumbnail
儘管跟配偶的感情不睦,但也習慣這樣的日子了,突然離婚、清算財產也很麻煩,便開始想方設法為遺產做打算,至少萬一來的那天,不能讓辛苦大半輩子存下的錢落入對方手裡。但仔細研究了一下法規,發現事情似乎沒那麼簡單,想到的辦法不是無法完全規避特留分,就是可能會讓自己在生前吃盡苦頭。
Thumbnail
送禮你會送甚麼呢??雞精可能是個選項,但是補精氣神前提下;送來送去雞精還是那一樣嗎??未必。這篇介紹龜鹿茸益飲或許你應該送這個。龜鹿茸益飲價格比雞精低,但是營養成分卻高於雞精。看完本文之後,雞精還是別送了;要送禮請送龜鹿茸益飲。 龜鹿茸益飲相關資訊:: 地址: 台南市安平區府前四街104號 電話:
Thumbnail
大家好,我是台灣微告的艾比,近年在服務日本客戶上,發現他們經營品牌的心態與台灣有很大的不同,隨著全球電商市場發展日趨成熟,新創品牌前仆後繼創立自己的購買平台,門檻雖低挑戰卻也不少,這篇希望借鏡日本品牌經營電商的訣竅,分享觀察給即將開始經營電商或正在經營的你! 眾所周知,Cookie 技術即將在 20
Thumbnail
2020 年我開始在網路上寫 Obsidian 系列文章,2022 年初我將系列文轉錄成 YouTube 教學影片,最終製作了「Obsidian 教學包」教大家如何使用 Obsidian。一開始寫文章的收入是 0,發表教學包後我的半年收入是 60,000。這篇文章和你分享我銷售數位知識產品、賺取被動
Thumbnail
「我們的產品能做到什麼」跟「你可以用我們的產品做到什麼」聽起來很相似,但卻是完全不一樣的事情。多練習描述產品/服務帶來的成功,是打動消費者購買的秘訣。