新冠肺炎敲響警鐘,也提醒所有AI機器人和無人駕駛公司停止開發「華而不實」的功能展示,而要專注發展真正為使用者帶來價值、不需人工干預,也可以全天24小時自動運作的實用AI解決方案。
Bastiane Huang
Bastiane Huang目前在舊金山的AI/Robotics新創公司擔任產品經理,擁有近10年產品行銷及市場開發管理經驗;曾在美國《機器人商業評論》及《哈佛商業評論》發表文章及個案研究。如果你也對Robotics 2.0(AI-Enabled Robotics)、產品管理、Future of Work有興趣,歡迎追蹤她的最新訊息。
受到疫情影響,全球數百萬人被迫在家工作。零售商努力維持正常供應,而緊張的消費者也正想盡辦法,從各種管道購買衛生紙之類的各種民生必需品。
在全球公司及政府疲於奔命的狀況下,中國電商巨頭京東開始在武漢測試自動送貨機器人,測試每天24小時運作的自動化倉庫,來因應激增的需求。
突然間,機器AI自動化所需要的,不僅僅是概念的驗證;它們不能再依賴現場工程師支援突發狀況,而必須能夠自行在各種現實環境中獨立工作。
這一次的疫情,不僅讓原本已經走向自動化的未來提早成真,也暴露了AI創業領域長期存在的問題:太多讓人眼花撩亂的科技展示和話題炒作,讓人很難正確判斷產業真正的發展趨勢。
我們需要在以下三個方面推動改變:
1. 重新思考指標
隨著我們在現實世界中採用更多自主AI機器,諸如速度、成功率等傳統指標,已經不能反映全部的情況;我們需要透過「可靠度指標」(robustness metrics),來全面衡量「系統在不確定狀況下的可靠性」。例如送貨機器人平均在送貨幾次之後,才需要人為介入來確保成功送達?
我們需要更多的工具和產業標準,來評估各種未知狀態下的整體系統性能;因為現實生活不同於實驗室,是完全不可預測的。
即使送貨機器人可以達到每小時6公里的最高前進速度,但如果在沒有人工支援的狀況下,就無法獨立完成單次送貨,那麼事實上並沒有為用戶創造多少價值。
「
DevOps」(開發維運)這個詞在幾年前出現,可以說是「開發」、「測試」、「維運」三者的結合;它的目的在於縮短軟體開發週期、確保高品質的軟體產出。
與一般軟體工程相比,AI人工智慧或ML機器學習的產業成熟程度要低得多;根據調查,有高達87%的ML專案在投入生產之前,就已經宣告失敗。
然而,最近我們開始看到「MLOps」或「AIOps」(ML/AI加上「開發維運」)的出現;這代表著ML/AI從學術研究變成實際產品的重要轉變。
這樣的改變需要更多心態調整:
不只看最先端ML研究,也專注於品質管理和軟體工程。
並不是說兩者不能兼顧,而是到目前為止,多數公司往往專注於前者,而忽略對開發實用產品可能更重要的後者。
2. 重新設計錯誤處理與用戶體驗
這並不代表AI機器人不能給人類帶來價值;正如我在
前文中提到的,即使人類仍需要處理15%的突發狀況,公司依然可以降低大量的勞動力和整合成本。
然而,目前許多AI 公司專注於開發自動系統,而忽略了短期之內人類與機器需要共處的事實;所以現在必須徹底思考交接任務、溝通錯誤訊息等實際需求,讓人和機器之間的互動可以更加順利。
尤其因為AI產品的不確定性比一般軟體產品更高、演算法又缺乏透明度,因此更需要重新思考用戶體驗。例如,是否可以顯示模型預測的信心水準,或是
將預測定位為建議、而非最終決策,來近一步獲得使用者的信任?
同時,我們也需要將錯誤分級、設計相應的應對機制、優先減少致命錯誤;並確保機器在發生重大錯誤而停止工作時,我們能快速回應、並且遠端排除故障。
其中最困難的部分是「識別未知錯誤」,也就是看出系統先前無法檢測的錯誤;因此,進行雙向溝通、允許用戶回報錯誤、或是選擇回覆先前的設定,也是非常重要的。
3. 重新定義人機互動方式
新冠病毒疫情迫使更多公司更快接受自動化方案、並且轉向雲端;而未來每一位遠端工程師需要操作的機器人,也將會越來越多。
從每人控制五台保全機器人,變成每人控制十台機器人時,我們是否擁有正確的工具和感知技術,能即時將所有相關資訊傳遞給決策者?每個機器人上是否有足夠的感測器來提供完整的資訊圖像?
今天,我們多數依靠平板電腦之類設備上的「觸覺輸入」來控制機器;但未來資訊量飆升、回應時間縮短的狀況下,我們是否應該考慮觸覺以外的人機介面,例如語音、VR/AR、甚至腦波介面等等?
例如,誰應該控制無人車?汽車本身、人類安全司機、遠程監控的作業人員、還是乘客本身?在不同情況下又有什麼差異?還是應該由人類和機器共同做出加權判斷?這些決定中的道德含義是什麼?操作介面能否支援多步驟共同決策?
結語
最後的問題是,我們如何設計以人為本的AI,以確保自動化機器使我們的生活更美好,而不是更糟?
需要我們回答的問題還很多,而且當前的疫情正迫使我們更快回答。如果這些AI公司能夠專注於上面概述的三個領域,我們將能夠更好、更快得出關鍵結論,以確保我們朝著正確的自動化方向前進。