公司如何防範 AI 風險 How Companies Can Safeguard Against AI Risks

九思觀察家-avatar-img
發佈於企業發展 個房間
更新於 發佈於 閱讀時間約 7 分鐘
raw-image

自從 2022 年 11 月 30 日 ChatGPT 推出後,引發了一場狂熱,世界也就改變了。生成式 AI 在企業中的應用迅速擴展,帶來新的效率與商機。由於企業內部安裝設罝必要安控護欄的速度,遠不及生成式 AI 的使用擴展速度,因此增加企業潛在的風險,並產生巨大的隱憂。

根據 Oliver Wyman 論壇 2023 年 11 月針對 16 個國家 15,000 多名成人進行的一項新研究顯示,約 84% 在工作中使用生成式 AI 人工智慧的員工在過去三個月內,公開暴露了公司的數據資料。

同一時間,根據 Mercer 的一項調查顯示,71% 的員工表示自動化將顯著改變他們的工作方式。而且將近三分之一的企業執行長與財務長正在重新設計工作內容,來降低對人力的依賴。

生成式 AI 科技雖然提高了生產力 (但不一定安全),但也暴露出人員能力上的差距,並削弱了員工士氣。企業需要迅速採取行動,不僅要限制員工的濫用行為,還要解決他們的擔憂。



AI 的魅力


根據 Oliver Wyman 論壇提供的研究報告,從 2023 6 月到 10 月,生成式 AI 的每週使用者數量從 10% 躍升至 60%,有些產業甚至從 35% 增加到 75%。超過一半的員工表示他們每周至少使用一次生成式 AI,大約五分之一的員工表示他們每天都使用它。在發展中經濟體國家 (如印度和印尼),尤其受到年輕工作者的歡迎。

受歡迎的原因主要在於像 ChatGPT 等工具易於使用,並且以自然語言 (非程式碼) 的方式,提供快速回應反饋,大幅提升人們對 AI 的接觸與使用率。更多人將 AI 工具視為 "工作夥伴",它幫助工作者完成更多工作。近三分之二的白領工作者認為 AI 工具提高他們的生產力。

一位倫敦金融科技公司的28歲客服經理表示「你可以問 ChatGPT 很多事情,但你無法問同事所有事情。」

raw-image

Source: Oliver Wyman Forum Generative AI Survey, October–November 2023, 16 countries, N=16,033.



風險增加


許多企業組織對於生成式 AI 人工智慧是準備不足的,他們缺乏管理日益增長風險所需的專業知識與速度。超過五分之四的員工表示,他們透過公共生成式 AI 工具曝露公司的數據資料、分析公司商業數據與同事的 Email 等。針對所產生的各種風險,企業必須要儘快防堵,並防患於未然。

許多工作者表示公司已制定生成式 AI 的使用準則,但實際上 92% 的 AI 使用者表示,他們已經洩漏了公司資料。

洩漏資訊不是唯一的風險。許多企業領導者和員工並不清楚何時用生成式 AI 來取代人類決策,何時 AI 只是一項輔助工具。

超過 40% 的員工表示,他們看過生成式 AI 提供不正確的輸出內容。而近一半的員工表示,他們直接使用生成式 AI 所提供的事實或建議來做決策,而無需經過其他人員的審核。此外,十分之一的員工承認,他們會背著老闆使用生成式 AI。而 47% 的 AI 工具用戶表示即使公司嚴格禁止,他們仍會繼續使用它。



潛在的焦慮感


儘管生成式 AI 人工智慧替工作帶來許多便利性與成效,但也引發工作者隱藏的焦慮。

60% 的白領工作者擔心 AI 會取代他們的工作。世界經濟論壇《The World Economic Forum》估計,未來五年全球 23% 的工作將發生結構性的變化,預計將增加 6,900 萬個職位,減少 8,300 萬個工作。相當於減少 1,400 萬個就業機會,即目前就業人口的 2%。

此外,許多工作者表示,在 AI 時代他們感受到更大的工作壓力,擔心失去工作,因此也需要更好更快地完成工作。

約 26% 的人表示,AI 人工智慧工具增加了人們的期待,認為他們可以更快地完成更多工作,無論可能與否。同時,根據美國心理學會 (American Psychological Association) 的最新數據,這些擔心人工智慧的員工,有 57% 感覺自己的生產力正在下降,超過 40% 則感到自己工作愈來愈沒效率。


而雇主可以透過以下三種方式,來減緩員工對於生成式 AI 所帶來的干擾:

  • 提供優質的教育訓練
  • 發佈明確的生成式 AI 人工智慧的使用準則
  • 改善有關工作資安的訊息傳送方式



如何減輕 AI 對職場的影響


1. 提升員工技能

員工大多有意識到生成式 AI 人工智慧的優缺點。調查顯示,95% 的員工認為應該在未來五年內提升 AI 方面的技能。80% 的白領工作者、76% 的藍領工人和 74% 的粉領職人 (指照護相關工作者,如社工、老師、護理人員、保姆等),希望公司能夠提供相關的職訓。

近三分之一的受訪者表示,他們正積極尋求學習機會,來因應 AI 的影響。超過一半的人表示,公司在生成式 AI 方面的教育訓練不足。而超過五分之二的白領和藍領工作者表示,他們在工作場所曾經目睹過 AI 所造成的錯誤。

raw-image

Source: Oliver Wyman Forum Generative AI Survey, October–November 2023, 16 countries, N=15,277 (by collar), N=16,033 (by generation).


2. 明確的使用準則

不只是制定使用準則,要確認能夠有效執行更為重要。

近三分之二的員工表示他們公司的確有制定 AI 使用規則,但員工們仍需要知道如何能夠適當地查詢,找出其中的偏見,同時避免將公司內部資訊公開分享。另外他們也需要檢查是否有抄襲行為等等。


3. 面對人員流失問題

為了防止員工不必要地離職,雇主需要定期與員工做適度的溝通,讓他們了解生成式 AI 將如何影響工作、哪些工作將被取代、強化或轉變,以及對於工作潛在的影響。

有些企業也開始著手調整人才招聘策略。像有些科技公司的職位採遇缺不補,因為這些工作預計在未來將會被生成式人工智慧淘汰取代。

也有公司採取創造新的替代工作,或重新設計工作內容的方式。像 IKEA 提供培訓客服中心人員,成為室內設計顧問。他們讓 AI 機器人來處理一般客戶查詢服務,而讓員工來提供客戶更多居家改善裝修等服務。



企業領導者和員工都正走在這朝向生成式 AI 人工智慧的職場發展路上。

企業主需要持續提供技能升級培訓,讓員工可以不斷更新他們的技能,來因應 AI 帶來的變化。

同時企業需要制定出清楚的遵循規則,以幫助員工了解如何正確使用 AI ,避免潛在的問題發生。

此外,企業要創造與員工合作與反饋的機會,讓他們能夠與公司共同解決問題並一同成長。

最後,企業需要公開透明,確保員工了解 AI 的應用方式以及對工作的影響。如此將有助於建立彼此的信任與良好的工作環境。



(資料來源: World Economic Forum & Oliver Wyman Forum)

留言
avatar-img
留言分享你的想法!
avatar-img
美國人力資源港 - 九思觀點
15會員
92內容數
《九思觀點》與你分享美國職場人力資源、職涯發展的深度見解與實用建議。 我們旨在為臺灣企業與個人提供專業諮詢,協助你順利進入並在美國職場蓬勃發展。透過深刻的分析和最新的趨勢研究,我們將帶你探索人資領域的關鍵議題,提供實用的職涯發展指南,並分享在美國職場取得成功的心得與策略。
2024/08/28
在現在變化迅速的商業環境中,「創造力」已成為領導者不可或缺的重要能力。企業需要不斷湧入創造力,才有機會跟上時代腳步,甚至攀上頂峰。即使你在傳統產業,保持腳踏實地,這並不表示不能發揮創造力,來取得成功。 身為領導者,你不必是有瘋狂想法的人,「提出創意」並不是你的工作,而是「創造一個促進創意發展的環境
Thumbnail
2024/08/28
在現在變化迅速的商業環境中,「創造力」已成為領導者不可或缺的重要能力。企業需要不斷湧入創造力,才有機會跟上時代腳步,甚至攀上頂峰。即使你在傳統產業,保持腳踏實地,這並不表示不能發揮創造力,來取得成功。 身為領導者,你不必是有瘋狂想法的人,「提出創意」並不是你的工作,而是「創造一個促進創意發展的環境
Thumbnail
2024/05/08
什麼是高效率的工作環境?60% 的管理者認為在辦公室工作的效率較高。62% 的員工則覺得在家工作效率更高。 但事實是沒有一種工作環境適合所有人。即使對同一個人來說,某天執行某項任務的完美環境,可能並不適合隔天執行另一項任務的環境。
Thumbnail
2024/05/08
什麼是高效率的工作環境?60% 的管理者認為在辦公室工作的效率較高。62% 的員工則覺得在家工作效率更高。 但事實是沒有一種工作環境適合所有人。即使對同一個人來說,某天執行某項任務的完美環境,可能並不適合隔天執行另一項任務的環境。
Thumbnail
2024/04/20
根據 Gartner 的預測,到 2030 年,80% 的專案管理工作將會由人工智慧完成。 專案經理看到這樣的數據可能會感到憂心。但換個思維與態度,這個趨勢應該被視為一個機會,你會發現 AI 無法完全取代你的工作。它反而會讓你的專案管理工作變得更有效率、更具成效,同時還能提供更深入與前瞻性的見解,
Thumbnail
2024/04/20
根據 Gartner 的預測,到 2030 年,80% 的專案管理工作將會由人工智慧完成。 專案經理看到這樣的數據可能會感到憂心。但換個思維與態度,這個趨勢應該被視為一個機會,你會發現 AI 無法完全取代你的工作。它反而會讓你的專案管理工作變得更有效率、更具成效,同時還能提供更深入與前瞻性的見解,
Thumbnail
看更多
你可能也想看
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
在當今快速發展的技術時代,人工智能 Artificial Intelligence 和機器學習 Machine Learning 已成為推動業務創新和增長的重要力量。從改善客戶服務到優化運營流程,AI和ML的應用範圍日益廣泛,為企業創造出前所未有的機會。企業又可如何利用AI和ML提升業務呢?
Thumbnail
在當今快速發展的技術時代,人工智能 Artificial Intelligence 和機器學習 Machine Learning 已成為推動業務創新和增長的重要力量。從改善客戶服務到優化運營流程,AI和ML的應用範圍日益廣泛,為企業創造出前所未有的機會。企業又可如何利用AI和ML提升業務呢?
Thumbnail
從Open AI推出Chat GPT3.5以來,2023年幾乎話題都圍繞著生成AI,在經濟市場上,AI科技股看好看漲,而AI的運用,更是突破大家的想像。 甚至連詐騙集團都趕上AI的風潮。之前節目有針對兩岸詐騙手法與模式作介紹,想進一步瞭解,在AI浪潮之下,兩岸就AI的法律有沒有什麼相應的管制或措施?
Thumbnail
從Open AI推出Chat GPT3.5以來,2023年幾乎話題都圍繞著生成AI,在經濟市場上,AI科技股看好看漲,而AI的運用,更是突破大家的想像。 甚至連詐騙集團都趕上AI的風潮。之前節目有針對兩岸詐騙手法與模式作介紹,想進一步瞭解,在AI浪潮之下,兩岸就AI的法律有沒有什麼相應的管制或措施?
Thumbnail
自從 2022 年 11 月 30 日 ChatGPT 推出後,引發了一場狂熱,世界也就改變了。生成式 AI 在企業中的應用迅速擴展,帶來新的效率與商機。由於企業內部安裝設罝必要安控護欄的速度,遠不及生成式 AI 的使用擴展速度,因此增加企業潛在的風險,並產生巨大的隱憂。
Thumbnail
自從 2022 年 11 月 30 日 ChatGPT 推出後,引發了一場狂熱,世界也就改變了。生成式 AI 在企業中的應用迅速擴展,帶來新的效率與商機。由於企業內部安裝設罝必要安控護欄的速度,遠不及生成式 AI 的使用擴展速度,因此增加企業潛在的風險,並產生巨大的隱憂。
Thumbnail
2024年第一季這波台股與美股的強勢上漲,其實都能歸功於AI這個未來趨勢,不過在AI一片看好之下,也有非常多人對這個產業趨勢感到憂心。
Thumbnail
2024年第一季這波台股與美股的強勢上漲,其實都能歸功於AI這個未來趨勢,不過在AI一片看好之下,也有非常多人對這個產業趨勢感到憂心。
Thumbnail
已經成真的AI生成文字、圖片、音樂、影片,以及接下來更多的AI運用場景,每一項都將對人類社會產生重大的影響:包括抽象的人心、文化、審美、親密關係,以及實質的就業、經濟、生活、生涯規劃等。 本文我會以大量使用、測試AI的經驗,輔以田野調查的經驗,詳細說明AI時代最應該培養的四項能力。
Thumbnail
已經成真的AI生成文字、圖片、音樂、影片,以及接下來更多的AI運用場景,每一項都將對人類社會產生重大的影響:包括抽象的人心、文化、審美、親密關係,以及實質的就業、經濟、生活、生涯規劃等。 本文我會以大量使用、測試AI的經驗,輔以田野調查的經驗,詳細說明AI時代最應該培養的四項能力。
Thumbnail
這篇文章討論了在未來AI時代,人們應該如何善用AI工具,以提升工作效率和競爭力。AI將成為職場的核心競爭力之一,未來對AI的學習和應用能力將成為工作的必需技能。同時,文章提到了AI工具的應用和限制,以及人類在使用AI時需注意的重點。
Thumbnail
這篇文章討論了在未來AI時代,人們應該如何善用AI工具,以提升工作效率和競爭力。AI將成為職場的核心競爭力之一,未來對AI的學習和應用能力將成為工作的必需技能。同時,文章提到了AI工具的應用和限制,以及人類在使用AI時需注意的重點。
Thumbnail
數位化時代中,人工智能(AI)已成為推動創新和進步的關鍵力量。本文探討AI的現狀、挑戰以及未來可能性,並提出負責任地發展和使用AI的思考。
Thumbnail
數位化時代中,人工智能(AI)已成為推動創新和進步的關鍵力量。本文探討AI的現狀、挑戰以及未來可能性,並提出負責任地發展和使用AI的思考。
Thumbnail
人工智慧(AI)的未來展望 在當今這個科技日新月異的時代,人工智慧(AI)已成為推動創新和進步的重要力量。從自動駕駛汽車到精準醫療,AI的應用範圍不斷擴大,其潛力無限。然而,隨著AI技術的快速發展,我們也必須關注其對社會、經濟和倫理的影響。
Thumbnail
人工智慧(AI)的未來展望 在當今這個科技日新月異的時代,人工智慧(AI)已成為推動創新和進步的重要力量。從自動駕駛汽車到精準醫療,AI的應用範圍不斷擴大,其潛力無限。然而,隨著AI技術的快速發展,我們也必須關注其對社會、經濟和倫理的影響。
Thumbnail
許多企業都開始感受到人工智能 (AI, Artificial Intelligence) 的影響,也在思考如何將人工智能整合到整體運營過程中。你公司的文化將影響組織採用人工智能的速度與成功程度。如果做得好,人工智能實際上還可以改善公司文化。
Thumbnail
許多企業都開始感受到人工智能 (AI, Artificial Intelligence) 的影響,也在思考如何將人工智能整合到整體運營過程中。你公司的文化將影響組織採用人工智能的速度與成功程度。如果做得好,人工智能實際上還可以改善公司文化。
Thumbnail
AI 對於這個世界絕對是全新的幫助,也有明確的商業模式 你再也不需要請人寫文案,照片和影像可以即時產出 對於語言和世界的理銞也會變得快速 這一切都在快速地改變世界當中 但其危險的是,隱隱約約有著要泡沬化的步調
Thumbnail
AI 對於這個世界絕對是全新的幫助,也有明確的商業模式 你再也不需要請人寫文案,照片和影像可以即時產出 對於語言和世界的理銞也會變得快速 這一切都在快速地改變世界當中 但其危險的是,隱隱約約有著要泡沬化的步調
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News