科技碎碎念 EP16 - AI 是好是壞？深偽詐騙、隱私危機，還有什麼你不知道的？

哈囉！這邊是科技碎碎念，資訊 x AI時代下，我們將從海量的全球新聞與新知中，透過生成式 AI 彙整出精華懶人包，聚焦全球科技關鍵話題，讓您輕鬆透過閱讀或聆聽掌握趨勢變革。

快速重點摘要

人工智慧（AI）的發展與影響
- AI 應用範圍擴大但資安風險劇增：人工智慧正被廣泛應用於資安、搜尋、通訊及內容創作等多個領域，例如 Google 將 Gemini 深度整合到訊息與通話功能中，YouTube 也引入了 AI 搜尋總覽與聊天機器人功能。然而，伴隨這些發展而來的是深偽技術的普及和 AI 代理程式潛在的資安風險，對既有資安體系構成前所未有的挑戰。
- 科技巨頭加速整合 AI 並面臨隱私與倫理質疑：Google 正在將其 AI 模型如 Gemini 整合到核心服務中，例如其將在 2025 年 7 月 7 日讓 Gemini 存取手機通訊功能，即使使用者關閉活動追蹤，這引發了對使用者隱私權的擔憂。同時，市場對 AI 代理程式的期望很高，預計市場規模將在 2032 年達到 1,410 億美元，但專家警告許多宣稱的「代理程式」可能只是舊技術的重新包裝，存在「代理程式洗白」現象。
^{(Image credit: gemini 生成)}
深偽技術與資安挑戰
- 深偽攻擊呈指數級增長，傳統驗證方法失效：深偽詐騙的嘗試次數在 2023 年暴增 3,000%，這意味著攻擊者現在可以輕易地利用 AI 生成的假影片、聲音和影像來模仿真實身份，使得傳統的多因子驗證（MFA）系統難以區分真偽。
- 資安解決方案聚焦於新型防禦：為了應對深偽攻擊，資安產業正在開發先進的 AI 驅動解決方案，包括生物特徵活體偵測、行為分析、多模式驗證和無密碼驗證。這些技術旨在驗證生物特徵樣本是否來自活生生的個人，並透過加密基礎來保護身份，而非依賴可被合成的特徵。
AI 代理程式的機遇與挑戰
- 市場對 AI 代理程式的期望與現實落差：雖然市場對 AI 代理程式的期望很高，預計其市場規模將大幅成長，但 Gartner 指出許多宣稱是「代理程式」的產品實際上是包裝過的腳本或巨集。研究顯示，由於實施失敗和誇大預期，到 2027 年將有 40% 的 AI 代理程式專案被取消。
- 資安漏洞與惡意利用激增：大型語言模型（LLM）應用程式存在嚴重的資安缺陷，例如提示注入和資料外洩，且修復率低。犯罪分子正積極利用這些漏洞，將開源大型語言模型重新包裝成惡意工具，用於生成惡意程式碼、網路釣魚電子郵件和詐欺活動。
模組化手機概念的演變
- 從用戶自訂硬體轉變為用戶可維修：模組化手機的早期概念是讓使用者可以自訂和更換手機的核心元件，例如處理器或記憶體。然而，這種理想因技術和物理限制而未曾實現。現在，模組化手機的定義已經轉變為允許使用者自行維修和更換常見耗損零件，例如電池或螢幕，以延長手機的使用壽命。
- 提升永續性與降低維修成本：新一代的模組化手機，如 Fairphone 和 HMD Skyline，旨在透過讓使用者自行維修來提升產品的永續性，並降低長期的維修成本。

人工智慧的廣泛應用與策略發展

人工智慧在科技產業中正扮演著越來越核心的角色，從搜尋引擎到行動裝置通訊，各大科技公司都在加速其 AI 模型的整合與部署。

Google 在各產品線中積極整合 AI：
- Google Gemini 深度整合行動裝置通訊：從 2025 年 7 月 7 日起，Google 的 Gemini 助理將獲得深度整合，能夠存取手機的通話、訊息、WhatsApp 和實用工具，例如音量控制、手電筒和鬧鐘。這項變更的關鍵在於，即使使用者已關閉了 Gemini 的活動追蹤功能，這些設定仍將預設啟用，且無法透過統一的選項選擇退出，使用者只能手動到 Gemini 應用程式的設定中逐一停用這些應用程式的存取權限。雖然 Google 表示不會將這些請求儲存到 Gemini 活動頁面，也不會用於訓練未來的 AI 模型，但這些資料仍會暫時保留長達 72 小時，以確保服務的可靠性和進行安全檢查。這項策略性舉動表明，Google 正將 Gemini 定位為一個能夠理解複雜請求並跨應用程式執行多步驟任務的「代理程式」，而這需要對個人應用程式的深度整合。
- YouTube 引入 AI 搜尋總覽與聊天機器人：YouTube 正在推出兩項新的生成式 AI 功能。首先是類似 Google 搜尋的 AI 總覽搜尋輪播功能，它將在搜尋結果中顯示來自 YouTube 創作者的相關影片，提供更具情境的替代選項。其次是擴展其對話式 AI 聊天機器人功能，最初僅限於付費訂閱者測試，現在正推廣給更多使用者。這些 AI 驅動的結果旨在使 YouTube 搜尋更具動態性，並提供額外的上下文，以應對 TikTok 在搜尋領域的崛起。這項測試預計將持續到 2025 年 7 月 30 日。
- Google 相簿推出 AI 搜尋優化：Google 相簿的 AI 驅動「Ask Photos」搜尋工具已重新推出並進行了速度提升。過去這項功能在延遲、品質和使用者體驗方面曾有不足。現在，針對「海灘」或「狗」等簡單搜尋，使用者將立即看到結果；而對於更複雜的查詢，Gemini 模型將在背景繼續運作，以尋找最相關的照片或資訊。這項功能已開始向美國境內更多符合資格的使用者開放。
- Google Workspace 推出 AI 驅動的影音工具：Google Workspace 在 2025 年 6 月 25 日公布了一系列新功能，重點在於推動 AI 驅動的生產力工具。其中核心是能夠在 Google Vids 中直接使用 Veo 3 來建立高品質的影片內容，並支援音訊功能，使簡報、訓練材料或行銷資產的製作更加沉浸和精緻。此外，Gemini 應用程式與 Workspace 工具（如 Docs、Sheets 和 Slides）的整合也得到了加強，使其能夠提供更智能、更具上下文感知能力的協助。這項整合使 Gemini 成為 AI 驅動生產力的核心樞紐，是邁向人工智慧代理程式工作流程的關鍵一步。
- Google 搜尋可指定偏好新聞來源：Google 正在測試一項新實驗性功能「偏好來源」，這項功能目前在美國和印度向使用者開放，允許他們在 Google 搜尋的「熱門報導」中指定其信任和喜愛的新聞網站。一旦使用者選定偏好來源，這些來源的最新文章和貼文將在相關搜尋查詢中更頻繁地顯示出來，並明確標示。這項功能旨在提供更個人化的搜尋體驗，並仍在「搜尋實驗室」中進行實驗性測試。
其他主要科技公司在 AI 領域的動態：
- Meta 在 AI 領域持續投入大量資金，其執行長 Mark Zuckerberg 將 AI 視為他一生中最大的技術趨勢，並認為不成為主要參與者就會被淘汰，即使付出巨大代價也要避免。儘管 Meta 承諾繼續發展開源模型 Llama，但內部曾討論減少對其的投資，轉而支持 OpenAI 和 Anthropic 等競爭對手的閉源模型。Meta 承認市場對 AI 人才的競爭激烈，並有來自 OpenAI 的資深人才正在加入其團隊，但否認向 OpenAI 員工提供 1 億美元的簽約獎金。
- Anthropic 的 Claude AI 代理程式，特別為高信任企業環境設計，擅長處理複雜的工作流程和結構化決策。
- i2c 這家公司已將 AI 視為其組織架構中的一個部門，其 AI 代理程式可自動解決 99% 的客戶服務電話，並根據客戶偏好進行個人化溝通。這反映了企業對 AI 代理程式在提升效率和客戶體驗方面的信心。
- Huxe 是一家由前 Google NotebookLM 開發者創立的新創公司，於 2025 年 6 月 5 日推出個人化 AI 音訊服務 Huxe。這款服務可以連接使用者的日曆和電子郵件，生成個人化的口述內容。它提供兩種核心功能：「每日簡報」（Daily Briefing）和「深度播客」（DeepCast）。每日簡報就像一個個人化的即時播客，根據使用者的日程、收件箱和興趣提供每日摘要。深度播客則可以根據使用者選擇的主題或查詢，即時研究可信來源，生成互動式的音訊總覽。Huxe 的共同創辦人表示，他們在開發 NotebookLM 時意識到人們透過音訊學習效果最好，這也是 Huxe 專注於音訊服務的原因。
^{(Image credit: gemini 生成)}

深偽技術帶來的資安危機與應對策略

深偽技術的飛速發展已經從根本上改變了我們對數位信任和身份驗證的理解。這不再是科幻情節，而是當下企業面臨的嚴峻挑戰。

深偽攻擊的急速增長與影響：
- 深偽詐騙嘗試在 2023 年暴增 3,000%，這是一個驚人的數字，表明這類威脅已從過去罕見、高門檻的複雜操作，演變為接近大規模部署的常態性攻擊。
- 造成的經濟損失驚人：Pindrop 的 2024 年《語音智慧與資安報告》估計，僅針對客服中心的深偽詐騙每年就造成約 50 億美元的損失。更廣泛地說，業界分析師預計，深偽相關的全球損失將從 2023 年的 123 億美元飆升至 2027 年的 400 億美元，這代表著每年 32% 的複合成長率，超過了大多數合法商業部門的成長速度。
- 攻擊目標明確，金融相關產業首當其衝：根據 Sumsub 的綜合分析，2023 年偵測到的深偽案件中，加密貨幣產業佔了高達 88%，金融科技公司則佔 8%。這清楚顯示，犯罪分子正集中攻擊那些數位交易和遠端身份驗證最為普遍的領域，因為這些領域更容易變現深偽技術的利用價值。
- 技術門檻持續降低：過去需要大量技術專業知識和昂貴設備才能完成的深偽技術，現在只需透過免費的行動應用程式和線上服務即可實現。暗網上甚至出現了專門銷售詐騙軟體的「小產業」，價格從 20 美元到數千美元不等，這使得高階攻擊能力幾乎對任何有動機的犯罪分子都唾手可得。
- 實際案例層出不窮：例如，英國一家工程公司 Arup 就曾因模仿其執行長聲音和面部特徵的深偽視訊電話，損失了 2,500 萬美元。其他案例還包括攻擊者成功假冒企業高階主管進行視訊會議、創建虛假的客戶服務電話來繞過語音驗證，甚至為虛構的應徵者生成合成身份以進行科技公司面試。
傳統多因子驗證（MFA）面臨的挑戰：
- 傳統 MFA 的運作原理是透過要求使用者提供多種類型的證據來驗證身份，這些證據通常分為三類：「你所知道的」（例如密碼）、「你所擁有的」（例如手機或硬體代幣），以及「你是誰」（例如指紋、臉部或聲音等生物特徵）。理論上，即使攻擊者攻破一個因素，同時攻破多個因素也極其困難。
- 深偽技術可模擬生物特徵，使其難以區分真偽：深偽技術從根本上改變了這一點，它能夠生成合成的生物特徵版本，進而欺騙驗證系統。例如，當攻擊者可以創建一個完美模仿使用者臉部外觀、動作和表情的影片時，臉部辨識系統將面臨難以區分真實使用者與可能更為一致且「完美」的合成版本的挑戰。更進一步的是，相機注入攻擊允許犯罪分子直接在圖像捕獲過程中進行破壞，禁用正常攝影機並替換為預錄或即時合成的視訊串流，從而繞過生物特徵分析。
- 語音驗證亦受到 AI 增強威脅：隨著 AI 驅動的語音合成技術日益複雜，語音驗證系統也面臨類似挑戰。攻擊者現在只需幾秒鐘的錄音，就可以創建逼真的聲音複製，不僅能模仿人聲的基本音色，還能重現說話模式、口音和情感語氣，而這些都是傳統語音驗證系統用來驗證身份的關鍵特徵。
- 行為模式也可能被複製：許多 MFA 系統會納入行為分析作為驗證因素，但這些也正在被 AI 分析所攻破。高階攻擊者可以研究使用者與驗證系統互動的典型模式（例如打字節奏、滑鼠移動模式、裝置處理特徵），並利用機器學習複製這些行為。當驗證系統尋找「正常」使用者行為時，AI 可以生成看起來比實際人類行為更正常和一致的合成行為模式。
- 擊敗多層次冗餘防禦：最令人擔憂的是，深偽攻擊如何擊敗傳統 MFA 的冗餘特性。一個足夠高階的深偽攻擊者可以同時提供多個生物特徵的合成版本，從而潛在地滿足所有驗證要求。例如，一個高階深偽可能同時提供臉部辨識、語音驗證，甚至行為模式，這些都看似來自同一位真實使用者，即使實際使用者並未在場。
- 利用行動惡意軟體規避生物辨識：GoldPickaxe 惡意軟體家族（由資安研究人員發現）展示了攻擊者如何從受感染裝置收集臉部識別資料，並利用這些資料生成深偽影片以繞過銀行應用程式驗證。
AI 驅動的先進防禦對策：
- 生物特徵活體偵測：這是新驗證模式中的第一道防線。與僅將捕獲的特徵與儲存範本進行比較的傳統生物特徵系統不同，活體偵測明確驗證生物特徵樣本是否來自活生生且在場的個人，而非錄音、照片或合成內容。
- - 被動活體偵測：分析深偽技術難以令人信服地複製的細微特徵，例如人體皮膚上的自然光反射模式、面部組織發生的微小動作，以及血流在皮膚下造成的細微顏色變化。
  - 主動活體偵測：採用更具互動性的方法，要求使用者執行特定動作，這些動作對於預錄或合成內容而言難以複製。現代的主動活體偵測已遠超越簡單的「眨眼兩次」或「向左轉頭」等指令。
  - 三維活體分析：利用專業感應器或先進的演算法分析，創建使用者臉部的詳細三維地圖，測量二維深偽難以令人信服地複製的深度、輪廓和空間關係。
- 行為分析：透過分析使用者與驗證系統互動的模式，提供另一個強大的工具來偵測合成驗證嘗試。這些系統建立合法使用者與驗證系統互動的詳細個人檔案，尋找深偽攻擊常伴隨的演算法完美性，而這與自然人類變異性明顯不同。
- 多模式驗證：將多種偵測技術結合起來，創建分層防禦系統，這使得攻擊者更難以擊敗。
- 異常偵測演算法：正在開發中的先進 AI 系統，用於偵測深偽生成過程不可避免留下的細微痕跡。這些偵測演算法分析像素級別的不一致、壓縮偽影、影片序列中的時間異常以及頻域簽名，以區分合成內容和真實記錄。
- 持續驗證：這是一種創新方法，將驗證範圍擴展到初始登入時刻之外。它在使用者與系統互動的整個過程中監控其行為，尋找可能表明帳戶盜用或合成使用者活動的偏差。
- 基於裝置的驗證：這為深偽攻擊必須克服的驗證增加了一層複雜性。這些系統分析用於驗證的裝置特徵，尋找虛擬攝影機、修改影片串流或其他技術指標。
- 無密碼驗證：這代表著對深偽挑戰的戰略性回應，它透過移除深偽攻擊通常利用的共享密碼和可預測的互動模式，提供了一種根本不同的方法。無密碼驗證系統透過建立使用者、裝置和服務之間的密碼學關係來驗證身份，這些關係在數學上不可能被惡意複製。
- - 裝置綁定驗證：透過與特定裝置建立信任關係並持續監控裝置行為和完整性，無密碼系統可以偵測到驗證嘗試是否來自受損或不熟悉的來源。
  - 消除基於知識的驗證：移除需要使用者提供密碼、回答安全問題或回憶特定資訊的傳統驗證因素，從而消除了深偽技術可利用社交工程的機會。
  - 簡化使用者互動：無密碼驗證通常涉及簡單的裝置互動，例如觸摸通知、使用裝置上的指紋掃描器，或透過受信任的應用程式批准請求。
  - 風險基礎驗證：無密碼系統可以根據偵測到的威脅等級和上下文因素調整其安全要求。當系統偵測到可能表明深偽攻擊的指標（例如異常裝置行為或異常使用者互動模式）時，它們可以自動升級到對合成攻擊更具抵抗力的額外驗證方法。

人工智慧代理程式的機會與資安風險

^{(Image credit: gemini 生成)}

人工智慧代理程式被吹捧為企業自動化的未來，然而，在這一波熱潮中，資安專家也敲響了警鐘，指出其實際部署速度遠超我們對其安全性和治理的理解。

AI 代理程式的定義與市場現況：
- Gartner 將 AI 代理程式定義為能夠自主地根據目標進行規劃、行動和即時調整，而無需人類微觀管理。
- 市場研究公司 MarketsandMarkets 預計，AI 代理程式市場將從 2025 年的 138 億美元成長到 2032 年的近 1,410 億美元。這反映了投資者、供應商和企業買家對其前景的巨大熱情。
- 「代理程式洗白」（Agent-washing）現象普遍：Gartner 在其最新報告中指出，許多號稱是 AI 代理程式的產品，實際上只是將舊的自動化腳本或巨集進行包裝，並貼上「代理程式 AI」的標籤。Gartner 估計在數千家 AI 代理程式供應商中，只有約 130 家是「真正」的代理程式。
- 專案失敗率高：Gartner 估計，由於實施失敗和誇大預期，到 2027 年將有 40% 的 AI 代理程式專案被取消。這顯示市場對這些工具的期望過高，而實際應用往往難以實現宣稱的「智能自主決策」。
潛在的資安漏洞與惡意利用：
- 缺乏透明度與可見性：Cobalt 的研究發現，企業部署的大型語言模型（LLM）應用程式通常缺乏對其決策過程的了解，以及這些決策可能如何被利用的透明度。這種「在黑暗中建造」的模式，意味著開發者在沒有足夠資安工具或最佳實踐的情況下，無法預測其「涌現行為」。
- 嚴重的資安缺陷且修復率低：Cobalt 的 2025 年 LLM 應用程式資安報告指出，32% 的測試應用程式存在嚴重資安缺陷，且只有 21% 的缺陷得到修復。相較之下，其他類型的漏洞，如應用程式介面（API）漏洞的修復率超過 75%，雲端漏洞的修復率為 68%。常見問題包括提示注入（prompt injection）、模型阻斷服務（model denial-of-service）和資料外洩漏洞。
- 犯罪分子積極利用 AI 進行攻擊：在防禦者仍在努力建立治理模型和安全部署時，攻擊者已經在利用「越獄」或微調過的大型語言模型來擴大詐欺、網路釣魚和惡意軟體的開發。黑市工具如 WormGPT 和 FraudGPT，就是基於開源模型重新包裝，用於生成惡意程式碼、寫作有說服力的網路釣魚郵件，並指導攻擊者規避資安措施。
- 提示注入攻擊已常態化：這類攻擊透過惡意輸入欺騙模型執行預期外的行為，甚至可以透過操縱外部資料來源來誤導使用者或傳播客製化錯誤資訊。Cisco 指出，提示注入和檢索增強生成（RAG）攻擊已經成為常規操作，這意味著「威脅面正在以比防禦手冊更快的速度擴張」。
- AI 品牌成為攻擊媒介：Kaspersky 的威脅報告顯示，AI 的「熱潮」正被用作誘餌，並不成比例地影響著缺乏專職資安人員的中小型企業。2024 年偵測到超過 30 萬個偽裝成流行協作工具和 AI 品牌的惡意安裝程式，這些檔案透過網路釣魚活動、第三方軟體庫和社群媒體廣告傳播。Kaspersky 強調，「AI 的品牌化本身就是一個攻擊向量」，工具、平台或下載的「智能」外觀足以降低使用者防禦意識。
資安產業的回應與挑戰：
- AI 在資安工具市場中成長迅速，預計將從 2024 年的 250 億美元增長到 2030 年的 940 億美元。
- 資安工具本身的限制：然而，這些工具也伴隨著警告。基於大型語言模型的資安助理仍然容易產生「幻覺」，許多模型監控解決方案的可解釋性有限。
- 缺乏標準與共識：目前對於 AI 代理程式的定義、測試方法以及在高風險環境中如何稽核其行為，仍缺乏統一標準和共識。
- 防禦策略需結合人類專業知識：Flashpoint 強調，將 AI 整合到資安平台中應當「與人類專業知識」合作，並主張透明度、監督和專家解讀是不可或缺的。

模組化手機的演變與永續性

「模組化手機」這個概念多年來其定義已經有了很大的變化，但這種變化是積極正向的，尤其體現在對永續性的關注上。

模組化手機概念的轉變：
- 早期概念（不可行）：幾年前，模組化手機的概念非常吸引人，當時的想法是讓使用者能夠自行配置手機的核心元件，例如選擇處理器、記憶體容量、相機鏡頭等。使用者甚至可以在日後更換這些元件，就像組裝客製化電腦後再升級零件一樣。然而，這種理想從未實現，且坦白說，也從未具有可行性。這是因為手機的核心元件都永久連接在主機板上，若要更換單一零件，往往需要更換整個昂貴的主機板。此外，設計一個輕巧、不易發熱且能輕鬆更換內部元件的電池供電裝置幾乎是不可能的。
- 現今定義（使用者可維修）：儘管早期的概念未能實現，但「模組化」這個名稱卻保留了下來，其定義也隨之改變。現在，當人們談論模組化手機時，指的是那些「使用者可自行維修」的裝置。這意味著使用者不需要工業級工具，就能打開手機並更換一些常見需要更換的零件。
模組化手機的優勢：
- 永續性：與那些難以維修的手機（例如摺疊手機）不同，模組化手機的設計宗旨是為了永續性。生產這些手機的公司會銷售替換零件，例如新的電池或替換螢幕，使用者可以自行使用螺絲起子和吉他撥片在自己的餐桌上更換這些零件。
- 延長使用壽命與降低維修成本：像新款 Fairphone 或 HMD Skyline 等手機，其設計理念就是讓使用者可以更換容易損壞或磨損的零件，從而延長手機的使用壽命。結合某些公司提供的軟體支援，使用者甚至可以使用一支手機長達六七年。這種設計不僅讓使用者可以持續使用他們喜愛的裝置，即使不小心摔壞螢幕或電池耗盡，也能輕鬆購買新零件替換。此外，由於維修過程對使用者而言相對簡單，即使不擅長動手，送到維修店的成本也相對較低。
- 「模組化」與「永續性」同義：可以將「永續」這個詞與「模組化」視為同義詞。這種設計理念對於延長產品生命週期、減少電子垃圾具有重要意義。

結語與未來展望

深偽技術的革命不僅僅是一種新型的網路攻擊，它更標誌著我們必須從根本上重新思考數位信任和身份驗證的時代已經來臨。

AI 攻防戰的加速：人工智慧將持續以加速的步伐推動攻擊複雜性與防禦能力的發展。用來生成深偽內容的機器學習技術，也正被應用於創造更有效的偵測系統，形成一場技術軍備競賽。這意味著企業若要維持有效的資安防禦，其驗證系統必須能夠快速適應這些不斷變化的動態。
法規與標準的發展：全球各地區正逐步制定新的法規，以應對 AI 驅動的攻擊，例如立法要求偵測、披露和預防合成內容。這些法規發展可能會推動更複雜的驗證技術的採用，並為組織的資安規劃帶來新的合規要求。
無密碼驗證的重要性：由於深偽技術從根本上破壞了傳統的密碼和生物特徵驗證系統，無密碼驗證提供了一個根本不同的解決方案，能夠應對深偽挑戰。這種方法透過建立使用者、裝置和服務之間的密碼學關係來驗證身份，這些關係在數學上不可能被惡意複製。
持續監控與改進：面對深偽技術的快速演進，組織需要實施持續監控系統，以偵測新興攻擊技術並相應更新其防禦措施。這包括密切關注新的研究發展，並與積極開發反深偽技術的資安供應商保持合作關係。

資料來源

聽完碎碎念後，記得按讚、收藏、分享喔～，科技碎碎念將繼續為您追蹤最新時事，讓您通勤時、空閒時一樣能持續了解最新關鍵話題，下次見！

請注意，內容由 AI 產生，目前仍處於培訓階段，可能存在邏輯偏差或資訊誤差，內容僅供參考，如有謬誤請以原文資訊為主。