人工智慧與電信網路

更新於 2024/12/07閱讀時間約 7 分鐘

人工智慧/機器學習(AI/ML)技術及相關應用已經成功地進入各種不同的產業。這些技術現在正應用於電信行動網路,AI/ML技術在改善系統性能、提高效率、增強終端用戶體驗方面創造更多商業價值,同時為5G和下世代行動網路創造新的商業模式。

AI/ML技術可應用在5GS的各個領域中,包括管理和協調(例如MDA)、5GC(例如NWDAF)和NG-RAN。幾乎所有的3GPP工作小組,包括SA和RAN工作組等,都參與AI/ML相關功能的標準化活動。為了支持和促進AI/ML 功能在5GS中的部署和運作,ML模型和AI/ML推理功能需要在其整個生命週期內進行管理。ML模型一旦部署到系統中的功能中,可能會對系統的行為產生直接影響,這可能導致性能的改善或降低。ML模型的能力和性能由其生命週期的每個運作階段(包括訓練、模擬、部署和推理階段)決定,因此AI/ML能力需要在每個階段都可操作與管理。3GPP工作組SA5(簡稱「SA5」)最初開始制定AI/ML管理標準,作為Rel-17管理數據分析(Management Data Analytics, MDA)工作項目的一部分,並得出結論,需要一個通用機制來管理任何類型的AI/ML啟用能力的ML訓練(但不限於管理數據分析)。

Rel-17 MDA標準內容記錄在文件TS 28.104中,而AI/ML管理的標準則單獨記錄在TS 28.105中。在Rel-18中,SA5繼續進行AI/ML管理標準開發工作,從一項專門的全面研究開始,該研究最近已完成並記錄在TR 28.908中。該研究描述了概念和運作工作流程,並涉及廣泛的使用案例(能力)以及相應的潛在需求和解決方案。在成功完成詳細研究後,SA5向前推進並開始了目前正在進行的標準制定。SA5在指定管理AI/ML能力的管理服務方面已取得良好進展。標準制定工作繼續在Rel-18的TS 28.105中記錄。3GPP TS 28.105的Release 18版本計劃在2024年第一季度完成並發布。多廠商互動與解決方案的靈活性將一個廠商的ML模型部署到另一個廠商的功能中是令人擔憂的,可能需要未來進一步的調查和討論,這超出了當前SA5標準的範圍。擔憂在於這種部署可能會導致不可預測的複雜性,包括例如暴露ML模型和相關算法的專有細節,這可能導致ML模型和AI/ML推理功能的潛在安全風險,並為模型重新工程打開大門。因此,SA5同意以更抽象的方式定義ML模型周圍的可管理實體,稱為「ML實體」。ML實體可作為單一複合實體進行管理,它要麼是ML模型,要麼是包含ML模型和ML模型相關元數據的實體。這種抽象化促進並帶來了靈活性,同時仍然能夠實現所需的管理能力。

AI/ML管理能力

AI/ML管理研究(TR 28.908)討論並總結了超過40個與AI/ML管理相關的使用案例,這些案例被分類為AI/ML工作流程中四個相應操作階段的管理能力。以下簡要描述了每個相應操作階段的管理能力。

ML訓練管理:允許MnS消費者請求ML實體訓練、使用和控制生產者發起的訓練、為生產者發起的ML實體訓練設置策略(例如,根據AI/ML推理性能觸發ML(再)訓練的條件)、管理ML實體訓練/再訓練過程、訓練性能管理和訓練數據管理。


ML驗證:ML訓練能力還包括驗證,以評估ML實體在驗證數據上執行時的性能,並識別訓練和驗證數據上性能的差異。如果差異不可接受,則需要在向消費者提供並用於推理之前對實體進行調整(再訓練)。


ML測試管理:允許MnS消費者請求ML實體測試,並接收已訓練ML實體的測試結果。它還可能包括選擇ML測試功能使用或報告的特定性能指標的能力。MnS消費者還可能被允許為生產者發起的ML實體測試設置策略(在訓練和驗證之後),並報告結果,或根據ML實體測試性能要求觸發ML實體再訓練。模擬階段的管理能力AI/ML推理模擬:允許MnS消費者請求對特定ML實體或實體進行ML推理模擬(在訓練、驗證和測試之後),以在將其應用於目標操作網路或系統之前評估在模擬環境中的推理性能。


ML推理模擬管理:此能力允許授權的MnS消費者(例如,操作員)管理或控制和監視特定的ML推理模擬過程,例如,啟動、暫停或恢復推理模擬,並接收模擬結果。部署階段的管理能力AI/ML部署控制和監視:將ML實體載入到目標推理功能的能力。它包括在新實體可用時通知消費者,使消費者能夠請求加載ML實體或為此類部署設置策略,並監視部署過程。推理階段的管理能力AI/ML推理控制:允許MnS消費者控制推理,即啟動/停用推理功能和/或ML實體,包括即時啟動、部分啟動、基於排程或策略的啟動,設置推理輸出參數的允許範圍,或執行推理的上下文。


AI/ML推理性能評估:允許MnS消費者監視和評估ML實體或AI/ML推理功能的推理性能。


AI/ML推理協調:使MnS消費者能夠協調AI/ML推理功能,考慮諸如推理功能能力的知識、ML實體的預期和實際運行上下文、AI/ML推理性能、AI/ML推理可信度等方面。例如,MnS消費者可以根據這些推理的預期結果設置觸發特定推理的條件。所有階段的通用管理能力AI/ML可信度管理:允許MnS消費者配置、監視和評估ML實體的可信度。這適用於AI/ML操作工作流程的每個操作階段的ML實體。


Reference

  1. 3GPP TS 23.288: "Architecture enhancements for 5G System (5GS) to support network data analytics services"
  2. 3GPP TS 28.104: "Management and orchestration; Management Data Analytics"
  3. 3GPP TS 28.105: "Management and orchestration; AI/ML management"
  4. 3GPP TR 28.908: "Study on AI/ML management"
  5. 3GPP TS 38.300: "NR; NR and NG-RAN Overall description; Stage-2"
  6. 3GPP TS 38.401: "NG-RAN; Architecture description"
avatar-img
0會員
31內容數
心繫正體中文的科學家,立志使用正體中文撰寫文章。 此沙龍預計涵蓋各項資訊科技知識分享與學習心得
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
風清揚的沙龍 的其他內容
ChatGPT的推出大大加速了大型語言模型在真實世界中的應用。然而,對抗性攻擊或越獄提示可能會觸發模型輸出一些非預期的內容,這些內容很有可能會對用戶造成傷害。
一個好的機器學習模型通常需要大量樣本進行訓練。相比之下,人類學習新概念和技能要快得多,也更有效率。例如:小孩子只需見過幾次貓和鳥就能很快分辨它們。會騎自行車的人很可能在很少甚至沒有示範的情況下就能發現騎摩托車的方法。這樣的生活經驗讓大家想到是否有可能設計一個具有類似特性的機器學習模型: 元學習
大型transformer模型已成為最近的主流,在處理各種不同的任務上都獲得了很好的結果。大型transformer功能強大,但在計算效能和記憶體方面都有極高的要求,這也造成使用transformer大規模解決真實世界任務時的一個大瓶頸。本文嘗試介紹一些最佳化方法來突破這些瓶頸。
前言 許多年前已經有許多研究使用影像處理方法來生成文字,如圖像描述和視覺問答。傳統上,這類系統依賴於物體檢測網絡作為視覺編碼器來捕捉視覺特徵,然後通過文字解碼器生成文字。鑑於大量現有文獻。這篇文章會專注於解決視覺任務的一種方法,即擴展預訓練的通用語言模型,使其能夠處理視覺信號。本文大致將這些視覺語
隨著大語言模型的發展熱潮,如何有效地使用大語言模型成為大眾關心的話題。要學會使用大語言模型不能不了解提示工程 (Prompt Engineering),提示工程也稱為上下文內提示,指的是如何與大型語言模型(Large Language Model, LLM)溝通以引導其行為達到預期結果的方法,而無需
時光回溯至2018年,自然語言處理(Natural Language Processing, NLP)領域開始有了驚人的進展。像OpenAI GPT和BERT這樣的大規模預訓練語言模型在解決各種不同的任務上取得了優異的表現。
ChatGPT的推出大大加速了大型語言模型在真實世界中的應用。然而,對抗性攻擊或越獄提示可能會觸發模型輸出一些非預期的內容,這些內容很有可能會對用戶造成傷害。
一個好的機器學習模型通常需要大量樣本進行訓練。相比之下,人類學習新概念和技能要快得多,也更有效率。例如:小孩子只需見過幾次貓和鳥就能很快分辨它們。會騎自行車的人很可能在很少甚至沒有示範的情況下就能發現騎摩托車的方法。這樣的生活經驗讓大家想到是否有可能設計一個具有類似特性的機器學習模型: 元學習
大型transformer模型已成為最近的主流,在處理各種不同的任務上都獲得了很好的結果。大型transformer功能強大,但在計算效能和記憶體方面都有極高的要求,這也造成使用transformer大規模解決真實世界任務時的一個大瓶頸。本文嘗試介紹一些最佳化方法來突破這些瓶頸。
前言 許多年前已經有許多研究使用影像處理方法來生成文字,如圖像描述和視覺問答。傳統上,這類系統依賴於物體檢測網絡作為視覺編碼器來捕捉視覺特徵,然後通過文字解碼器生成文字。鑑於大量現有文獻。這篇文章會專注於解決視覺任務的一種方法,即擴展預訓練的通用語言模型,使其能夠處理視覺信號。本文大致將這些視覺語
隨著大語言模型的發展熱潮,如何有效地使用大語言模型成為大眾關心的話題。要學會使用大語言模型不能不了解提示工程 (Prompt Engineering),提示工程也稱為上下文內提示,指的是如何與大型語言模型(Large Language Model, LLM)溝通以引導其行為達到預期結果的方法,而無需
時光回溯至2018年,自然語言處理(Natural Language Processing, NLP)領域開始有了驚人的進展。像OpenAI GPT和BERT這樣的大規模預訓練語言模型在解決各種不同的任務上取得了優異的表現。
你可能也想看
Google News 追蹤
Thumbnail
本文探討了複利效應的重要性,並藉由巴菲特的投資理念,說明如何選擇穩定產生正報酬的資產及長期持有的核心理念。透過定期定額的投資方式,不僅能減少情緒影響,還能持續參與全球股市的發展。此外,文中介紹了使用國泰 Cube App 的便利性及低手續費,幫助投資者簡化投資流程,達成長期穩定增長的財務目標。
Thumbnail
本文介紹了人工智慧(AI)及機器學習(ML)的基本概念和關係,探討了數據在機器學習中的重要性,以及深度學習和生成式人工智慧的應用。
Thumbnail
人工智慧是什麼? 人工智慧(Artificial Intelligence, AI) 簡單來說,就是讓機器模仿人類的思考、學習和決策的能力。它就像是一個聰明的電腦程序,可以執行許多原本需要人類智慧才能完成的工作,例如: 語音辨識: 讓電腦聽懂人類的語言,像是 Siri、Google As
Thumbnail
在當今快速發展的技術時代,人工智能 Artificial Intelligence 和機器學習 Machine Learning 已成為推動業務創新和增長的重要力量。從改善客戶服務到優化運營流程,AI和ML的應用範圍日益廣泛,為企業創造出前所未有的機會。企業又可如何利用AI和ML提升業務呢?
人工智能(AI)对人文社会的影响是一个复杂而深远的话题,涉及到技术、伦理、社会结构和文化变迁等多个方面的考量: AI在技術革新 人工智能(AI)在技术革新方面正发挥着越来越重要的作用,对各行各业都产生了深远影响。以下是AI在技术革新中的几个关键领域: 1. 自动化和智能化: AI技
Thumbnail
AI的世界充滿了創新和潛力,涵蓋了許多領域,包括但不限於機器學習,自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的,既帶來了巨大的機遇,也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡,確保AI技術的應用能夠真正造福人類。
了解到現在的生成式AI各有千秋,且能協助的事之多,各家業者有如「電信公司」,遲早會是比較「行動方案」,甚或是拿著不同業者的「多門號」,人人都配有人工智慧了。 我一向不是科技的早期使用者,各家AI我都只用過免費版。 ChatGPT 作為前鋒的GPT,曾請它協助將英文句子潤色、修整文法,以解
Thumbnail
你對 AI 的認識有多少?你在生活或工作上有運用哪些 AI 的應用服務嗎?一起來了解這個目前很夯的議題。 根據 google 對 AI(artificial intelligence,縮寫為AI)的解釋:AI 是人工智慧,定義是打造電腦與機器的科學領域,可以進行推論、學習以及採取行動。這些過往需要
Thumbnail
人工智慧系統正在慢慢影響我們的生活,並在不同的產業和產品中得到應用。目前使用的系統大多是基於狹義人工智慧。狹義人工智慧與通用人工智慧有很大不同。 狹義人工智慧的創建是為了專注於特定任務,一個例子就是聊天機器人。
Thumbnail
本文科普了電信產業導入生成式 AI 的兩大使用範例,以及對生成式 AI 衍生服務的接受度。進一步探討了用戶自動化和網路自動化的重要性,並提出對於電信業導入生成式 AI 的展望。
Thumbnail
第五次工業革命-人工智慧,由易樂和多個人工智慧工具共同創作。 GenAI 的發展與應用:介紹了 GenAI 技術的基本概念和實際案例。 各科技公司的路線總結:分析了各大科技公司在 GenAI 領域的競爭優勢和發展策略。 關鍵應用:概述了 GenAI 技術在各種領域的核心應用和發展前景。
Thumbnail
本文探討了複利效應的重要性,並藉由巴菲特的投資理念,說明如何選擇穩定產生正報酬的資產及長期持有的核心理念。透過定期定額的投資方式,不僅能減少情緒影響,還能持續參與全球股市的發展。此外,文中介紹了使用國泰 Cube App 的便利性及低手續費,幫助投資者簡化投資流程,達成長期穩定增長的財務目標。
Thumbnail
本文介紹了人工智慧(AI)及機器學習(ML)的基本概念和關係,探討了數據在機器學習中的重要性,以及深度學習和生成式人工智慧的應用。
Thumbnail
人工智慧是什麼? 人工智慧(Artificial Intelligence, AI) 簡單來說,就是讓機器模仿人類的思考、學習和決策的能力。它就像是一個聰明的電腦程序,可以執行許多原本需要人類智慧才能完成的工作,例如: 語音辨識: 讓電腦聽懂人類的語言,像是 Siri、Google As
Thumbnail
在當今快速發展的技術時代,人工智能 Artificial Intelligence 和機器學習 Machine Learning 已成為推動業務創新和增長的重要力量。從改善客戶服務到優化運營流程,AI和ML的應用範圍日益廣泛,為企業創造出前所未有的機會。企業又可如何利用AI和ML提升業務呢?
人工智能(AI)对人文社会的影响是一个复杂而深远的话题,涉及到技术、伦理、社会结构和文化变迁等多个方面的考量: AI在技術革新 人工智能(AI)在技术革新方面正发挥着越来越重要的作用,对各行各业都产生了深远影响。以下是AI在技术革新中的几个关键领域: 1. 自动化和智能化: AI技
Thumbnail
AI的世界充滿了創新和潛力,涵蓋了許多領域,包括但不限於機器學習,自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的,既帶來了巨大的機遇,也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡,確保AI技術的應用能夠真正造福人類。
了解到現在的生成式AI各有千秋,且能協助的事之多,各家業者有如「電信公司」,遲早會是比較「行動方案」,甚或是拿著不同業者的「多門號」,人人都配有人工智慧了。 我一向不是科技的早期使用者,各家AI我都只用過免費版。 ChatGPT 作為前鋒的GPT,曾請它協助將英文句子潤色、修整文法,以解
Thumbnail
你對 AI 的認識有多少?你在生活或工作上有運用哪些 AI 的應用服務嗎?一起來了解這個目前很夯的議題。 根據 google 對 AI(artificial intelligence,縮寫為AI)的解釋:AI 是人工智慧,定義是打造電腦與機器的科學領域,可以進行推論、學習以及採取行動。這些過往需要
Thumbnail
人工智慧系統正在慢慢影響我們的生活,並在不同的產業和產品中得到應用。目前使用的系統大多是基於狹義人工智慧。狹義人工智慧與通用人工智慧有很大不同。 狹義人工智慧的創建是為了專注於特定任務,一個例子就是聊天機器人。
Thumbnail
本文科普了電信產業導入生成式 AI 的兩大使用範例,以及對生成式 AI 衍生服務的接受度。進一步探討了用戶自動化和網路自動化的重要性,並提出對於電信業導入生成式 AI 的展望。
Thumbnail
第五次工業革命-人工智慧,由易樂和多個人工智慧工具共同創作。 GenAI 的發展與應用:介紹了 GenAI 技術的基本概念和實際案例。 各科技公司的路線總結:分析了各大科技公司在 GenAI 領域的競爭優勢和發展策略。 關鍵應用:概述了 GenAI 技術在各種領域的核心應用和發展前景。