人工智慧/機器學習（AI/ML）技術及相關應用已經成功地進入各種不同的產業。這些技術現在正應用於電信行動網路，AI/ML技術在改善系統性能、提高效率、增強終端用戶體驗方面創造更多商業價值，同時為5G和下世代行動網路創造新的商業模式。
AI/ML技術可應用在5GS的各個領域中，包括管理和協調（例如MDA）、5GC（例如NWDAF）和NG-RAN。幾乎所有的3GPP工作小組，包括SA和RAN工作組等，都參與AI/ML相關功能的標準化活動。為了支持和促進AI/ML 功能在5GS中的部署和運作，ML模型和AI/ML推理功能需要在其整個生命週期內進行管理。ML模型一旦部署到系統中的功能中，可能會對系統的行為產生直接影響，這可能導致性能的改善或降低。ML模型的能力和性能由其生命週期的每個運作階段（包括訓練、模擬、部署和推理階段）決定，因此AI/ML能力需要在每個階段都可操作與管理。3GPP工作組SA5（簡稱「SA5」）最初開始制定AI/ML管理標準，作為Rel-17管理數據分析（Management Data Analytics, MDA）工作項目的一部分，並得出結論，需要一個通用機制來管理任何類型的AI/ML啟用能力的ML訓練（但不限於管理數據分析）。
Rel-17 MDA標準內容記錄在文件TS 28.104中，而AI/ML管理的標準則單獨記錄在TS 28.105中。在Rel-18中，SA5繼續進行AI/ML管理標準開發工作，從一項專門的全面研究開始，該研究最近已完成並記錄在TR 28.908中。該研究描述了概念和運作工作流程，並涉及廣泛的使用案例（能力）以及相應的潛在需求和解決方案。在成功完成詳細研究後，SA5向前推進並開始了目前正在進行的標準制定。SA5在指定管理AI/ML能力的管理服務方面已取得良好進展。標準制定工作繼續在Rel-18的TS 28.105中記錄。3GPP TS 28.105的Release 18版本計劃在2024年第一季度完成並發布。多廠商互動與解決方案的靈活性將一個廠商的ML模型部署到另一個廠商的功能中是令人擔憂的，可能需要未來進一步的調查和討論，這超出了當前SA5標準的範圍。擔憂在於這種部署可能會導致不可預測的複雜性，包括例如暴露ML模型和相關算法的專有細節，這可能導致ML模型和AI/ML推理功能的潛在安全風險，並為模型重新工程打開大門。因此，SA5同意以更抽象的方式定義ML模型周圍的可管理實體，稱為「ML實體」。ML實體可作為單一複合實體進行管理，它要麼是ML模型，要麼是包含ML模型和ML模型相關元數據的實體。這種抽象化促進並帶來了靈活性，同時仍然能夠實現所需的管理能力。
AI/ML管理能力
AI/ML管理研究（TR 28.908）討論並總結了超過40個與AI/ML管理相關的使用案例，這些案例被分類為AI/ML工作流程中四個相應操作階段的管理能力。以下簡要描述了每個相應操作階段的管理能力。ML訓練管理：允許MnS消費者請求ML實體訓練、使用和控制生產者發起的訓練、為生產者發起的ML實體訓練設置策略（例如，根據AI/ML推理性能觸發ML（再）訓練的條件）、管理ML實體訓練/再訓練過程、訓練性能管理和訓練數據管理。
ML驗證：ML訓練能力還包括驗證，以評估ML實體在驗證數據上執行時的性能，並識別訓練和驗證數據上性能的差異。如果差異不可接受，則需要在向消費者提供並用於推理之前對實體進行調整（再訓練）。
ML測試管理：允許MnS消費者請求ML實體測試，並接收已訓練ML實體的測試結果。它還可能包括選擇ML測試功能使用或報告的特定性能指標的能力。MnS消費者還可能被允許為生產者發起的ML實體測試設置策略（在訓練和驗證之後），並報告結果，或根據ML實體測試性能要求觸發ML實體再訓練。模擬階段的管理能力AI/ML推理模擬：允許MnS消費者請求對特定ML實體或實體進行ML推理模擬（在訓練、驗證和測試之後），以在將其應用於目標操作網路或系統之前評估在模擬環境中的推理性能。
ML推理模擬管理：此能力允許授權的MnS消費者（例如，操作員）管理或控制和監視特定的ML推理模擬過程，例如，啟動、暫停或恢復推理模擬，並接收模擬結果。部署階段的管理能力AI/ML部署控制和監視：將ML實體載入到目標推理功能的能力。它包括在新實體可用時通知消費者，使消費者能夠請求加載ML實體或為此類部署設置策略，並監視部署過程。推理階段的管理能力AI/ML推理控制：允許MnS消費者控制推理，即啟動/停用推理功能和/或ML實體，包括即時啟動、部分啟動、基於排程或策略的啟動，設置推理輸出參數的允許範圍，或執行推理的上下文。
AI/ML推理性能評估：允許MnS消費者監視和評估ML實體或AI/ML推理功能的推理性能。
AI/ML推理協調：使MnS消費者能夠協調AI/ML推理功能，考慮諸如推理功能能力的知識、ML實體的預期和實際運行上下文、AI/ML推理性能、AI/ML推理可信度等方面。例如，MnS消費者可以根據這些推理的預期結果設置觸發特定推理的條件。所有階段的通用管理能力AI/ML可信度管理：允許MnS消費者配置、監視和評估ML實體的可信度。這適用於AI/ML操作工作流程的每個操作階段的ML實體。
Reference
- 3GPP TS 23.288: "Architecture enhancements for 5G System (5GS) to support network data analytics services"
- 3GPP TS 28.104: "Management and orchestration; Management Data Analytics"
- 3GPP TS 28.105: "Management and orchestration; AI/ML management"
- 3GPP TR 28.908: "Study on AI/ML management"
- 3GPP TS 38.300: "NR; NR and NG-RAN Overall description; Stage-2"
- 3GPP TS 38.401: "NG-RAN; Architecture description"
