橘子集團近期推出了名為 Vyin AI 的新型人工智慧技術，旨在解決生成式AI中普遍存在的「AI幻覺」問題。這項技術將於2024年第四季正式面向企業市場，並專注於提供有效的AI客服與營運解決方案。
Vyin AI的核心技術
Vyin AI的開發團隊針對AI幻覺的根本原因提出了兩項關鍵技術：
各司其職的大腦架構
- 這一架構將AI的「知識中樞」和「語言中樞」分離，從結構上減少了生成錯誤信息的可能性。
Distilled RAG (D-RAG)架構
- 此架構提升了資料索引與理解的精準度，相較於傳統RAG架構，其精準度提高了76%，最終達到93%。
企業應用與市場前景
Vyin AI的推出旨在解決企業在導入AI過程中面臨的一系列挑戰，包括：
- 風險控管
- 知識導入困難
- 維護資源不足
- 資料安全問題
此外，Vyin AI還具備多項創新特性，如零風險、無痛整合非結構化資料、情緒安撫能力及高度安全性，這些特性將大幅降低企業在運營中的資源投入。
未來展望
橘子集團希望Vyin AI能成為企業數位轉型的重要推手，並計劃在遊戲及娛樂客服、零售業全通路整合以及房地產線上預售等領域提供客製化專案服務。這將幫助企業有效運用AI工具，提高市場競爭力和營收潛力。
Vyin AI 的「各司其職的大腦架構」具體如何運作
Vyin AI的「各司其職的大腦架構」是一種創新的設計，旨在解決生成式AI中常見的幻覺問題。這一架構的具體運作方式可以從以下幾個方面來理解：
架構分工
多中樞系統
- Vyin AI將傳統的單一神經中樞模型轉變為多個專門化的中樞，包括控制、語言、知識、情境和動作五大中樞。這種分工類似於人腦的結構，各個區域負責不同的功能，如動作控制、社交互動和語言理解。
- 每個中樞專注於特定任務，使得整體系統在處理複雜問題時更加靈活和高效。例如，知識中樞專門負責存取和理解資料，而語言中樞則專注於生成自然語言回應。
解決AI幻覺
結構性問題的解決
- 透過將知識中樞和語言中樞分離，Vyin AI能夠減少因信息處理不當而導致的錯誤生成（即AI幻覺）。這種結構性改變使得AI在生成回答時，可以更準確地基於已知的信息進行推理和表達。
- 此外，Vyin AI還自研了Distilled RAG (D-RAG)架構，這是一種資料索引和理解的增強技術。D-RAG架構能夠將非結構化資料進行結構化處理，並將其分類到適合的條目下，類似於為AI建立一個高效的圖書館目錄系統。
效率提升
精準度顯著提高
- 傳統RAG架構的平均精準度約為53%，而D-RAG架構則能提升至93%。這意味著Vyin AI在回答問題時能夠更快速且正確地找到所需的信息，大幅提高了回覆的準確性。
