橘子集團解決生成式AI幻覺難題

橘子集團近期推出了名為 Vyin AI 的新型人工智慧技術，旨在解決生成式AI中普遍存在的「AI幻覺」問題。這項技術將於2024年第四季正式面向企業市場，並專注於提供有效的AI客服與營運解決方案。

Vyin AI的核心技術

Vyin AI的開發團隊針對AI幻覺的根本原因提出了兩項關鍵技術：

各司其職的大腦架構

• 這一架構將AI的「知識中樞」和「語言中樞」分離，從結構上減少了生成錯誤信息的可能性。

Distilled RAG (D-RAG)架構

• 此架構提升了資料索引與理解的精準度，相較於傳統RAG架構，其精準度提高了76%，最終達到93%。

這些技術不僅能有效降低AI幻覺的風險，還能在集團旗下多款遊戲中成功應用，驗證過程中生成AI幻覺的風險為零。

企業應用與市場前景

Vyin AI的推出旨在解決企業在導入AI過程中面臨的一系列挑戰，包括：

• 風險控管
• 知識導入困難
• 維護資源不足
• 資料安全問題

此外，Vyin AI還具備多項創新特性，如零風險、無痛整合非結構化資料、情緒安撫能力及高度安全性，這些特性將大幅降低企業在運營中的資源投入。

未來展望

橘子集團希望Vyin AI能成為企業數位轉型的重要推手，並計劃在遊戲及娛樂客服、零售業全通路整合以及房地產線上預售等領域提供客製化專案服務。這將幫助企業有效運用AI工具，提高市場競爭力和營收潛力。

Vyin AI 的「各司其職的大腦架構」具體如何運作

Vyin AI的「各司其職的大腦架構」是一種創新的設計，旨在解決生成式AI中常見的幻覺問題。這一架構的具體運作方式可以從以下幾個方面來理解：

架構分工

多中樞系統

• Vyin AI將傳統的單一神經中樞模型轉變為多個專門化的中樞，包括控制、語言、知識、情境和動作五大中樞。這種分工類似於人腦的結構，各個區域負責不同的功能，如動作控制、社交互動和語言理解。
• 每個中樞專注於特定任務，使得整體系統在處理複雜問題時更加靈活和高效。例如，知識中樞專門負責存取和理解資料，而語言中樞則專注於生成自然語言回應。

解決AI幻覺

結構性問題的解決

• 透過將知識中樞和語言中樞分離，Vyin AI能夠減少因信息處理不當而導致的錯誤生成（即AI幻覺）。這種結構性改變使得AI在生成回答時，可以更準確地基於已知的信息進行推理和表達。
• 此外，Vyin AI還自研了Distilled RAG (D-RAG)架構，這是一種資料索引和理解的增強技術。D-RAG架構能夠將非結構化資料進行結構化處理，並將其分類到適合的條目下，類似於為AI建立一個高效的圖書館目錄系統。

效率提升

精準度顯著提高

• 傳統RAG架構的平均精準度約為53%，而D-RAG架構則能提升至93%。這意味著Vyin AI在回答問題時能夠更快速且正確地找到所需的信息，大幅提高了回覆的準確性。