Simplismart獲得700萬美元融資，協助企業部署ＡI模型

2024/10/17

隨著生成式人工智慧（Generative AI）的應用加速，OpenAI 預計在明年創造超過 100 億美元的營收。然而，儘管如此，大多數企業仍在部署大型 AI 模型時遇到困難。由於成本高昂且運作複雜，估計約 90% 的機器學習專案無法順利進入生產階段。為了解決這一挑戰，新創公司 Simplismart 宣佈成功完成一輪 700 萬美元的融資，將用於強化其基礎設施及 AI 推論引擎，幫助企業無縫部署 AI 模型。

這家成立於 2022 年的公司由兩位創辦人聯手打造：Amritanshu Jain 曾在 Oracle Cloud 解決雲端基礎設施問題，而 Devansh Ghatak 則在 Google Search 專注於搜尋演算法。在不到 100 萬美元的初期資金下，Simplismart 迅速建立了全球最快的推論引擎，性能超越了 TogetherAI 和 FireworksAI 等競爭者。該推論引擎能夠以閃電般的速度執行機器學習模型，大幅提高效能並降低成本。

Simplismart 的引擎具有極高的運行效能，例如可讓 Llama3.1（8B 模型）在每秒超過 440 個 Token 的吞吐量下運行。大多數競爭對手專注於硬體優化或雲端計算，而 Simplismart 則在軟體層面實現了速度突破，專為內部部署的企業量身打造一體化的 MLOps 平台。

聯合創辦人暨執行長 Amritanshu Jain 表示，當前企業面臨生成式 AI 應用推動進展緩慢的困境，原因在於四個瓶頸：缺乏標準化工作流程、高成本導致投資回報率低、數據隱私問題，以及無法自主管控系統，容易因其他服務限制導致停機。Simplismart 的平台提供了一種類似 Terraform 的聲明式語言，簡化大規模 AI 模型的調整、部署與監控。

這輪由 Accel 領投的 A 輪融資將促進 Simplismart 進一步研發並推動其企業導向的 MLOps 協同平台。Shastra VC、Titan Capital 以及 Notion 的聯合創辦人 Akshay Kothari 等天使投資人也參與了本次融資，金額是上輪融資的十倍以上，將為 Simplismart 帶來更大的技術突破與市場擴展。

https://www.startuphub.ai/inference-engine-simplismart-faster-than-togetherai-and-fireworksai-has-7m/