去年 AI Pin 和 Rabbit R1 以 AI 結合裝置提出可能顛覆手機作為人類與網路連接最重要的載具的想象,雖然目前因為出貨延遲,加上使用者體驗不佳而負評不斷。但就 AI 模型可能改變市場規則這點,為出貨量持續低於預期,接近飽和的智慧型手機市場,帶來了新的增量市場想象。相信去年應該也有不少人被附在手機上就能生成即時稿的募資廣告給掃到,或是像近期三星手機介紹自帶晶片及 AI 翻譯和修圖的功能, 生成式 AI 將為我們帶來的,是更接近科幻小說描述的人機合一未來,還是這只是資本市場3年一換的割韭菜口號呢?
其實不管是超科幻想象的 AI Pin系列,手機加載 AI 晶片,或是各家電腦品牌摩拳擦掌躍躍欲試的 AI PC , AI +硬體這件事, 最重要的第一性原則就是成本考量。以簡單的例子來說,一般大眾在與 LLM 一起工作的時候,如果是不需要考慮使用成本,比如說免費版 ChatGPT,那麼可能在各種胡言亂語或是突發奇想的來回對話就會越頻繁。當然,免費版都有其相應的限制性,但如果讓使用者知道每次問答將會負擔一個固定的成本,像是每次提問就會被收 0.01 元,可能就會讓使用者開始謹慎起來了。所以要達成普及應用和鼓勵習慣養成,一定要將營運成本降低到可以忽略的程度。
任何一個科技要進入生活,對於習慣的培養都是關鍵,我們看 XR 技術一直以來的發展,難以形成大眾市場的使用習慣就是技術難以普及化的最大挑戰。但技術不可能會是沒有成本的,要通過大型語言模型建立一個服務,在沒有特定的要求之下,需要考慮的成本除了模型的使用費,還有雲端及網路、電費、技術開發及維運的成本,都是應用開發廠商需要能承受及提出更容易普及的定價時,需要考慮的重點。更不用說,現在尚未非常普及,各大模型就已經有塞車造成速度變慢的狀況,若海量連接,如何維持服務穩定的問題。所以全雲端的架構,對於產品普及性來說,絕對不是一個合理的模式。
而 AI +硬體就是試圖將模型輕量化,結合晶片或載具,讓它原生在設備中,既不需要每次取用就產生雲端成本,又能形成雲端地端分散運算。期望能同時解決成本及塞車的問題。但回到原始精神,為了讓模型跟晶片或硬體結合,勢必是不能選擇各家現在發展極為肥大的多模態大模型,甚至一般的大語音模型的大小都難以放在地端。硬體能實現的算力也限制了模型的能力,就算大小符合需求,沒有足夠算力那就是放心酸的,勉強足夠的算力,就像是低階手機運行 3A 遊戲大作,可能暖手的功能比遊戲的功能更強。再者,訓練模型所費不貲,除非像是幾個佛心大公司將 Llama 或是 Grok 這樣的 LLM 做開源, 不然閉源的模型,可能也會打算自己做這筆生意,輪不到硬體廠商來分一杯羹。
但讓我們更實際的來思考一下我們每天需要助理來解決的任務,是否會到非常複雜。曾經有大數據專家說,如果你對於人的行為進行數據追蹤,你會發現人的大部分行為,都有極高的重複性。換句話說,其實我們不會每天都要面對新的問題,我們也不見得都會需要 AI 助理來幫我們解決複雜的問題,但我們更需要它幫我們解決無聊、浪費時間,卻又不得不做的任務,比如,午餐要吃什麼?所以我們或許不是真的需要一個強大多功能的多模態大模型,而是只需要輕量化的模型就能幫我們解決掉很多的任務需求。那麼開源的小模型,在適當的開發下,看起來就能比 Siri 強大許多。
如同前面介紹,相信大家一定能理解原來 AI +硬體這個概念應該不只是市場行銷的話術,或是資本市場圈錢割韭菜的新故事。就算看不懂 AI Pin、Rabbit R1 或是 Limitless Pendant 到底比手機好在哪裡,至少可以理解這個發展方向未來是看起來真的有點機會。相較於考驗 AI 載具的功能有多新奇和具備什麼樣的市場顛覆,還不如思考你希望你的 AI 助理能幫你解決什麼事? 和這些事的價值是否會讓你願意購買?
AI 硬體的殺手級應用目前為止還沒出現,但三星最近以即時翻譯和修圖簡單溝通的 AI 可以讓原本需要用到電腦或是有網路才行的服務,可以通過載具來便利解決。這個點或許就是AI 硬體的殺手級應用應該思考的方向,如何讓大眾理解及願意接受,進一步吸引開發者加入生態系開發出更多的可能性,將會是下一個重要的戰場。
但先不說這些,你現在會願意考慮買個 AI +硬體的設備了嗎?