分享兩個踩坑 AnyLanguageModel 過程中實際遇到的問題與解法。一個我發了熱騰騰的 PR，另一個則是借用相同的 Swift Package 機制來實現切換依賴模組。

學習

職場

以行動支持創作者！付費即可解鎖

軟體開發

📲 本地 AI

13 以 10+ 年 iOS 開發經驗為基礎撰寫，助你在 AI 時代成為更有自信的技術工作者。

❤️ 支持 13 創作！
🤖 AI 工具實戰經驗與深度思考
🧠 軟體開發思維、職涯發展建議
💡 實用技巧與踩坑經驗分享
😔 開發者身心健康與職業傷害

🚥 iOS 本地 AI：利用 Swift Package Traits 切換使用 AnyLanguageModel

AnyLanguageModel 是相容 Foundation Models framework 語法的模型替換套件。理想上能輕鬆替換 Apple Intelligence 的 Foundation Models，換成第三方開源本地模型，或是 OpenAI 等雲端模型。實際狀況如何呢？

Apple Intelligence

模型

OpenAI

🕳️iOS 本地 AI：準備踩坑 AnyLanguageModel

本系列關於 Foundation Models framework 的相關文章即將完結。說明有哪些延伸探索的方向、各種參考資源，並預告把目前所學遷移到其他語言模型。

文章

📗iOS 本地 AI：Foundation Models framework 延伸資料

開發裝置端 AI 功能，測量效能是必要工作。首先介紹 Instruments 如何上手，觀察效能瓶頸。而為了能支援重複測試任意的 @Generable 型別，我寫了一個 SwiftUI View 作為工具，讓你可以快速把要生成的物件與畫面整合起來。

⏱️iOS 本地 AI：衡量 Foundation Models 效能的策略

介紹一些提升使用者體驗的方向，把 context window、guardrail 等重要議題視為使用者體驗設計的一環，並整理各種可能發生的錯誤。妥善處理錯誤，就是提升體驗的機會。

音樂藝文

體驗

設計

🆙iOS 本地 AI：Foundation Models 的限制、錯誤與 UX 設計技巧

語言模型雖然有很多知識，但沒有即時資訊，也不擅長數學計算。如果需要存取模型以外的資訊或運算，我們可以提供呼叫外部的工具。不過，重點是判斷什麼情況才該使用。

資訊

🧮iOS 本地 AI：Foundation Models 的 Tool Calling，真正的問題是什麼時候該用

能輕鬆實現漸進式使用者體驗

為了不讓使用者等待，App 應該漸進地顯示生成的結果。但是，為了達到這個目的，你願意自行拼湊並解析 LLM 吐出過程中的不完整 JSON 字串嗎？太痛苦了。Foundation Models framework 提供給開發者十分優雅的方式避開這個麻煩，而且能直接沿用先前

🛝iOS 本地 AI：不讓使用者乾等，Foundation Models 的 Stream Response

既然 Foundation Models framework 具備結構化輸出的功能，那麼輸入提示詞有沒有類似的機制？有的，Apple 提供了 PromptBuilder，讓開發者輕鬆依照程式條件來調整 prompt，並且能與結構化輸出的 Generable protocol 整合。

結構

🚦iOS 本地 AI：用 PromptBuilder 動態組合 Foundation Models 的 Prompt

就像從 App 端直接定義 Server 回傳的 JSON schema。

🍱iOS 本地 AI：用 Structured Output 功能讓 Foundation Models 回傳你想要的

介紹 Foundation Models 的模型 Availability 檢查方式、使用與研究 Instructions 的方式，並且推薦 Apple 官方教材。

13+

13+