作者：Ben Tsai 日期：2025.7.31
前言：
幾乎所有發展AI大模型的世界級企業都聲稱要打造造福全人類且無害的AI。以OpenAI為例，其核心願景：「確保人工通用智慧(AGI: Artificial General Intelligence)造福全人類。公司致力於打造安全、值得信賴且廣泛可及的AGI系統，以提升人類潛能，同時積極降低風險。」換個角度來理解，AI提升生產力造福人類的同時，如何降低使用的風險仍是必要的考量。
本文件彙整兩份重要來源：哈佛大學網頁資料-「Ideas for experimenting with Generative AI」1(以下簡稱「Generative AI實驗指南」)與「中小企業生成式AI法律指引」2(以下簡稱「中小企業AI指引」)，旨在為使用者提供一份詳細的生成式AI應用概覽，著重闡述其伴隨的法律風險與倫理考量，特別是針對臺灣中小企業。生成式AI帶來極大便利與生產力提升的同時，也衍生出個人資料保護、營業秘密、著作權等法律挑戰，以及AI幻覺和偏見等技術限制。本文強調使用者應保有審慎態度，並在應用AI時恪守相關法規與倫理原則。
一、生成式AI的定義與特徵
根據「中小企業AI指引」，引用數位發展部與美國國家標準與技術研究院(NIST)的定義，生成式AI指的是「能夠依據使用者輸入提示進而創造多種形式的輸出，內容包括但不限於文字、圖片、音樂和影片等。」其核心特徵包括：
- 基於大規模數據訓練：生成式AI系統是源於大量數據資料訓練而產生的大規模語言模型(LLM: Large Language Model)。
- 廣泛靈活的應用性：不限於單一產業，具備廣泛的應用潛力。
- 接近人類的創作表現：能夠根據人類指令生成文本、圖片、音樂、影像、語音等內容，表現出接近人類的創作水準。
二、生成式 AI 的應用場景
兩份來源都詳細列舉了生成式AI在不同領域的應用潛力，主要可分為內容創作、效率提升和專業輔助三大面向。
(一) 內容創作與生成
1. 創造新內容：「Generative AI實驗指南」指出AI能「創造故事、詩歌、音樂、圖像、 食譜、旅遊指南、學習指南、課程計畫、調查等更多內容，僅需簡單的自然語言提示，數秒內即可完成。」它也能幫助使用者「產生新想法或擺脫創意瓶頸。」
2. 程式碼生成與偵錯：AI工具能「生成電腦程式碼、識別並修復錯誤，並使用自然語言提示提高程式碼品質和效率。」
3. 試算表公式生成：即使非專家也能利用AI以自然語言提示生成Excel試算表公式，例如「寫一個Excel公式，計算欄位A和B的乘積。」
(二) 效率提升與生產力
1. 搜尋與資訊篩選：由於AI訓練數據的廣泛性，可作為「高階搜尋工具」，快速篩選多方資訊。
2. 文件摘要與資訊整合：生成式 AI 工具可以分析和生成長文件的簡潔摘要，例如研究論文、電子郵件、報告和會議記錄。它也能分析複雜的數據集並綜合其中的信息，例如匯總問卷的開放式回答。
3. 翻譯：能快速翻譯大量文本，但需注意「雖然生成式AI工具在翻譯成英文方面表現良好，但在將英文翻譯成其他語言方面則不盡如人意。」
4. 提升生產力：AI工具可以總結會議記錄、突出關鍵要點，並生成行動項目。
5. 企業流程優化：「中小企業 AI 指引」提到可「針對現行工作流程分析再優化，從而提升整體生產力。」
6. 客服自動化： 利用AI作為客服，進行初步篩選、回覆或拜訪客戶，減少人力成本並提升效率。
(三) 專業輔助與個人發展
1. 審查或強化工作：除了內容創作，AI可以成為編輯和增強寫作的有用夥伴，例如建議改進、查找錯誤、評估流暢度和可讀性。
2. 提升無障礙性：可協助辨識文件問題、建議替代文本和音頻描述，或將語音轉換為文本以進行字幕製作。
3. 員工工作效率與自我學習：「中小企業AI指引」指出AI能「縮短作業時間、語文的翻譯、報告的校對、影音、文本編輯生成、模擬練習、生成式 AI 諮詢、創意的發想、即時知識獲取、跨領域知識整合等。」
4. 計畫預測與評估：協助中小企業預測評估商業模式或加速產品開發，做出更準確的商業決策。
5. 內部討論與決策支持：在內部會議中提供多面向的想法，促進創新思維。
6. 員工培訓與發展： 利用 AI 提供的學習資源和模擬練習，提升員工技能。
三、使用生成式AI的重要考量與限制
兩份來源都高度強調在使用生成式AI時的風險與限制，呼籲使用者務必審慎。
(一) 數據準確性與「幻覺」
1. 不準確、誤導或虛構：「Generative AI實驗指南」提醒：「AI生成的內容可能不準確、誤導或完全虛構，有時稱為「幻覺」。」甚至「一個聊天機器人可以提供聽起來自信、合理的回應，但實際上卻是完全錯誤或嚴重扭曲的。
2. 數據過時或存在偏見：「Generative AI實驗指南」指出，如果AI訓練的數據過時(如GPT-3.5僅訓練到2021年9月的數據)，其輸出將不準確。同樣，如果一個AI模型是基於包含偏見、不公平刻板印象等數據進行訓練的，這些偏見也可能反映在其輸出中。
3. 始終堅持驗證：兩份文件都強調「務必驗證AI生成內容的準確性」。
(二) 法律風險與責任歸屬
「中小企業 AI 指引」特別指出，台灣中小企業對使用生成式AI的風險掌握能力不足，強調其伴隨著營業秘密、個人資料保護和著作權等不確定法律風險。
1. 營業秘密保護
- 洩漏風險：「中小企業 AI 指引」警告：「不論對於中小或新創企業，營業秘密皆須謹慎保護，不應輸入於生成式AI。由於生成式AI為持續不斷訓練的語言模型，但凡輸入相關營業秘密資訊，即可能存有紀錄而被有心人士竊取，造成企業遭受不必要的損失。
- 案例：三星員工將半導體設備測量資料、產品良率、會議內容、敏感程式碼等機密資訊輸入ChatGPT，導致資料外洩，隨後三星禁止員工在內部設備上使用此類服務。
- 建議：建立資料分級制度、加強員工控管與教育訓練、簽署保密協議(NDA)、採用企業版生成式AI系統。
2. 個人資料保護(GDPR、CCPA、PDPA、台灣個資法)
- 隱私洩漏：「Generative AI 實驗指南」強調：「不要將任何機密資料上傳到公開可用的生成式AI工具中。」
- 案例：Google DeepMind的研究顯示，ChatGPT曾因重複特定提示詞而洩漏超過10萬筆個人資料。
- 知情同意原則：「中小企業AI指引」強調，依據歐盟GDPR等法規，「資料的處理必須是透明的，資料主體需要在充分了解的情況下，自主地同意資料的使用，這就是所謂的『知情同意』。」台灣個資法也有相似規定，強調「利用目的明確、取得同意權、機關使用取得最小限度之利用。」
- 建議：企業應告知員工使用生成式AI的影響與後果，並仔細查看使用條款和隱私政策。不宜輸入可直接或間接識別的當事人資料。
3. 著作權問題
- 版權內容：「Generative AI實驗指南」指出：「AI生成的內容可能包含受版權保護的材料，並且根據大學指南，您對任何您發布或提供給他人的AI 生成內容負責。請勿上傳侵犯任何第三方知識產權或其他合法權利內容，也不要要求LLM重寫或複製受版權保護的材料。」
- AI作品的著作權歸屬：「中小企業AI指引」引用我國經濟部智慧財產局的函釋，明確指出：「AI利用人如單純下指令，並未投入精神創作，由生成式AI模型獨立自主運算而生成全新內容，該AI生成內容不受著作權法保護。」且台灣與美國基於相同見解，認為AI不具人格，不能成為著作人。
- 侵權風險：若AI生成內容重製或再現訓練資料中的原始著作，並進行商業利用，可能涉及「重製」等侵權行為。
- 案例：美國 Stephen Thaler 申請由Creativity Machine生成的繪畫版權被拒，理由是缺乏人類作者身份。另有George Carlin聲音被AI模仿用於特輯，以及多位作家控告Anthropic濫用其書籍訓練AI模型侵犯著作權的案例。
- 建議：企業原則上使用資料須注意取得授權。可利用政府或公益資料開放平台、資料交易市集或選擇已獲得授權的企業版AI服務。
(三) 人為判斷與監督的必要性
1. 人為判斷不可或缺：兩份來源都強調人類對AI輸出的最終判斷和監督至關重要。「Generative AI實驗指南」建議：「保留健康的懷疑態度，並理解這些工具可能且經常會出錯。」「中小企業AI指引」也強調「宜對於生成式AI生成之資料再進行人為判斷」，並指出「企業與員工不應過度依賴AI生成的資料，應由專業人員進行最終判斷，以確保輸出內容的準確性及其商業用途的適當性。」
2. 責任歸屬：若AI生成資料涉及侵權，「中小企業AI指引」指出依據台灣消保法和民法，企業經營者和僱用人可能需承擔相關責任。建議企業出於商業目的利用生成式AI時，應設置真人進行內容最終確認。
3. 揭露使用AI：在使用AI作為問答機器人時，應向相對人揭露正在使用AI 系統。
四、人工智慧倫理準則
兩份來源均提及全球和台灣都在積極制定AI倫理準則，以確保AI的發展是負責任和可信賴的。
- 國際共識：歐盟、韓國、美國等國家都已發布相關AI倫理準則，包括「人類監督」、「穩健與安全並可信賴」、「隱私保護及資料治理」、「公平性、不歧視性」、「可解釋性、透明度」、「尊重社會及環境維護」以及「問責制」等原則。
- 台灣《人工智慧基本法草案》：草案規範了相似的倫理原則，包括「永續發展與福祉」、「人類自主」、「隱私保護與資料治理」、「資安與安全」、「透明與可解釋」、「公平與不歧視」和「問責」。
- 提升倫理素養：「中小企業AI指引」建議中小企業應關注政府推動的AI 教育文件或AI倫理文件，並透過內部教育訓練，確保員工在使用生成式 AI前具備基本的人工智慧倫理概念。
結論：
生成式AI具有巨大的潛力，可以極大地提高個人和企業的生產力與創新能力。然而，其快速發展也帶來了複雜的法律和倫理挑戰。因此，在使用這些工具時，所有使用者都應保持高度警惕和審慎，列舉重要注意事項如表1。
表1 使用AI工具必須注意的重要事項
參考資料：
2. 中小企業數位轉型助攻！【生成式AI法律指引】供中小企業下載參考 | 公告訊息 | 焦點消息 | 中華民國全國中小企業總會
