2023 Generative AI 年會總回顧心得：企業導入AI會變怎樣、提出更好的問題｜你與科技的距離 EP8.2

2023/09/13閱讀時間約 9 分鐘

怪獸科技公司第二季，一起培養在快速變化社會的超強適應力！
🔊收聽Podcast｜🙋追蹤怪獸｜📰訂閱怪獸雙週快報｜🤖來找怪獸

焦慮，可說是多數人這半年遇到生成式 AI（GAI）後的寫照。對於 early adopter 是如此，對於把 AI 當另一個 Siri 或 Google 小姐的人亦然。

這次 2023 Generative AI 年會（AIGC 詠唱者年會）過後我最大的感覺就是，與其說是被取代（replace），賦能（empower）、增強（augment），讓人力資源被解放，是 GAI 帶給我們的新機會——但前提是，你要會用。

這篇文章我整理了年會當天，覺得很有啟發的幾個關鍵點和你分享（還有影片連結！），希望看完之後，能讓你對 AI 浪潮有更進一步的認識。

// 先看下面這篇，會更有感覺！
寫給不太用、還在猶豫要不要用AI的你：怪獸科技公司 AI 專題文章大全（2023 最新版）｜你與科技的距離 EP8.1

王政皓｜怪獸科技公司＠2023 AIGC 年會

👇 收聽 Podcast 版本 👇

// 2023 Generative AI 年會（詠唱者年會）今年以「落地應用」為主軸，強調實戰應用。我們期待與會的頂尖學者、科學家、工程師和企業家共同探討生成式人工智慧技術的最新進展，分享在各領域的實際案例。在市場與活動如雨後春筍般湧現的時代，我們期望年會的與會者，不只了解趨勢與觀點，更從真實的「落地應用」案例中，學習如何將技術從 0 走向 1，甚至超越 1 的應用過程。

【怪獸科技公司 AI 專題總目錄：2023 最新版】

面對AI，你會選擇原地防守還是向外探索？Generative AI年會前導心得｜怪獸看科技

【怪獸雙週快報#2】窮忙世代的翻身準則Ｘ成功竟然有公式、面對AI的三大思維掌握人生新高度

【怪獸雙週快報#8】不要再焦慮了！2023 GAI年會+OTPR敏捷工作法、終結平庸，主動權還是在懂的人身上

OpenAI高管第一次在台灣演講＠政大！通用AI的關鍵技術與未來機會｜怪獸科技公司｜你與科技的距離 EP7.1

AI大戰：OpenAI、Google和微軟2C的戰略與未來｜你與科技的距離 EP7.2

我們還需要看新聞嗎？生成式AI對新聞業的影響｜怪獸看科技

曼報客座演講心得Ｘ滿滿AI工具乾貨：未來，我們應該何去何從｜怪獸看科技

GAI 的特色：要會精準下指令！

有了 AI 工具，公司的網站跟服務可以藉由多國語言開發更多潛在客戶，或是讓工作與生活中可以自動化、不想自己做的事情請 AI 代理。

GAI 這樣的大型語言模型（LLM）的特點在於可控與隨機，但畢竟是大量資料訓練出來的，多以生成「預測」為主，創造出來的文本相當沒有記憶點（或者可說是沒有深入的新觀點）。

再者，資訊來源與指令的精確性會大大影響生成內容的狀況。和過去內容農場問題類似，在人人可使用 AI 隨意生成的情況下，勢必有更多需要事實查核的地方。

// 當然就可以用 AI 來查核，像是微軟的 Bing Chat 可人工進行初步網頁查證，比較難的是分辨「不完全正確」的內容，可以另開 ChatGPT 聊天室或是多試幾次，再餵資料、找錯誤。

ChatGPT 實戰課：利用不同資料源打造創新產品／王鵬傑 ExplainThis.io Co-Founder

對於基礎使用者而言，GAI 帶給我們最大的挑戰並非技術本身，而是找到問題的本質拆解流程，用釋出的時間去挑戰更多想做的事情。

以產品開發而言，在人人都有 ChatGPT 的情況下，不同產品間有什麼差別？想打造差異化產品，透過設計思考（design thinking）抓到使用者痛點，用同理心了解他們背後的需求就是一個關鍵。

其中，我們可以透過自然語言處理（NLP）和機器學習常用的 Embedding 提取 data 進行比對（每串文字都會對應到一個向量），更好地理解客戶需求、預測市場趨勢，做出更精確的商業決策。

Enterprise Prompt Engineering／陳照元玉山銀行主任機器學習工程師

LLM 只是一個智能核心，重要的是整合周遭的工程能力。

打造 AI 客服，我們很常想說使用者可能會直接提問，例如說問「本期帳單資訊」，但實際上使用者會講的是「我的信用卡怪怪的」，事前的預測不太可能打中全部用戶的描述狀況，使用 All-in prompt 又難以確保個資不會外洩。

因此，一種解決方式是從生成回應內容去選擇合適的模板（Template-based approach），事先準備好對應 embedding，不改寫、只分類，甚至還是要留守最後一道防線——導引到轉由真人客服回覆。

如果 GPT 回答不如預期，很多時候是 prompt 定義不清或是資訊不明確。當不知道怎麼設計 prompt 時，有一個小訣竅是問 ChatGPT，通常會得到不錯的案例。

打造全體員工 AI 思維／林煒勛與 AmazingTalker 各部門主管

Amazing Talker 的例子可以讓我們見證到新創如何全面導入 AI 到工作流程當中。就連完全沒有 coding 背景的剪輯、行銷和人資，都學習使用 GPT-4 下指令，製作客製化的 AI 夥伴。

以影像製作來說，Amazing Talker 前製拍攝累積的大量素材在後製時要花 10 個小時整理，透過 AI 自動化減少了 50% 的整理素材時間。此外，除了用 AI（Whisper API）來自動產生字幕、用 GPT-4 歸納逐字稿重點外，他們也透過 ChatGPT 編寫自動化程序，以便使用剪輯軟體 Adobe Premiere 製作特效時，也能把 1 分鐘的工時縮短到數秒就搞定。

另一方面，對人資來說，計算員工每月薪資是最花時間的工作，在導入 AI 前，人資團隊全職與兼職人員有 8 位，全公司 100 多位員工一個月的薪資需要 2 個人花 3 天計算，導入 AI 之後，團隊縮減為 5 位，計算薪資只需要 1 個人花 3 小時即可，非常讓人驚嘆 AI 的能耐（以及縮減員工的...）。