我的IBM Watsonx之旅:初次體驗 Prompt Lab 與 LLM 的應用

閱讀時間約 6 分鐘

前言

在這個迅速變化的技術世界裡,AI 已成為推動創新和效率的主要動力之一,最近很幸運得參加了IBM Watsonx 的 workshop,對我來說是一個很好的機會認識企業對於快速導入AI和整合AI應用的平台。IBM Watson 作為AI領域的先驅之一,長久以來一直在智慧型系統和認知計算方面處於領先地位。這次工作坊不僅讓我深入了解Watsonx的強大功能,也讓我對目前AI領域最炙手可熱的技術之一——大型語言模型(LLM)有了更深的認識,並且實作它!

大型語言模型,如OpenAI的ChatGPT,正迅速改變我們與數據、知識和機器互動的方式,這些模型能夠處理和生成人類語言,提供深入見解,甚至創造出令人難以置信的新內容。在 IBM Watsonx工作坊中,我有機會探索這些技術如何與Watson的功能相結合,創造出更加智能、更加個性化的應用場景。

在這篇blog中,我將與你分享我在IBM Watson工作坊中的學習心得,關於WatsonX平台介紹與使用,以及它們如何為企業和個人用戶帶來前所未有的價值。

IBM 三大元件

raw-image

首先是 IBM WatsonX 平台的簡單說明,IBM WatsonX 平台集成了三大關鍵元件——WatsonX.AI、WatsonX.Data、和WatsonX.Governance。這些元件各具特色,共同打造了一個全面的 AI 解決方案環境。在當今大型語言模型(LLM)的快速發展下,這些功能更是為快速訓練和部署AI模型提供了更完整以及便利的支持。

  1. WatsonX.AI: 這是一個專為企業級AI模型設計的開發工具。它支援從傳統機器學習到最新的生成式AI模型的訓練、驗證、調整和部署。借助IBM精選的基礎模型套件以及其合作夥伴Hugging Face的開源模型,企業可以輕鬆建構可信且高效的業務應用模型。同時,透過提供全面的SDK和API函式庫,企業可以快速地使用少量數據建立符合自身需求的AI應用服務。
  2. WatsonX.Data: 專注於提供安全和可靠的數據存儲管理解決方案,它允許用戶在混合雲環境中跨平台訪問數據,並快速連接到各種儲存和分析環境。藉由內建的治理、安全和自動化機制,WatsonX.Data強化了對數據的信任度,並通過將適當的工作負載與最適合的引擎配對,顯著降低數據處理成本,為企業提供更大的靈活性以擴展其AI工作負載和數據應用。
  3. WatsonX.Governance: 隨著AI技術在日常工作流程中的應用越來越廣泛,主動的AI治理變得至關重要,WatsonX.Governance提供AI生命週期的全面治理,包括指導、管理和監控組織內的AI活動。此元件透過軟體自動化識別、管理、監控和報告風險與合規性問題,幫助企業降低風險,並確保符合監管要求,推動企業做出負責任且符合道德的決策。

綜合這三大功能,IBM WatsonX 平台為企業提供了一個強大、靈活且全面的AI解決方案,特別是在整合和推論大型語言模型方面,展現出了其獨特的價值。另外,Watsonx 除了上雲的方案之外,近期可能 release 落地版,值得期待關注。

Prompt lab

工作坊從 Prompt Lab 開始,Prompt Lab 是 IBM WatsonX.AI 平台上的一個功能,專門用於基礎模型(Foundation Models)進行互動和實驗。提供了一個用戶友好的界面,用戶可以在這裡嘗試各種 prompts,並保存及分享他們認為最有效的 prompt 。

我認為這是一個很適合展示以及體驗 WatsonX.AI 的介面,對於了解 LLM 模型應用、或完全沒有使用過的人來說都很適合,提供一個很直覺,可以平台上簡易操作,並且快速獲得輸出與回應,這個介面可以讓人更快認識 WatsonX.AI 。

Prompt Lab的主要功能包括:

  • 實驗提示語:可以嘗試向不同的 Foundation Models 提供 prompt,從而觀察和分析這些 model 的 output 和行為。
  • 探索樣本提示語:用戶可以查看和學習預先設計的 sample prompt,這有助於他們更好地理解如何構造有效的 prompt。
  • 保存和分享提示語:用戶可以保存他們創建的 prompt,並與團隊成員或其他用戶共享這些 prompt。

註冊 IBM Watsons

先在 ibm watsonx 的網站上註冊 IBM cloud ,帳號地區選擇法蘭克福 (eu-de) 和 達拉斯 (us-south),登入後會進入主畫面。

raw-image

Prompt Lab 實作

Prompt lab 中有 sample prompt ,可以隨開即用,包含以下幾大功能,而這幾大功能,也是現今 LLM 大多數人的應用場景,甚至是可以以此為基礎做組合,去應用在更複雜的場景。

    • summarization
    • classification
    • generation
    • extraction
    • question answering
    • code

Prompt lab demo

這幾大功能,也是現今 LLM 大多數人的應用場景,甚至是可以以此為基礎做組合,去應用在更複雜的場景。

raw-image


會議的逐字稿生成摘要

raw-image
raw-image

可以在左大方框填入會議的逐字稿,通過 LLM 在右側生成摘要,那右上方可以切換各種不同的 LLM fundation model ,挑選合適 LLM 也是一門學問,簡單來說:面對簡單的問題不能用太深入的或是太難的模型,他表現不一定比較好。所以可以根據任務內容於上方切換適合的模型,或是依照語言的不同去換各種模型,例如中文的 LLama-2 模型。

分類問題

raw-image

在左方格輸入想要分類的文字,LLM 可以根據文字內容,區分 positive 或是 negative ,那對於 LLM 以及 prompt 比較有效地使用方式,就是給他一些 sample ,將有助於模型理解與完成任務。

raw-image

以上 demo Prompt Lab 幾個功能,經過對IBM Watsonx及其Prompt Lab的深入探索,我們可以清楚地看到,大型語言模型(LLM)在處理各種任務上的強大能力和高效率。從產生摘要到問題解答,LLM在Prompt Lab中展示了其多樣化和靈活性,使我們能夠根據不同的應用場景選擇最合適的功能。這不僅顯著加快了任務完成的速度,而且還提高了整體的工作效率,讓我們能夠更加聚焦於創意和創新。

這次的體驗僅僅是開端,在下一篇文章中,預計分享如何在 Watsonx 平台介接 LLM API 完成各項 project ,進一步拓展我們對於這些令人興奮的技術的理解和應用。
感謝看到這裡的你~我們下次見!

參考資料

24會員
28內容數
歡迎來到《桃花源記》專欄。這裡不僅是一個文字的集合,更是一個探索、夢想和自我發現的空間。在這個專欄中,我們將一同走進那些隱藏在日常生活中的"桃花源"——那些讓我們心動、讓我們反思、讓我們找到內心平靜的時刻和地方
留言0
查看全部
發表第一個留言支持創作者!
你可能也想看
迎新活動「方格新手村」:新格友註冊加入方格子,知名日料吃到飽餐券送給你! 👉 還不是 vocus 的會員嗎?點此註冊,參與新手村活動 👈 近期站上也出現了不少新格友,為了歡迎各位的加入,「方格新手村」隨之登場! 即日起,只要是新註冊帳號於活動期間內發佈 3 則文章,就有機會抽獎獲得知名日料吃到飽餐券。原格友也可以一起同樂,我們準備了小任
Thumbnail
2024-06-21
95
【畫畫日記EP16 】跟日本繪師學上色:自創失敗之後竟然開始畫這個?!哈囉,大家好,我是阿維! 上次跟大家分享我第二次自創插圖大崩很慘,一點也畫不出想要的感覺,有點無力,不過我也因此知道自己越級打怪了,目前的我還沒辦法掌握那麼多物件,我感覺需要從更基本的東西來學上色! 剛好K大頻道上了新的影片,而且是跟上色有關的,然後我就開始畫了幾何體了! 真的沒想到我會畫
Thumbnail
2023-11-03
4
我的台語片奇幻之旅 (一)文|林奎章 2020年,國家電影中心、公共電視及金馬執委會三方合作,率四位年輕導演製作了《4×相識》—四部靈感取材自早期台語片的新創短片。金馬影展的映後座談上,主持人聞天祥老師訪問這些年輕創作人,更早之前是否曾看過台語片?得到的答案多半是上課看過片段、為了這個拍片案才開始有所接觸;聞老師當然借題發揮
Thumbnail
2021-06-04
2
我的自體免疫疾病治療經驗談(類風溼性關節炎、紅斑性狼瘡、乾燥症、克隆氏症...) 我在這邊的文章,都會儘量減少專業術語,好讓大家都能看得懂,並且更了解中醫的治療模式      目前,還沒有很明確的研究能證明自體免疫疾病的機轉,多數科學家認為這是個綜合基因、環境、與荷爾蒙變化而造成的,中醫在這一大項疾病也是有很大的介入空間。      自體免疫疾病可怕的地方,是自己的免疫細胞,會
2021-05-12
1
我的產品經理職涯:專案經理、產品經理到產品行銷的十年奧德賽之旅如果當時我能知道產品經理職涯的全貌,也許我可以少犯很多錯誤 這是Evonne跟你一起PM三點下午茶的第24天,今天Evonne想回答的問題是-- 產品經理的職涯發展是什麼? 這個問題屬於商業思維學院 產品經理系列課程的 #產品經理職涯 問題
Thumbnail
2020-09-24
0
我的廢柴之旅:賭徒默示錄/歡迎加入NHK!開學前的一個月,我又回到頹廢的生活了。 假期到了,朋友們各有各忙,我大部分時間都是一個人渡過。雖然去年的情況也差不多,但那時候我受到失戀的啟發,開始努力做一個「正常人」:逼自己天天寫作和畫畫、參加比賽、去展覽、一點前要睡、溫習英文......當然,現在這些習慣都消失了,甚至,我所有辛苦堅持下來的習慣
Thumbnail
2020-09-03
2
我的信仰之旅祂在我出生時賜我還算出眾的聰智 但祂同時給了我躁鬱症的基因 我的早熟使我早在國中時期便 參不透人生的意義,不知道我活著是 為了什麼,活得像行屍走肉 我的躁鬱症使我在高三那年跳樓 下半身癱瘓,幸而找到良醫 讓我今天至少還能走路 但是,到現在我的身體狀況 變得比以前嚴重 過去十幾年來雙腳開了十幾次的刀
Thumbnail
2020-03-10
2
我的荷蘭職場孕婦生活初體驗懷孕這件事對我來說一直是一件很需要在工作與生活的平衡下才能夠發生的事情,三十歲前的我在台灣時專注追求著職場上的進步與方向,同時觀察著同事懷孕後面臨的職場壓力,職場孕婦生活光是想我就會感到無比的壓力與遙不可及。三十歲後來到荷蘭唸書,一年後畢業加入現在的公司,職場上換了國家換了......
Thumbnail
發佈在
PW的沙龍
2019-11-02
5
我的美睫新體驗,新莊峇舞手作美學/美睫/美體 店家:新莊 峇舞手作美學/美睫/美體 美睫師:Nicole   上週跑去接睫毛啦~~ 記得前年公司的同事們很熱衷於接睫毛,當時公司的女同事們還一起揪團,有揪到一定人數的話就可以請美睫師到公司來幫大家服務,不過當時我沒有跟團,因為我其實平常對睫毛沒有特別的花心思,連睫毛膏都是除非有比較正式的場
Thumbnail
2019-03-31
0
我的閱讀之旅閱讀使我們對身處的世界保持「若即若離」、「既出世又入世」的態度。因為書,我願意投入紅塵奉獻心力;也因為書,我也可以逃回精神心靈的世界,與世無爭,自得其樂。
Thumbnail
2018-08-30
1
我的社區大學初體驗【按】今年秋天,應邀在蘆荻社區大學開設「流行音樂的聽法」這門課,嘗試了一些以前沒有機會實現的想法。以下是第一學期即將結束,寫給校刊「蘆荻醬報」的文字。 老實說,儘管這些年來應邀參加的演講、座談、主持之類活動不能算少,設計連續十七個星期的課表,深入地談流行音樂,於我還真是破天荒第一遭的經驗。 「流
2005-12-22
0
迎新活動「方格新手村」:新格友註冊加入方格子,知名日料吃到飽餐券送給你! 👉 還不是 vocus 的會員嗎?點此註冊,參與新手村活動 👈 近期站上也出現了不少新格友,為了歡迎各位的加入,「方格新手村」隨之登場! 即日起,只要是新註冊帳號於活動期間內發佈 3 則文章,就有機會抽獎獲得知名日料吃到飽餐券。原格友也可以一起同樂,我們準備了小任
Thumbnail
2024-06-21
95
【畫畫日記EP16 】跟日本繪師學上色:自創失敗之後竟然開始畫這個?!哈囉,大家好,我是阿維! 上次跟大家分享我第二次自創插圖大崩很慘,一點也畫不出想要的感覺,有點無力,不過我也因此知道自己越級打怪了,目前的我還沒辦法掌握那麼多物件,我感覺需要從更基本的東西來學上色! 剛好K大頻道上了新的影片,而且是跟上色有關的,然後我就開始畫了幾何體了! 真的沒想到我會畫
Thumbnail
2023-11-03
4
我的台語片奇幻之旅 (一)文|林奎章 2020年,國家電影中心、公共電視及金馬執委會三方合作,率四位年輕導演製作了《4×相識》—四部靈感取材自早期台語片的新創短片。金馬影展的映後座談上,主持人聞天祥老師訪問這些年輕創作人,更早之前是否曾看過台語片?得到的答案多半是上課看過片段、為了這個拍片案才開始有所接觸;聞老師當然借題發揮
Thumbnail
2021-06-04
2
我的自體免疫疾病治療經驗談(類風溼性關節炎、紅斑性狼瘡、乾燥症、克隆氏症...) 我在這邊的文章,都會儘量減少專業術語,好讓大家都能看得懂,並且更了解中醫的治療模式      目前,還沒有很明確的研究能證明自體免疫疾病的機轉,多數科學家認為這是個綜合基因、環境、與荷爾蒙變化而造成的,中醫在這一大項疾病也是有很大的介入空間。      自體免疫疾病可怕的地方,是自己的免疫細胞,會
2021-05-12
1
我的產品經理職涯:專案經理、產品經理到產品行銷的十年奧德賽之旅如果當時我能知道產品經理職涯的全貌,也許我可以少犯很多錯誤 這是Evonne跟你一起PM三點下午茶的第24天,今天Evonne想回答的問題是-- 產品經理的職涯發展是什麼? 這個問題屬於商業思維學院 產品經理系列課程的 #產品經理職涯 問題
Thumbnail
2020-09-24
0
我的廢柴之旅:賭徒默示錄/歡迎加入NHK!開學前的一個月,我又回到頹廢的生活了。 假期到了,朋友們各有各忙,我大部分時間都是一個人渡過。雖然去年的情況也差不多,但那時候我受到失戀的啟發,開始努力做一個「正常人」:逼自己天天寫作和畫畫、參加比賽、去展覽、一點前要睡、溫習英文......當然,現在這些習慣都消失了,甚至,我所有辛苦堅持下來的習慣
Thumbnail
2020-09-03
2
我的信仰之旅祂在我出生時賜我還算出眾的聰智 但祂同時給了我躁鬱症的基因 我的早熟使我早在國中時期便 參不透人生的意義,不知道我活著是 為了什麼,活得像行屍走肉 我的躁鬱症使我在高三那年跳樓 下半身癱瘓,幸而找到良醫 讓我今天至少還能走路 但是,到現在我的身體狀況 變得比以前嚴重 過去十幾年來雙腳開了十幾次的刀
Thumbnail
2020-03-10
2
我的荷蘭職場孕婦生活初體驗懷孕這件事對我來說一直是一件很需要在工作與生活的平衡下才能夠發生的事情,三十歲前的我在台灣時專注追求著職場上的進步與方向,同時觀察著同事懷孕後面臨的職場壓力,職場孕婦生活光是想我就會感到無比的壓力與遙不可及。三十歲後來到荷蘭唸書,一年後畢業加入現在的公司,職場上換了國家換了......
Thumbnail
發佈在
PW的沙龍
2019-11-02
5
我的美睫新體驗,新莊峇舞手作美學/美睫/美體 店家:新莊 峇舞手作美學/美睫/美體 美睫師:Nicole   上週跑去接睫毛啦~~ 記得前年公司的同事們很熱衷於接睫毛,當時公司的女同事們還一起揪團,有揪到一定人數的話就可以請美睫師到公司來幫大家服務,不過當時我沒有跟團,因為我其實平常對睫毛沒有特別的花心思,連睫毛膏都是除非有比較正式的場
Thumbnail
2019-03-31
0
我的閱讀之旅閱讀使我們對身處的世界保持「若即若離」、「既出世又入世」的態度。因為書,我願意投入紅塵奉獻心力;也因為書,我也可以逃回精神心靈的世界,與世無爭,自得其樂。
Thumbnail
2018-08-30
1
我的社區大學初體驗【按】今年秋天,應邀在蘆荻社區大學開設「流行音樂的聽法」這門課,嘗試了一些以前沒有機會實現的想法。以下是第一學期即將結束,寫給校刊「蘆荻醬報」的文字。 老實說,儘管這些年來應邀參加的演講、座談、主持之類活動不能算少,設計連續十七個星期的課表,深入地談流行音樂,於我還真是破天荒第一遭的經驗。 「流
2005-12-22
0