淺聊AI
閱讀時間約 1 分鐘
https://www.youtube.com/watch?v=wjZofJX0v4M
這是我看過最好的AI科普影片了；現在流行的GPT使用的大語言模型 (large language model, LLM), 是把每一個單字都當作一個高維度向量
- 影片中GPT3共儲存50257個英文單字, 每個單字是一個12288 x 1的向量
然後再藉由大量的模型訓練, 來決定每個英文單字的向量中的值。所謂的模型訓練, 就是餵進大量的已有文本, 藉由預定義的矩陣運算, 讓每個單字對應到的向量, 某種程度上能反應出語意;
- 例如影片中舉例, 訓練之後, 我們把”king”對應的向量減去”queen”的向量, 其結果會非常接近”man”的向量減去”woman”的向量, 類似於把”性別”這樣的語義, 嵌入了12288維向量的其中一維。
而GPT之所以能產生文本, 則是利用maximum likelihood (ML, 最大似然估計)的數學工具; 例如前文是”once upon a”, 那根據這樣的輸入當中每個字的向量, 去推測下一個最可能的字是”time”, 然後重覆這樣的動作。
把資訊數字化然後用數學方法處理的概念, 基本上就是現代訊號處理/通訊的核心, AI/LLM突破的地方在於, 找到一個有效率的訓練方式, 在運算能量夠強大的情況下, 在有限時間用超大型矩陣來訓練/學習海量的文本; 先把近乎無限的運算量, 變成很大但是有限的運算量, 再用高度平行化的矩陣運算, 把這個很大的運算量攤給非常多的運算處理器, 這其實跟AI最早一戰成名的應用: 下圍棋, 有異曲同工之妙。
留言0
查看全部
你可能也想看
Google News 追蹤
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Hi 大家好，我是Ethan😊
相近大家都知道保濕是皮膚保養中最基本，也是最重要的一步。無論是在畫室裡長時間對著畫布，還是在旅途中面對各種氣候變化，保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水，還能提升後續保養品的吸收效率。
曾經，我的保養程序簡單到只包括清潔和隨意上乳液
*等待新一批通膨數據與財報 道瓊終結連三紅
*MWC 開展！聯發科、高通拚場搶 AI 商機 雲達、緯穎新技術上秀
*今年公建預算7,792億創新高 配合能源轉型 油電占35.5%最多
*台股衝關散戶、中實戶點火 融資餘額八天大增112億元
有「土佐小宮島」之稱的「鳴無神社」，也是網路社群上爆紅的美拍景點「海上鳥居」，這個美麗的神社秘境創建於西元460年，當今的社殿建築為西元1663年由第二代土佐藩主山内忠義再建，除了具有歷史文化意義，也是高知當地的能量景點，絕美的風光既能拍視覺美照，也能讓心靈沉靜療癒一番！
「
*鮑爾稱3月降息難、AI概念股摔 那指挫
*FOMC 1月與上次聲明比一比：經濟活動穩步擴張、尚不合適降息
*生成式AI旺、測試設備商愛德萬升財測；台灣銷售暴增
*〈聯發科法說〉今年營收估強勁雙位數成長 迎接下個成長階段
*英特爾狂瀉近12% 標普那指連六紅止步 周線持穩走高
*美上月PCE透露通膨持續降溫 交易員押注Fed於5月開始降息
*AI手機爆紅！聯發科通吃陸廠訂單 法人看好今年將賺逾五個股本
*台積電最快2月6日宣布日本建熊本二廠、美國補貼3月底前到手
電通集團將獨家代理銷售 Gogolook 企業防詐解決方案，以 AI 信任科技主動管理品牌風險，全面守護數位商譽、防範公關危機、主動保護顧客
文、圖／電通行銷傳播集團提供
撐起品牌商譽保護傘，提前防範公關危機並主動保護顧客！信任科技服務商 Gogolook（走著瞧股份有限公司）
看了<AIGC是危機還是轉機？>這篇文章，有所感觸。
當AI能夠做到那個地步，或許也促進人類反思，文學與藝術不再是少數人的專利，而是大眾共有的資源。而文學和藝術不再只是創作者的表現，也可以作為療癒的使用。
這是我最近深刻體會到的。現在，我在文字或藝術創作中，我不再是以表現，而是分享。
政府網路癱瘓、企業個資遭駭等事件在這幾年層出不窮，本篇文章要介紹的公司曾經因其發展潛力從低於100塊一路衝到近 300 元的高價，究竟投資人看到什麼？在未來會有這間公司發展的機會嗎？一次說給你聽。
近日ChatGPT話題熱燒，但AI應用在廣告業已行之有年，比起人類廣告投手在社群平台後台人工圈選受眾，AI演算更能預測高潛力受眾，成功為日本知名教育品牌巧連智創造漂亮業績
社會變革是一個持續的進程，這個進程可能會以各種方式發生，有些方式是人們預測得到的，有些方式則是出人意料的。隨著AI技術的進步和應用，傳統組織的核心是基於權力和層級體系的中心化模式，而去中心化的模式注重平等、協作和創新，更適應當今快速變化的時代。在這樣的變革中，人文思維和創造力將成為越來越重要的核心競
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Hi 大家好，我是Ethan😊
相近大家都知道保濕是皮膚保養中最基本，也是最重要的一步。無論是在畫室裡長時間對著畫布，還是在旅途中面對各種氣候變化，保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水，還能提升後續保養品的吸收效率。
曾經，我的保養程序簡單到只包括清潔和隨意上乳液
*等待新一批通膨數據與財報 道瓊終結連三紅
*MWC 開展！聯發科、高通拚場搶 AI 商機 雲達、緯穎新技術上秀
*今年公建預算7,792億創新高 配合能源轉型 油電占35.5%最多
*台股衝關散戶、中實戶點火 融資餘額八天大增112億元
有「土佐小宮島」之稱的「鳴無神社」，也是網路社群上爆紅的美拍景點「海上鳥居」，這個美麗的神社秘境創建於西元460年，當今的社殿建築為西元1663年由第二代土佐藩主山内忠義再建，除了具有歷史文化意義，也是高知當地的能量景點，絕美的風光既能拍視覺美照，也能讓心靈沉靜療癒一番！
「
*鮑爾稱3月降息難、AI概念股摔 那指挫
*FOMC 1月與上次聲明比一比：經濟活動穩步擴張、尚不合適降息
*生成式AI旺、測試設備商愛德萬升財測；台灣銷售暴增
*〈聯發科法說〉今年營收估強勁雙位數成長 迎接下個成長階段
*英特爾狂瀉近12% 標普那指連六紅止步 周線持穩走高
*美上月PCE透露通膨持續降溫 交易員押注Fed於5月開始降息
*AI手機爆紅！聯發科通吃陸廠訂單 法人看好今年將賺逾五個股本
*台積電最快2月6日宣布日本建熊本二廠、美國補貼3月底前到手
電通集團將獨家代理銷售 Gogolook 企業防詐解決方案，以 AI 信任科技主動管理品牌風險，全面守護數位商譽、防範公關危機、主動保護顧客
文、圖／電通行銷傳播集團提供
撐起品牌商譽保護傘，提前防範公關危機並主動保護顧客！信任科技服務商 Gogolook（走著瞧股份有限公司）
看了<AIGC是危機還是轉機？>這篇文章，有所感觸。
當AI能夠做到那個地步，或許也促進人類反思，文學與藝術不再是少數人的專利，而是大眾共有的資源。而文學和藝術不再只是創作者的表現，也可以作為療癒的使用。
這是我最近深刻體會到的。現在，我在文字或藝術創作中，我不再是以表現，而是分享。
政府網路癱瘓、企業個資遭駭等事件在這幾年層出不窮，本篇文章要介紹的公司曾經因其發展潛力從低於100塊一路衝到近 300 元的高價，究竟投資人看到什麼？在未來會有這間公司發展的機會嗎？一次說給你聽。
近日ChatGPT話題熱燒，但AI應用在廣告業已行之有年，比起人類廣告投手在社群平台後台人工圈選受眾，AI演算更能預測高潛力受眾，成功為日本知名教育品牌巧連智創造漂亮業績
社會變革是一個持續的進程，這個進程可能會以各種方式發生，有些方式是人們預測得到的，有些方式則是出人意料的。隨著AI技術的進步和應用，傳統組織的核心是基於權力和層級體系的中心化模式，而去中心化的模式注重平等、協作和創新，更適應當今快速變化的時代。在這樣的變革中，人文思維和創造力將成為越來越重要的核心競