AI進展越快,你是恐懼還是興奮?

更新於 發佈於 閱讀時間約 2 分鐘

自從DeepSeek R1發表後,有「AI教母」之稱的李飛飛博士團隊在上週發表了一篇「s1:simple test- time scaling」的論文,網上有「標題黨」寫著「只要50美元就能訓練出自己的本地大模型」


事實上50美元只是租用雲端算力的部分支出,團隊在微調模型時用了16張的H100 GPU,訓練時長只花了26分鐘,一開始使用了阿里的Qwen2.5-32B-Instruct大模型做預訓練,之後再從收集的5.9萬筆數學、科學與推理題目中嚴格篩選出1000筆資料,讓原先「什麼都會一點」的通用大模型,變成科學、數學、生物、物理、化學等科目的「專家模型」


這樣做的成果是讓整個模型的應用聚焦在某些領域上,並且砍掉不相關的數據以節省計算時間並提升反饋效率,這對於想在不同領域做垂直應用的公司可說是一大福音


但反過來說,如果原來想做的應用沒有自己的特色,只是採取跟這篇論文一樣的方法,那很有可能變成先進團隊的碾壓對象,之前的努力也付之一炬


所有的發展總是風險與機會並存,如何利用機會,小步快跑,不懼風險,可能是我們在這個時代求得生存的關鍵方式

avatar-img
7會員
182內容數
世界再紛擾 有你就很好 創業過、失敗過、當過上市公司高管,現在最重要的角色是「父親」 一個中年老爸的生活感受分享
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
親閱誠福的沙龍 的其他內容
當一個人陷入生存線的經濟困境時很容易焦慮,因為心裡所想的都是明天甚至下一頓的飯錢在哪裡,但大腦越焦慮就越無法發揮創造力,所以往往會困在負面的循環,久久無法跳出 以前的我有很長一段時間也是這樣,所有的心思都放在今天的日子怎麼生存下來,無法對未來有更好的憧憬,也完全沒有創造力⋯⋯
「老師,你會想要被AI統治嗎?」 這是今天早上上課,一位高三的學生在我們聊到AI的日常使用方式時,突然提出的問題 我先反問了她的想法,她覺得如果不用學這些繁重的課業(特別是數學😅),被AI統治感覺好像也沒什麼不好 我接著問她那AI養著我們人類的動機是什麼?
這次的新年假期過得有些驚險,因為在大年初三從姐姐家要回到我們家時,在高速公路上發生了意外車禍,我因為煞車不及撞上了前車,當時小小編就坐在副駕駛座熟睡著 不過雖然撞上的那一剎那有點嚇人,還好我們跟前車一家人都平安無事,只要人沒事,其他就是小事,所以我還是覺得自己挺幸運的⋯⋯
年假裡除了吃吃喝喝,感受時不時來湊熱鬧的大小地震外,看到最多的新聞莫過於中國發表的開源大語言模型DeepSeek R1,有人說這是中國在前沿科技的一大勝利,也有人說這是開源社區終究會打敗閉源社區的證明 我不是會寫程式的工程師,所以無法針對新模型的演算方法或技術論文加以評論,只能以一個使用者⋯⋯
最近Netflix重新上架30年前最經典的愛情日劇「東京愛情故事」,我是在大一時才第一次看這部劇,當時每週三晚上十點在台視播出,我們宿舍一群大男孩擠在交誼廳,就為了聽到莉香那句甜甜的「丸子」 當劇情演到莉香的坦率、里美的猶豫、完治的優柔、三上的自私時,交誼廳裡總會有此起彼落的嘆息聲⋯⋯
今天是大學學測最後一天,對大部分的考生而言,這場為期數年的征戰在今天考完後算是個小段落,接下來準備各個學校、科系的面試,對父母和學生又是一個挑戰 對於我們這種聯考體系出來的世代,幾乎無一倖免地,每個人都會在已經成年工作多年後,還夢到大學聯考當天自己腦袋一片空白而嚇出一身冷汗,那個年代成長的學生⋯⋯
當一個人陷入生存線的經濟困境時很容易焦慮,因為心裡所想的都是明天甚至下一頓的飯錢在哪裡,但大腦越焦慮就越無法發揮創造力,所以往往會困在負面的循環,久久無法跳出 以前的我有很長一段時間也是這樣,所有的心思都放在今天的日子怎麼生存下來,無法對未來有更好的憧憬,也完全沒有創造力⋯⋯
「老師,你會想要被AI統治嗎?」 這是今天早上上課,一位高三的學生在我們聊到AI的日常使用方式時,突然提出的問題 我先反問了她的想法,她覺得如果不用學這些繁重的課業(特別是數學😅),被AI統治感覺好像也沒什麼不好 我接著問她那AI養著我們人類的動機是什麼?
這次的新年假期過得有些驚險,因為在大年初三從姐姐家要回到我們家時,在高速公路上發生了意外車禍,我因為煞車不及撞上了前車,當時小小編就坐在副駕駛座熟睡著 不過雖然撞上的那一剎那有點嚇人,還好我們跟前車一家人都平安無事,只要人沒事,其他就是小事,所以我還是覺得自己挺幸運的⋯⋯
年假裡除了吃吃喝喝,感受時不時來湊熱鬧的大小地震外,看到最多的新聞莫過於中國發表的開源大語言模型DeepSeek R1,有人說這是中國在前沿科技的一大勝利,也有人說這是開源社區終究會打敗閉源社區的證明 我不是會寫程式的工程師,所以無法針對新模型的演算方法或技術論文加以評論,只能以一個使用者⋯⋯
最近Netflix重新上架30年前最經典的愛情日劇「東京愛情故事」,我是在大一時才第一次看這部劇,當時每週三晚上十點在台視播出,我們宿舍一群大男孩擠在交誼廳,就為了聽到莉香那句甜甜的「丸子」 當劇情演到莉香的坦率、里美的猶豫、完治的優柔、三上的自私時,交誼廳裡總會有此起彼落的嘆息聲⋯⋯
今天是大學學測最後一天,對大部分的考生而言,這場為期數年的征戰在今天考完後算是個小段落,接下來準備各個學校、科系的面試,對父母和學生又是一個挑戰 對於我們這種聯考體系出來的世代,幾乎無一倖免地,每個人都會在已經成年工作多年後,還夢到大學聯考當天自己腦袋一片空白而嚇出一身冷汗,那個年代成長的學生⋯⋯
你可能也想看
Google News 追蹤
Thumbnail
科技發達,AI智能也越來越發達。 蠢孩子,我每篇小說的圖片都是用AI製作的唷!!
https://www.youtube.com/watch?v=wjZofJX0v4M 這是我看過最好的AI科普影片了;現在流行的GPT使用的大語言模型 (large language model, LLM), 是把每一個單字都當作一個高維度向量 影片中GPT3共儲存50257個英文單字, 每
Thumbnail
最新的AI趨勢讓人眼花撩亂,不知要如何開始學習?本文介紹了作者對AI的使用和體驗,以及各類AI工具以及推薦的選擇。最後強調了AI是一個很好用的工具,可以幫助人們節省時間並提高效率。鼓勵人們保持好奇心,不停止學習,並提出了對健康生活和開心生活的祝福。
我們知道AI的作法可以分為Supervised Learning、Unsupervised Learning、Reinforcement Learning,整題區分如下圖: 圖片出處:https://www.superannotate.com/blog/supervised-learning-an
Thumbnail
筆記-曲博談AI模型.群聯-24.05.05 https://www.youtube.com/watch?v=JHE88hwx4b0&t=2034s *大型語言模型 三個步驟: 1.預訓練,訓練一次要用幾萬顆處理器、訓練時間要1個月,ChatGPT訓練一次的成本為1000萬美金。 2.微調(
Thumbnail
ChatGPT剛問世的那陣子,世界各地不約而同,出現許多試著教會AI「1+1=3」的人類。
Thumbnail
0. 剛發現台灣人工智慧學校侯秘書長是強者我同學夫人,他在聯發科搞AI,買股票找誰大家應該知道。 1. 推動AI融入課程(尤其在人社領域)最大的困難和挑戰在於心態mindset的轉變,要由‘人機(二元)對立’換成‘人機協作’。 2. 絕大部分教學現場的問題來自於1.,比如質疑AI會取代人、著
這個頻道將提供以下服務: 深入介紹各種Machine Learning技術 深入介紹各種Deep Learning技術 深入介紹各種Reinforcement Learning技術 深入介紹Probabilistic Graphical Model技術 不定時提供讀書筆記 讓我們一起在未
Thumbnail
這篇文章介紹瞭如何利用生成式AI(GenAI)來提高學習效率,包括文章重點整理、完善知識體系、客製化學習回饋、提供多元觀點等方法。同時提醒使用者應注意內容的信效度,保持學術誠信,適當運用GenAI能大幅提升工作效率。
Thumbnail
數位化時代中,人工智能(AI)已成為推動創新和進步的關鍵力量。本文探討AI的現狀、挑戰以及未來可能性,並提出負責任地發展和使用AI的思考。
Thumbnail
科技發達,AI智能也越來越發達。 蠢孩子,我每篇小說的圖片都是用AI製作的唷!!
https://www.youtube.com/watch?v=wjZofJX0v4M 這是我看過最好的AI科普影片了;現在流行的GPT使用的大語言模型 (large language model, LLM), 是把每一個單字都當作一個高維度向量 影片中GPT3共儲存50257個英文單字, 每
Thumbnail
最新的AI趨勢讓人眼花撩亂,不知要如何開始學習?本文介紹了作者對AI的使用和體驗,以及各類AI工具以及推薦的選擇。最後強調了AI是一個很好用的工具,可以幫助人們節省時間並提高效率。鼓勵人們保持好奇心,不停止學習,並提出了對健康生活和開心生活的祝福。
我們知道AI的作法可以分為Supervised Learning、Unsupervised Learning、Reinforcement Learning,整題區分如下圖: 圖片出處:https://www.superannotate.com/blog/supervised-learning-an
Thumbnail
筆記-曲博談AI模型.群聯-24.05.05 https://www.youtube.com/watch?v=JHE88hwx4b0&t=2034s *大型語言模型 三個步驟: 1.預訓練,訓練一次要用幾萬顆處理器、訓練時間要1個月,ChatGPT訓練一次的成本為1000萬美金。 2.微調(
Thumbnail
ChatGPT剛問世的那陣子,世界各地不約而同,出現許多試著教會AI「1+1=3」的人類。
Thumbnail
0. 剛發現台灣人工智慧學校侯秘書長是強者我同學夫人,他在聯發科搞AI,買股票找誰大家應該知道。 1. 推動AI融入課程(尤其在人社領域)最大的困難和挑戰在於心態mindset的轉變,要由‘人機(二元)對立’換成‘人機協作’。 2. 絕大部分教學現場的問題來自於1.,比如質疑AI會取代人、著
這個頻道將提供以下服務: 深入介紹各種Machine Learning技術 深入介紹各種Deep Learning技術 深入介紹各種Reinforcement Learning技術 深入介紹Probabilistic Graphical Model技術 不定時提供讀書筆記 讓我們一起在未
Thumbnail
這篇文章介紹瞭如何利用生成式AI(GenAI)來提高學習效率,包括文章重點整理、完善知識體系、客製化學習回饋、提供多元觀點等方法。同時提醒使用者應注意內容的信效度,保持學術誠信,適當運用GenAI能大幅提升工作效率。
Thumbnail
數位化時代中,人工智能(AI)已成為推動創新和進步的關鍵力量。本文探討AI的現狀、挑戰以及未來可能性,並提出負責任地發展和使用AI的思考。