付費限定

前特斯拉 AI 總監 Andrej Karpathy:如何看待自動駕駛、人形機器人的未來?

閱讀時間約 19 分鐘

Hi 我是 VK~

在電子報中有個主題是「科技人物特寫」,通常會從一個人的視角去看他的選擇和他在一家公司的影響。像過去我們介紹過微軟前任執行長 Steve Ballmer、蘋果執行長 Tim Cook 和國防新創 Anduril 共同創辦人 Palmer Luckey 等人。

在未來可以寫的科技人物中,一直有個很想寫但還沒寫的人,他就是身為 OpenAI 共同創辦人、前特斯拉 AI 總監和 Autopilot Vision 團隊負責人 Andrej Karpathy,同時他也是一位電腦視覺和深度學習領域的專家。

在這期的內容會有:

  • Andrej Karpathy 是誰?過去重要貢獻?
  • 為什麼決定投身教育新創?
  • 為什麼長期看好特斯拉的自動駕駛?🔒
  • 人形機器人的未來 🔒

喜歡這期的內容,歡迎分享給朋友一起訂閱《VK科技閱讀時間》,祝你今天一切順利~


從 Karpathy 的職涯軌跡來看,會發現他是個很有趣的人。

過去他待過 OpenAI、特斯拉,這讓他在討論自動駕駛、機器學習等科技議題上,都會有些獨到見解。現在的他離開這兩家公司,跑出去創了 AI 教育新創 Eureka Labs,還是超過 56 萬訂閱的 Youtuber。

前陣子他有篇推文〈on shortification of "learning"〉,在談學習速成化的現象,他認為「學習不該是有趣的,它不必刻意令人不愉快,但其中最主要的感受應該是付出努力。」

這就像不能期待跟著做完十分鐘運動影片,就會做到跟去健身房進行一次完整訓練的效果是一樣的。如果真的想要學到東西,就需要在心智上有「揮汗的效果」。

很喜歡這篇推文,內容不長卻言簡意賅點出學習的本質,非常推薦閱讀。(也可以鎖定這週三上架最新一集的 Podcast,我們會談到這篇推文,還有我從中獲得的啟發)

這些都讓我很好奇 Karpathy 的選擇、他對這些科技議題的想法。那為什麼想寫,一直沒寫?

Karpathy 非常少接受訪談,在《No Priors》訪談出來前,他最近的訪談是兩年前上 Lex Fridman 的 Podcast。直到前陣子他去上了《No Priors》後,談了很多他對於自動駕駛、AI 模型的未來、AI 時代下的教育等。

想想是個不錯的時機點來介紹 Karpathy 和他對於科技的見解與未來教育的想像。(主要會從這兩集 Podcast 提到的內容延伸討論,其中以《No Priors》為主)

Andrej Karpathy 是誰?為什麼重要?

在介紹 Andrej Karpathy 之前,先來談一下美國電玩遊戲設計師 John Carmack 對他的高度評價:「當我從他的博客文章和他的史丹佛課程中學到了很多東西....當我聽說他真的離開特斯拉時,我當然和其他一百個人一起說,嘿,如果你想和我一起工作,那將是一個榮幸....」。

Carmack 提到的史丹佛課程,是 Karpathy 在 2011-2015 年念史丹佛博士學位時,他設計了第一門關於深度學習課程「CS 231n: Convolutional Neural Networks for Visual Recognition」(CS 231n:視覺辨識中的卷積神經網絡),並且也擔任這個課程中的主要講師。

當時他在博士班主攻自然語言處理、電腦視覺等領域,他的導師正是史丹佛視覺實驗室的李飛飛。他的論文主要在談如何建立一個系統,透過這系統讓神經網路可以識別圖像中的多個離散和特定專案,使用自然語言標記它們並向用戶報告。

這篇論文還提到,開發一個反向工作的系統允許模型可以使用以自然語言表達的使用者描述(像是白色球鞋),並在特定圖像中找到該物件。在他讀博士的這段期間,也在 Google、DeepMind 擔任實習工作、從事深度深度學習等工作。

raw-image

Karpathy 後來比較為人熟知的兩個身分是 OpenAI 共同創辦人、前特斯拉 AI、Autopilot Vision 總監。

  • OpenAI (2015-2017、2023-2024)

他從史丹佛博士班畢業後就和 Sam Altman、Elon Musk 和 Ilya Sutskever 等人一起創辦了OpenAI。他也在 OpenAI 以研究科學家工作了兩年的時間,主要聚焦在深度學習、生成模型、強化學習等領域上。

後來他中間離開五年跑到特斯拉,最近一次回到 OpenAI 主要建立了一個團隊,來改進 ChatGPT 上的 GPT-4。

  • Tesla (2017-2023)

Karpathy 在特斯拉期間擔任 AI、Autopilot Vision 團隊總監。這主要負責內部數據標記、神經網路訓練等,他幾乎為往後特斯拉 FSD 奠定下重要基礎。這時他不僅會直接向馬斯克彙報之外,也需要和主導特斯拉的 Autopilot 硬體部門的 Jim Keller 密切合作。

時間快轉到現在,離開特斯拉、OpenAI 的 Karpathy 在做什麼?

有些評論會半開玩笑地說,Andrej Karpathy 實際上真正想當一名 YouTuber。他的頻道有超過 56 萬人訂閱,每支影片幾乎都會用超過一小時在介紹大型語言模型是什麼,也會教大家可以如何透過 AI 模型實作等內容。

他也表示,「我對教育很有熱情,喜歡教會別人事情」這讓他在離開 OpenAI 後,打造了一間教育新創 Eureka Labs。

raw-image

離開 OpenAI 後,為什麼決定投身教育新創?

接著,想要來聊 Karpathy 對 AI 時代下決定投身教育的看法。

他在離開 OpenAI 和特斯拉後,把重心都放在一家以 AI 為核心的教育平台 Eureka Labs。

Eureka Labs 希望透過 AI 革新學習方式,想讓人人在學習新領域中擁有更理想的體驗。Karpathy 的目標是在之中建立一個完整的課程,讓 Eureka Labs 成為人們學習 AI 時的首選,相關課程他還在規劃中,目前只有 LLM101n 這堂課的大綱,這門課主要教學生建立自己的大型語言模型。

如同他們在官網寫道:「以物理學來說,可以想像與費曼一起學習各種與物理學相關的課程內容,他會指導你完成每一步。」

過去要打造理想的學習體驗,受限於語言、對主題熟悉且有耐心的老師等因素,這些資源都是稀缺的,無法規模化服務更多人。但 Karpathy 認為,「隨著生成式 AI 的最新進展,這種學習體驗感覺很容易做到。」

讓他對教育這領域這麼有熱情,或是願意花幾小時拍各種關於 LLM 等教學內容,有幾個原因:

  • 對賦權人們更感興趣:「我覺得現在很多 AI 都是在嘗試取代人類,導致很多人失業,但我更感興趣的是那些能夠增強人類能力的技術。整體而言,我站在人類這一邊,希望AI 能幫助人類變得更強大,而不是被邊緣化。」
  • 透過 AI 來做到可以教育規模化:Karpathy 提到,他之前在史丹佛的深度學習課程,修課的學生很多,而且陸續幾年內都是爆滿的。現在對他的挑戰是如何將這種課程規模化,覆蓋全球 80 億人,而且是在不同能力、不同語言等的情況下。

那 Karpathy 要如何運用 AI,來解決教育規模化的問題?AI 和真人老師在之中扮演的角色是什麼?

以行動支持創作者!付費即可解鎖
本篇內容共 7531 字、0 則留言,僅發佈於VK科技閱讀時間你目前無法檢視以下內容,可能因為尚未登入,或沒有該房間的查看權限。
    18.0K會員
    59內容數
    Hi,我是 VK~ 好奇科技發展、想看懂科技趨勢和新創的眉角。決定每週記錄下那些我感興趣、還看不懂的事。這裡會聊很多科技公司、新創,他們背後的人物與故事。
    留言0
    查看全部
    發表第一個留言支持創作者!
    VK科技閱讀時間 的其他內容
    Hi 我是 VK~ 在今年上半年我們聊過 iPod 之父 Tony Fadell 的書《創建之道》(Build),當時文章著重在前半段,也就是如何打造職涯、如何開發產品、如何說個好故事等。 書的後半段包含一些很有趣的議題,但距離我有點遠,像是成為執行長、收購和被收購的企業文化轉變等,那時就沒有很
    Hi 我是 VK~ 在 YouTube 打滾十年,累積超過 3 億訂戶的創作者 MrBeast,究竟是如何思考他的內容事業?如何打造病毒式傳播影片? 這兩週在 X 上有份文件不斷被瘋傳,那就是從 MrBeast 內部流出的備忘錄〈How To Succeed At MrBeast Product
    Hi 我是 VK~ 過去我們聊過微軟現任執行長 Satya Nadella,如何透過布局混合實境、量子運算,以及人工智慧三大領域,帶領微軟再次崛起。 讓 Nadella 能夠帶領微軟「刷新未來」的本錢,有部分都得歸功於前任執行長 Steve Ballmer 打下的基礎。 這期我們來聊聊 Ste
    Hi 我是 VK~ 這期來聊聊 YouTube 上的「3C 評測之王」 MKBHD。他在早期是如何成為 YouTuber,到如今建立近 2000 萬訂戶的媒體事業? MKBHD 在十多年的創作生涯中,有什麼是他堅持的原則?他對觀眾的了解,如何幫助他打造科技產品評測的內容?Humane AI Pi
    Hi 我是 VK~ 上月剛好是 Apple WWDC 大會,加上近來有許多 Apple 下任執行長接班人傳言的人選。這也是個蠻好的時機來回顧現任執行長庫克(Tim Cook)他接任蘋果執行長後有哪些創新成功與失敗的地方。 這期主要會聚焦在: 不是「產品人」出身的庫克,為什麼讓賈伯斯親自招募他加
    Hi 我是 VK~ 這週,來聊聊剛落幕的馬斯克天價薪酬方案背後的來龍去脈,為什麼有這方案的出現?2018 年的特斯拉究竟有多糟糕? 最後,也會聊聊一些我對薪酬方案的想法,這背後有個蠻值得討論的延伸議題:「信任」,此外也會討論在高獎金、低底薪的薪資結構下的機會與風險。 喜歡這期的內容,歡迎分享給
    Hi 我是 VK~ 在今年上半年我們聊過 iPod 之父 Tony Fadell 的書《創建之道》(Build),當時文章著重在前半段,也就是如何打造職涯、如何開發產品、如何說個好故事等。 書的後半段包含一些很有趣的議題,但距離我有點遠,像是成為執行長、收購和被收購的企業文化轉變等,那時就沒有很
    Hi 我是 VK~ 在 YouTube 打滾十年,累積超過 3 億訂戶的創作者 MrBeast,究竟是如何思考他的內容事業?如何打造病毒式傳播影片? 這兩週在 X 上有份文件不斷被瘋傳,那就是從 MrBeast 內部流出的備忘錄〈How To Succeed At MrBeast Product
    Hi 我是 VK~ 過去我們聊過微軟現任執行長 Satya Nadella,如何透過布局混合實境、量子運算,以及人工智慧三大領域,帶領微軟再次崛起。 讓 Nadella 能夠帶領微軟「刷新未來」的本錢,有部分都得歸功於前任執行長 Steve Ballmer 打下的基礎。 這期我們來聊聊 Ste
    Hi 我是 VK~ 這期來聊聊 YouTube 上的「3C 評測之王」 MKBHD。他在早期是如何成為 YouTuber,到如今建立近 2000 萬訂戶的媒體事業? MKBHD 在十多年的創作生涯中,有什麼是他堅持的原則?他對觀眾的了解,如何幫助他打造科技產品評測的內容?Humane AI Pi
    Hi 我是 VK~ 上月剛好是 Apple WWDC 大會,加上近來有許多 Apple 下任執行長接班人傳言的人選。這也是個蠻好的時機來回顧現任執行長庫克(Tim Cook)他接任蘋果執行長後有哪些創新成功與失敗的地方。 這期主要會聚焦在: 不是「產品人」出身的庫克,為什麼讓賈伯斯親自招募他加
    Hi 我是 VK~ 這週,來聊聊剛落幕的馬斯克天價薪酬方案背後的來龍去脈,為什麼有這方案的出現?2018 年的特斯拉究竟有多糟糕? 最後,也會聊聊一些我對薪酬方案的想法,這背後有個蠻值得討論的延伸議題:「信任」,此外也會討論在高獎金、低底薪的薪資結構下的機會與風險。 喜歡這期的內容,歡迎分享給
    你可能也想看
    Google News 追蹤
    Thumbnail
    這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
    Thumbnail
    美國總統大選只剩下三天, 我們觀察一整週民調與金融市場的變化(包含賭局), 到本週五下午3:00前為止, 誰是美國總統幾乎大概可以猜到60-70%的機率, 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
    Thumbnail
    從一開始討厭廣告到從事廣告人員,第五代虛擬科技股份有限公司創辦人兼執行長丁俊宏說:「廣告可以看起來很吸睛,但需要好玩有趣的效果」,所以他和團隊提供了很多的技術讓品牌組或廣告組展示廣告的時候,可以用到很多廣告模組。
    Thumbnail
    本文介紹了特斯拉自動駕駛硬體版本的演進,包括 HW3.0、HW4.0 硬體版本在臺灣的抵達和消費者的選擇,硬體與軟體的協同發展,各版本晶片的技術規格及未來發展趨勢等。文章內容深入淺出,對於對特斯拉自動駕駛有興趣的讀者具有參考價值。
    Thumbnail
    隨著生成式 AI 逐漸進入消費、企業端等生活面向,人形機器人的未來也備受關注,究竟這項技術將如何改變人類生活、何時普及?被台灣網友稱為全民老爸的 NVIDIA 執行長黃仁勳,在《TVBS》看板人物節目分享,人形機器人將像今天的汽車一樣普及,可能在 100 年後成為產量最大的機械系統。
    Thumbnail
    COMPUTEX 2024迎來 9 大科技巨頭參與,包括 NVIDIA、Intel 、AMD等。大廠面對 AI 的發展,積極推出高效能處理器產品,並展望 AI 未來的應用潛力。而未來巢的生成式AI對話機器人GeniAuto_X也希望協助企業提升生產力與自動化工作流程,進行數位轉型,並提出應用情境。
    Thumbnail
    每個月其實登錄市場的公司不少,但小火車沒有興趣的,就不會花時間撰文,有興趣的就會特別撰文分享。 晶片大廠輝達(NVIDIA)執行長黃仁勳3月18日在輝達GTC技術大會現場展示具備生成式AI功能的人形機器人,同時發布新一代AI晶片Blackwell B200 GPU,預告更聰明、反應更快
    Thumbnail
    NVIDIA總裁黃仁勳在2024台北電腦展上的演講為未來生活描繪了一個史詩般的場景:一個由數位人類(digital human)主導的未來。簡單來說,在未來每個人都可以擁有一位如鋼鐵人老賈般的數位助理,隨時隨地為我們提供協助。
    Thumbnail
    AMD執行長蘇姿丰為AI PC鋪墊了最好的紅毯,而這股浪潮,如同智慧手機的浪潮般,將是未來難以阻擋的趨勢。
    Thumbnail
    這期來聊聊創業家 Palmer Luckey 的創業歷程,他過去曾成立 Oculus VR、國防科技新創 Anduril。為什麼他會從虛擬實境轉作國防科技的題目?接著,也會談到,為什麼 Facebook(現改為 Meta) 會以 20 億美元收購 Oculus VR?
    Thumbnail
    鴻海近年來的發展在於電動車、數位健康和機器人;無獨有偶,特斯拉也致力於開發人形機器人。究竟這兩間公司做出來的 AI 機器人差在哪裡?這篇文章,我們就來一探究竟。 👉 還不是怪獸科技公司的沙龍會員嗎? 趕快按我,怪獸科技✖️商業人文✖️人生職涯全方位攻略別錯過 👈 最有名的 AI 機器人
    Thumbnail
    這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
    Thumbnail
    美國總統大選只剩下三天, 我們觀察一整週民調與金融市場的變化(包含賭局), 到本週五下午3:00前為止, 誰是美國總統幾乎大概可以猜到60-70%的機率, 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
    Thumbnail
    從一開始討厭廣告到從事廣告人員,第五代虛擬科技股份有限公司創辦人兼執行長丁俊宏說:「廣告可以看起來很吸睛,但需要好玩有趣的效果」,所以他和團隊提供了很多的技術讓品牌組或廣告組展示廣告的時候,可以用到很多廣告模組。
    Thumbnail
    本文介紹了特斯拉自動駕駛硬體版本的演進,包括 HW3.0、HW4.0 硬體版本在臺灣的抵達和消費者的選擇,硬體與軟體的協同發展,各版本晶片的技術規格及未來發展趨勢等。文章內容深入淺出,對於對特斯拉自動駕駛有興趣的讀者具有參考價值。
    Thumbnail
    隨著生成式 AI 逐漸進入消費、企業端等生活面向,人形機器人的未來也備受關注,究竟這項技術將如何改變人類生活、何時普及?被台灣網友稱為全民老爸的 NVIDIA 執行長黃仁勳,在《TVBS》看板人物節目分享,人形機器人將像今天的汽車一樣普及,可能在 100 年後成為產量最大的機械系統。
    Thumbnail
    COMPUTEX 2024迎來 9 大科技巨頭參與,包括 NVIDIA、Intel 、AMD等。大廠面對 AI 的發展,積極推出高效能處理器產品,並展望 AI 未來的應用潛力。而未來巢的生成式AI對話機器人GeniAuto_X也希望協助企業提升生產力與自動化工作流程,進行數位轉型,並提出應用情境。
    Thumbnail
    每個月其實登錄市場的公司不少,但小火車沒有興趣的,就不會花時間撰文,有興趣的就會特別撰文分享。 晶片大廠輝達(NVIDIA)執行長黃仁勳3月18日在輝達GTC技術大會現場展示具備生成式AI功能的人形機器人,同時發布新一代AI晶片Blackwell B200 GPU,預告更聰明、反應更快
    Thumbnail
    NVIDIA總裁黃仁勳在2024台北電腦展上的演講為未來生活描繪了一個史詩般的場景:一個由數位人類(digital human)主導的未來。簡單來說,在未來每個人都可以擁有一位如鋼鐵人老賈般的數位助理,隨時隨地為我們提供協助。
    Thumbnail
    AMD執行長蘇姿丰為AI PC鋪墊了最好的紅毯,而這股浪潮,如同智慧手機的浪潮般,將是未來難以阻擋的趨勢。
    Thumbnail
    這期來聊聊創業家 Palmer Luckey 的創業歷程,他過去曾成立 Oculus VR、國防科技新創 Anduril。為什麼他會從虛擬實境轉作國防科技的題目?接著,也會談到,為什麼 Facebook(現改為 Meta) 會以 20 億美元收購 Oculus VR?
    Thumbnail
    鴻海近年來的發展在於電動車、數位健康和機器人;無獨有偶,特斯拉也致力於開發人形機器人。究竟這兩間公司做出來的 AI 機器人差在哪裡?這篇文章,我們就來一探究竟。 👉 還不是怪獸科技公司的沙龍會員嗎? 趕快按我,怪獸科技✖️商業人文✖️人生職涯全方位攻略別錯過 👈 最有名的 AI 機器人