Transformer
#Transformer含有「Transformer」共 8 篇內容
全部內容
發佈日期由新至舊
LLM 005｜大語言模型是如何利用Transformer理解語言的？現代大語言模型建構於Transformer結構。
Transformer結構是源自於2017年著名論文 Attention Is All You Need的深度神經網路結構。
原始的Trasformer是為了機器翻譯發展，當初的任務是將英文翻譯成德文與法文。
Transformer
2024-04-27
7
LLM 004｜創建大語言模型需要哪兩個關鍵階段？從頭開始寫大語言模型的程式碼，
是最好理解大語言模型的機制與限制的方風。
從頭開始寫大語言模型的程式碼，可以幫助我們得到預訓練與微調整開源大語言模型架構所需要的知識，並應用到特定領域的數據及以及任務。
客製化大語言模型一般來說比起通用大語言模型有更好的表現。
一個具體的例子是
2024-04-26
4
2024：On-Device AI 發展到哪？2024 年，AI Boom 的第二年，我們總算可以撥開 AI 迷霧，逐一聊聊大型語言模型 (LLM) 的實際應用。On-Device AI 正快速進化，Google Gemini Nano 正式部署上手機，Apple 也發布最新論文彎道超車，改變了手機 AI 的未來發展。
2024-02-15
4
隨心所欲的生成短影音，Zero-Shot VideoPoet by Google ResearchGoogle Research 在2024年給出了令人滿意的新年禮物，這篇論文內的方法，若持續發展下去，可望顛覆整個影音創作產業，未來製作生動的影音動畫，不再是令人頭痛與耗費心力的一件事情，是不是很酷，讓我們一起看看到底是如何做到的。
2024-02-04
8
用一張圖片生成多視角3D，LRM by Hong et al.Transformer被廣泛運用在各種生成式AI，激起了本篇作者的好奇心，是否能用Transformer學到所有先驗知識，足以讓它由一張2D圖片還原3D物件。本篇也從Github上面找到由ZexinHe開源的LRM實作程式，讓有興趣的人可以深入研究。
2024-01-08
11
