Transformers
含有「Transformers」共 8 篇內容
全部內容
發佈日期由新至舊
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
首先載入模型：
device = "cuda" if torch.cuda.is_available() else "cpu"
model, preprocess
臺灣專屬的變形金剛
（Transformers）
變形金剛來臺灣後，複製到藍白拖。
可惜我還不會做影片——謹此拋磚引玉。
第一張藍白拖是網路照片。
今天聊一聊由 Yu Bai [1] 於2023年發表的文章，
《Transformers as Statisticians: Provable In-Context Learning with In-Context Algorithm Selection》[2]。
本文章的標題很有意思，
在翻Netflix有什麼片可以看的時候，居然看到《變形金剛》。其實小時候在第二集、第三集、第四集上映的時候都有去看過（不過也超級久，大部分的內容都不記得了，之後再慢慢看回來然後記錄下來），首集倒是一直沒看。
為了提高文字生成影像的品質，openAI 團隊用了三招:
第一招，利用模型將文字"升取樣"，產生出許多描述細節
第二招，用CLIP ViT產生Embeddings，計算Cosine similarities
第三招: 使用GPT4，對生成結果進行評比。
訓練一個專屬於自己的守護神有其重要性，可以幫你個性化的解決問題，例如，如果上班常常解讀每個公司的資產負債表，則你可以利用文中的Fuyu-8b model專門的去學習如何看資產負債表，把你手邊有的案例都讓他學習一遍，這樣未來可以解放雙手，輕鬆上班完成任務。
付費限定
每天有這麼多的金融數據在變化著，做為一個非全職投資人，要如何同時間掌握這麼多經濟數據與新聞報導，替投資理財做下相對正確的判斷，這時候你會需要自己的投資守護神語言模型，藉由新聞與訊息的整理爬蟲，導入自行訓練的守護神語言模型，讓他每天定時產生社論與投資建議，藉由Email 送出來給您參考，省去你不少時間
