我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。
本章涵蓋以下主題:
本章揭示了生成人工智慧模型的力量,GPT 透過 ChatGPT 模型揭示了其意義,例如 GPT 3.5-Turbo 和 GPT-4,主要 OpenAI GPT 模型有 50 多個變體,在這些變體中,一些變體將定期被棄用,並且會出現新的變體。
一旦一項創新成為通用技術,它就會傳播到數千種應用,例如電力、內燃機和電腦的發明,因此,生成式預訓練 Transformers 技術(通常稱為生成式 AI)已開始擴展到許多領域的數千個應用程式。
我們將從通用技術的角度探討 OpenAI 模型、生成式 AI 和應用程式的迷宮,我們將重點放在兩個主要方面:改進和擴散。