發揮以小搏大的精神，直接蒸餾法訓練Mistral 7B

Zephyr: Direct Distillation of LM Alignment

Published on Oct 26, Authors:Lewis Tunstall,Edward Beeching,Nathan Lambert,Nazneen Rajani,Kashif Rasul,Younes Belkada,Shengyi Huang,Leandro von Werra,Clémentine Fourrier,Nathan Habib,Nathan Sarrazin,Omar Sanseviero,Alexander M. Rush,Thomas Wolf

前言:

把LLM 7B模型努力做到能和GPT4匹敵的境界，是目前熱門的主題。