AI”后浪“强势登场:谷歌发布全球最强开源大模型Gemma

2024/02/22閱讀時間約 4 分鐘

当地时间2月21日,谷歌发布号称“全球性能最强大、轻量级”的新一代开源系列模型Gemma,平均性能远超Llama 13B,一举夺下当今的开源大模型霸主的宝座。

由此,在其多模态大模型Gemini与OpenAI在闭源领域激战正酣之时,谷歌终又以Gemma在开源领域向Meta宣战。


谷歌和Alphabet公司CEO Sundar Pichai表示:“Gemma展示了强大的性能,从今天开始,该模型将在全球范围内提供,并可在笔记本电脑、工作站或谷歌云上运行。” 

谷歌发布Gemma开源大模型

谷歌发布Gemma开源大模型

碾压主流模型 Gemma测试结果优异

参数规格:Gemini同源 多设备运行

官方介绍称,Gemma灵感源于Gemini,由谷歌DeepMind和其他团队合作开发。

不同于Gemini的“全家桶”路线,Gemma主打“轻量级”“高性能”特点,提供了2B(20亿)和7B(70亿)两种参数规格,每个规模又分为预训练和指令微调两个版本,满足了开发人员的不同需求。

该模型可在笔记本电脑、台式机、物联网、移动设备、云端等多个主流设备类型上运行。其中,7B版本用于在消费级GPU和TPU上高效部署和开发;2B版本则可直接在笔记本电脑上运行。

Gemma规格

Gemma规格

性能表现:同量级模型遭”吊打“

Gemma基于谷歌的开源模型和生态构建,包括Word2Vec、BERT、T5、T5X等。而得益于Gemini的共享技术和基础架构,Gemma在MMLU、MBPP等18个语言理解、推理、数学等关键基准测试中,有11个测试分数超越了Llama 2等更大参数的开源模型

值得一提的是,Gemma在数学、代码能力上的表现十分突出,位于Hugging Face开源大模型排行榜前列。

Gemma 2B排名

Gemma 2B排名

Gemma 7B排名

Gemma 7B排名

芯片配置:”自研+外援“的优化

据称,Gemma基于自研AI加速芯片TPU v5e训练,在文本领域实现了强大的通用能力,同时具备最先进的理解和推理技能。其中,7B使用了4096个TPU v5e,2B则使用了512个TPU v5e,数据主要来自网络文档、数学和代码的英语数据。

不仅如此,谷歌还宣布与英伟达合作,利用英伟达TensorRT-LLM加速Gemma的性能;另还可以使用英伟达GPU来优化Gemma模型;英伟达的RTX聊天系统也即将向Gemma开放入驻,更好地保障了用户的数据安全。

软件工具:配套齐全 开发人员友好

除模型本身外,谷歌还为开发者提供了一套名为Responsible Generative AI Toolkit的AI软件工具包,在安全分类、调试和指导三个方面,帮助开发人员和研究人员优先构建安全且负责任的AI应用程序:

Gemma软件工具包

Gemma软件工具包

  • 作为开放模型,全球的开发人员和研究人员可以通过Kaggle和Colab免费访问Gemma。
  • 可以通过Hugging Face Transformers等多个框架对Gemma进行推理和微调,让用户调查Gemma的行为并及时纠正问题。
  • Gemma既可以在PC和工作站上运行,也可以在Google Cloud上部署,还支持在Vertex AI和Google Kubernetes Engine(GKE)上的简易部署。首次使用Google Cloud的用户将获得300美元的云积分,研究人员则可申请最高50万美元的云积分。
  • 使用条款为所有组织提供了负责任的商业使用和分发权限,不受组织规模的限制。

夺魁并非终点 Gemma仍将独善其身

综上所述,Gemma似已成功在编码、数据处理、架构设计、指令优化、基于人类反馈的强化学习以及评估方法等方面,成为了Gemini的“爱徒”。

不过,尽管在标准测试任务上表现优异,但谷歌认为,还需对Gemma进行进一步的研究,以确保其信息的准确性、模型的目标对齐、处理复杂逻辑推理,并增强模型对恶意输入的抵抗力。

谷歌DeepMind产品管理总监Tris Warkentin认为,虽然Gemma已在6个安全基准及人类并行评估方面均优于竞争对手,但将继续采取与其潜在风险相当的评估和安全解决措施。

开源的Gemma,无疑将会吸引一众软件工程师在谷歌技术的基础上进行开发,增强云部门的盈利能力和专业能力。

谷歌Developer X和开发者关系副总裁兼总经理Jeanine Banks表示:“如果谷歌能够成为API和开放模型的唯一提供商,为社区提供最广泛的功能集,那就完美了。”

#谷歌Gemini##人工智能##开源##英伟达#

    1會員
    65內容數
    留言0
    查看全部
    發表第一個留言支持創作者!