当前位置:AIGC资讯 > AIGC > 正文

重磅!谷歌正式推出开源大语言模型 Gemma,声称超越 Meta Llama-2 竞品

击上方关注 “终端研发部”

 
 
设为“星标”,和你一起掌握更多数据库知识

AI 开源之战打响!

作为曾经AI领域扛把子的谷歌,这两年多来,风头几度被抢,一直处于被压着打的境地,,昨天Gemma的发布,预示着谷歌登上开源大模型“铁王座”,重新回归开源赛场。

Gemma 是什么?

Gemma 是 Google 基于 Gemini 技术推出的四款新型大型语言模型(LLM),提供了 2B 和 7B 两种不同规模的版本,每种都包含了预训练基础版本和经过指令优化的版本。所有版本均可在各类消费级硬件上运行,无需数据量化处理,拥有高达 8K tokens 的处理能力。

Gemma的性能有多高?

1、有两个模型,2B和7B的,在消费级显卡运行没问题。

2、对于使用者非常友好。开发者可以利用Gemma模型提供的Colab和Kaggle快速启动和运行项目。

此外,Gemma模型与Hugging Face、MaxText、NVIDIA NeMo和TensorRT-LLM等行业内的流行工具集成无缝,使得开发者无需在集成工具上花费大量时间,即可专注于模型的高效应用。

比如可以在Colab中直接运行,跟Hugging face之类的集成也很好,估计会很方便使用。

3、Gemma模型针对多个AI硬件平台进行了优化,特别在NVIDIA GPU和Google Cloud TPU上展现了出色性能,比如Gemma宣称比Llama-2的13B性能还要好。

有了Gemini同源技术的加持,Gemma不仅在相同的规模下实现SOTA的性能。而且更令人印象深刻的是,还能在关键基准上越级碾压更大的模型,比如Lama2 13B。

以下是其基础版本与其他开放模型在LLM 排行榜上的比较(得分越高越好):

添加图片注释,不超过 140 字(可选)

4、可以提供更强大的整合技术!比如可以与NVIDIA的紧密合作,可以进行跨设备兼容,在数据中心、云端还是本地搭载RTX显卡的个人电脑上,Gemma模型都能提供高性能的整合技术!

Gemma带来的机遇

Gemma 大模型的开放使用,可以应用多个不同的场景,比如智能客服和助手,文本生成和摘要,智能写作助手,情感分析和意见挖掘,图文生产,同时将为全球的开发者和企业提供更多的选择和机会,比如:

自媒体智能化剪辑

模型优化与改进

应用开发与集成

模型部署与运维

模型安全与隐私保护

教育与培训

对于竞争对象来说

对于中大型模型而言

Gemma的主要竞争对手主要包括:Meta 的开源大型语言模型Llama 2、Mistral AI 的 7B 模型、Deci 的 DecilLM 和Microsoft 的 Phi-2,OpenAI储备了一个用于打压对手的技术储备库,即使做得差不多了也隐而不发,专等竞争对手发布新产品的时候扔出来,以形成宣传优势,如果OpenAI判断对手的产品对自己的威胁越强,就越可能把技术储备库里最强的扔出来。但是由于OpenAI处于链条顶端,都会被作为打竞争的存在,形成了大模型巨头混战的局面,使得各大语言模型巨头加快AI模型的崛起

对于小模型而言

小模型巨头研发者会进一步会卷数据质量,今年会见到更多端侧运行的应用和模型!

对于开发者而言

这次,除了模型本身,谷歌还提供了一套工具帮助开发者,确保Gemma模型负责任的使用,帮助开发者用Gemma构建更安全的AI应用程序。

针对于这样一能智能聊天应用

可以利用Gemma作为应用的底层模型,开发一款属于自己的智能聊天APP,如果刚到以前,从头开始训练一个大语言模型,这既需要庞大的计算资源,也需要深厚的技术背景。现在有个谷歌开源的Gemma,可以很大程度上减少时间和资源的投入,对于企业和开发者都是非常友好的!

如何使用Gemma模型?

ps:可以在Colab中直接使用

1、获取Gemma访问权限

获取Gemma的访问权限,你得先有一个kaggle账号,如果没有可以先注册一个:

https://www.kaggle.com/

2、然后登陆kaggle点击这个链接获取Gemma的访问权限。

接下来傻瓜式的接受必要的条款,并点击accept。

3、选择合适的Colab运行环境

4、生成API key

你得有Kaggle的用户名和API Key来访问Gemma。

在Kaggle的setting->account里面找到API,点击Create New Token。

然后会自动生成一个Json文件并下载,打开之后是这样的。

将json文件中的用户名和key替换掉这个

然后依次运行colab的代码,安装Keras和KerasNLP。

依次引用安装好的包,选择backend,创建gemma模型。

Gemma来进行对话,语法:

gemma_lm.generate("What is the meaning of life?", max_length=64)

只是不管怎样,开源大模型给普通人带来的“可能性”远远大于非开源模型。相信Gemma的发布能够给大模型日趋平静的水面再次投下一颗巨石,引发一波儿AI的开发热潮。

当下,AI大模型的开源之战已经打响。但放眼看,Gemma一马当先!

回复 【idea激活】即可获得idea的激活方式

回复 【Java】获取java相关的视频教程和资料

回复 【SpringCloud】获取SpringCloud相关多的学习资料

回复 【python】获取全套0基础Python知识手册

回复 【2020】获取2020java相关面试题教程

回复 【加群】即可加入终端研发部相关的技术交流群

阅读更多

用 Spring 的 BeanUtils 前,建议你先了解这几个坑!

重磅!Sora内测名额可以申请了,快让我看看哪些大可爱还不知道怎么申请知道啥?

重磅!Sora内测名额可以申请了,快让我看看哪些大可爱还不知道怎么申请知道啥?

重磅总结!国内免费的靠谱GPT软件工具收集汇总

相信自己,没有做不到的,只有想不到的

在这里获得的不仅仅是技术!


喜欢就给个“在看” 

更新时间 2024-03-17