击上方关注 “终端研发部”
设为“星标”,和你一起掌握更多数据库知识
AI 开源之战打响!
作为曾经AI领域扛把子的谷歌,这两年多来,风头几度被抢,一直处于被压着打的境地,,昨天Gemma的发布,预示着谷歌登上开源大模型“铁王座”,重新回归开源赛场。
Gemma 是什么?
Gemma 是 Google 基于 Gemini 技术推出的四款新型大型语言模型(LLM),提供了 2B 和 7B 两种不同规模的版本,每种都包含了预训练基础版本和经过指令优化的版本。所有版本均可在各类消费级硬件上运行,无需数据量化处理,拥有高达 8K tokens 的处理能力。
Gemma的性能有多高?
1、有两个模型,2B和7B的,在消费级显卡运行没问题。
2、对于使用者非常友好。开发者可以利用Gemma模型提供的Colab和Kaggle快速启动和运行项目。
此外,Gemma模型与Hugging Face、MaxText、NVIDIA NeMo和TensorRT-LLM等行业内的流行工具集成无缝,使得开发者无需在集成工具上花费大量时间,即可专注于模型的高效应用。
比如可以在Colab中直接运行,跟Hugging face之类的集成也很好,估计会很方便使用。
3、Gemma模型针对多个AI硬件平台进行了优化,特别在NVIDIA GPU和Google Cloud TPU上展现了出色性能,比如Gemma宣称比Llama-2的13B性能还要好。
有了Gemini同源技术的加持,Gemma不仅在相同的规模下实现SOTA的性能。而且更令人印象深刻的是,还能在关键基准上越级碾压更大的模型,比如Lama2 13B。
以下是其基础版本与其他开放模型在LLM 排行榜上的比较(得分越高越好):
添加图片注释,不超过 140 字(可选)
4、可以提供更强大的整合技术!比如可以与NVIDIA的紧密合作,可以进行跨设备兼容,在数据中心、云端还是本地搭载RTX显卡的个人电脑上,Gemma模型都能提供高性能的整合技术!
Gemma带来的机遇
Gemma 大模型的开放使用,可以应用多个不同的场景,比如智能客服和助手,文本生成和摘要,智能写作助手,情感分析和意见挖掘,图文生产,同时将为全球的开发者和企业提供更多的选择和机会,比如:
自媒体智能化剪辑
模型优化与改进
应用开发与集成
模型部署与运维
模型安全与隐私保护
教育与培训
对于竞争对象来说
对于中大型模型而言
Gemma的主要竞争对手主要包括:Meta 的开源大型语言模型Llama 2、Mistral AI 的 7B 模型、Deci 的 DecilLM 和Microsoft 的 Phi-2,OpenAI储备了一个用于打压对手的技术储备库,即使做得差不多了也隐而不发,专等竞争对手发布新产品的时候扔出来,以形成宣传优势,如果OpenAI判断对手的产品对自己的威胁越强,就越可能把技术储备库里最强的扔出来。但是由于OpenAI处于链条顶端,都会被作为打竞争的存在,形成了大模型巨头混战的局面,使得各大语言模型巨头加快AI模型的崛起
对于小模型而言
小模型巨头研发者会进一步会卷数据质量,今年会见到更多端侧运行的应用和模型!
对于开发者而言
这次,除了模型本身,谷歌还提供了一套工具帮助开发者,确保Gemma模型负责任的使用,帮助开发者用Gemma构建更安全的AI应用程序。
针对于这样一能智能聊天应用
可以利用Gemma作为应用的底层模型,开发一款属于自己的智能聊天APP,如果刚到以前,从头开始训练一个大语言模型,这既需要庞大的计算资源,也需要深厚的技术背景。现在有个谷歌开源的Gemma,可以很大程度上减少时间和资源的投入,对于企业和开发者都是非常友好的!
如何使用Gemma模型?
ps:可以在Colab中直接使用
1、获取Gemma访问权限
获取Gemma的访问权限,你得先有一个kaggle账号,如果没有可以先注册一个:
https://www.kaggle.com/
2、然后登陆kaggle点击这个链接获取Gemma的访问权限。
接下来傻瓜式的接受必要的条款,并点击accept。
3、选择合适的Colab运行环境
4、生成API key
你得有Kaggle的用户名和API Key来访问Gemma。
在Kaggle的setting->account里面找到API,点击Create New Token。
然后会自动生成一个Json文件并下载,打开之后是这样的。
将json文件中的用户名和key替换掉这个
然后依次运行colab的代码,安装Keras和KerasNLP。
依次引用安装好的包,选择backend,创建gemma模型。
Gemma来进行对话,语法:
gemma_lm.generate("What is the meaning of life?", max_length=64)
只是不管怎样,开源大模型给普通人带来的“可能性”远远大于非开源模型。相信Gemma的发布能够给大模型日趋平静的水面再次投下一颗巨石,引发一波儿AI的开发热潮。
当下,AI大模型的开源之战已经打响。但放眼看,Gemma一马当先!
回复 【idea激活】即可获得idea的激活方式
回复 【Java】获取java相关的视频教程和资料
回复 【SpringCloud】获取SpringCloud相关多的学习资料
回复 【python】获取全套0基础Python知识手册
回复 【2020】获取2020java相关面试题教程
回复 【加群】即可加入终端研发部相关的技术交流群
阅读更多
用 Spring 的 BeanUtils 前,建议你先了解这几个坑!
重磅!Sora内测名额可以申请了,快让我看看哪些大可爱还不知道怎么申请知道啥?
重磅!Sora内测名额可以申请了,快让我看看哪些大可爱还不知道怎么申请知道啥?
重磅总结!国内免费的靠谱GPT软件工具收集汇总
相信自己,没有做不到的,只有想不到的
在这里获得的不仅仅是技术!
喜欢就给个“在看”