当前位置:AIGC资讯 > AIGC > 正文

Llama 3.1:Meta迄今为止规模最大、质量最高的开源模型

早在今年4月,Meta就曾透露正在为AI行业开发一项首创技术:一种性能足以与OpenAI等厂商的最强私有模型相媲美的开源模型。

现如今,这套模型已经问世。Meta发布了有史以来体量最大的开源AI模型Llama 3.1。该公司声称该模型在多项基准测试中优于GPT-4o和Anthropic的Claude 3.5 Sonnet。新版本还为基于Llama的Meta AI助手带来更多国家和语种支持,同时绞架了一项可以根据特定人物肖像生成图像的新功能。公司CEO马克·扎克伯格更是大胆做出预测,称到今年年底,Meta AI将超越ChatGPT成为使用范围最广的AI助手。

Llama 3.1比几个月前发布的小型Llama 3模型复杂得多。其最大的版本拥有4050亿个参数,且使用超过1.6万张英伟达旗舰级H100 GPU训练而成。Meta没有透露Llama 3.1的开发成本,但单纯计算英伟达芯片的采购成本,就可以肯定资金投入不会低于数亿美元。

那么考虑到如此高昂的成本投入,Meta为何执意让Llama模型家族保持开源,将如此重量级的成果免费交付至众多用户手中?在Meta公司通过官博发表的公开信中,扎克伯格宣称开源AI模型终将超越专有模型——而且目前已经展现出优于专有模型的改进速度。这就如同开源Linux系统,如今成为大多数手机、服务器和小装置上的主导操作系统一样。

他还将Meta对于开源AI的投入,与公司早期的开放计算项目(OCP)进行了比较。他表示在Meta规划自己的基础设施容量时,惠普等其他厂商帮助Meta对数据中心设计进行了改进了标准化,帮助其成功节约下“数十亿美元”。展望未来,他预计同样的情况也将在AI领域上演。他在信中写道:“我相信Llama 3.1的发布将成为行业中的又一个转折点,大多数开发人员开始主要依赖开源成果。”

为了帮助将Llama 3.1推向世界,Meta正在与微软、亚马逊、谷歌、英伟达和Databricks等二十多家公司合作,帮助开发人员部署适合自身需求的版本。Meta声称,Llama 3.1在生产环境中的运行成本大约只相当于OpenAI GPT-4o的一半。他们还一并发布了模型权重,以便企业客户能够立足自身数据以模型进行训练,并根据实际偏好做出调整。

根据Meta公司发言人Jon Carvill的介绍,Gemini未被纳入此番基准比较,因为Meta难以使用谷歌提供的AIP来重现其先前声明的结果。

Meta主要合作伙伴清单及其为Llama 3.1部署提供的功能方案。

不出所料,Meta并没有透露太多关于用于训练Llama 3.1模型的数据信息。先后已经有多位曾经在AI企业工作过的雇员表示,由于涉及商业机密,他们无法透露这部分信息。但批评人士则认为,这是一种通过拖延来对抗版权诉讼纠纷的消极策略。

但Meta强调,他们使用的是合成数据,也就是由模型生成、而非来自真实人类的数据。此外,他们还利用4050亿参数版本的Llama 3.1,对原有小型700亿及80亿参数版本模型做出了改进。Meta公司生成式AI副总裁Ahmad Al-Dahle预计,Llama 3.1将在开发者群体当中受到欢迎,因为它堪称“小模型的老师,能够在提升前者性能之后以更具成本效益的方式实现AI部署”。

在被问及Meta是否认可业界日益增长的普遍共识,即可供模型使用的高质量训练数据即将耗尽时,Al-Dahle表示上限确实即将到来,只不过具体期限可能比部分人想象中的更远。“我们相信目前的数据应该还能再支撑几个训练周期,但具体情况也很难说。”

Meta还首次对Llama 3.1进行了红队测试(即对抗性测试),包括借此寻求潜在的网络安全与生物化学用例。而对模型开展严格测试的另一个理由,在于Meta提到的新兴“代理”行为。

例如,Al-Dahle告诉我们Llama 3.1能够与搜索引擎API相集成,以“通过复杂的查询从互联网上检索信息,并连续调用多种工具以完成用户提交的任务。”他还给出另一个例子,就是要求模型绘制过去五年来全美售出的房屋数量。“它可以检索网络结果,生成Python代码并加以执行。”

Meta自己的Llama实现方案是一款AI助手,其功能定位属于类似ChatGPT的通用型聊天机器人,且几乎能够在Instagram、Facebook和WhatsApp的各个功能模块上发挥作用。从本周开始,Llama 3.1将率先通过WhatsApp和美国Meta AI网站对外开放,并在随后几周内正式登陆Instagram与Facebook。此番更新将让Meta AI助手支持更多 新语种,包括法语、德语、印地语、意大利语和西班牙语。

虽然Llama 3.1最先进的4050亿参数模型已经在Meta AI中免费开放,但助手会在一周内提示词超过指定数量后将用户切换至体量更小的700亿参数模型。由此看来,4050亿参数模型对于Meta来说还是太过昂贵,仍无法全面运行。公司发言人Jon Carvil告诉我们,Metra将在评估早期使用情况之后提供关于提示词阈值的更多信息。

Meta AI还提供一项新的“Imagine Me”功能,可以通过手机摄像头扫描用户面部,进而将用户的肖像插入到其生成的图像当中。通过这种方式、而非直接从个人资料照片中捕捉人脸,Meta希望避免其AI功能被deepfakes滥用。该公司意识到越来越多的用户希望创建多种AI媒体,并将结果分享到自己的个人动态之内,尽管这有可能进一步模糊真实与虚假之间的判断边界。

Meta AI也将在未来几周内登陆Quest头显设备,取代其语音命令界面。与Meta Ray-Ban眼镜中的实现效果类似,用户可以在Quest上使用Meta AI来识别并理解头显直通模式下看到的内容,进而通过显示屏解读现实世界。

除了扎克伯格预计Meta AI将在今年年底成为使用率最高的聊天机器人(作为比较,ChatGPT目前拥有超过1亿用户)之外,Meta并未分享其AI助手的任何市场普及度数据。Al-Dahle表示:“我认为整个行业在产品的市场匹配方面仍处于早期探索阶段。”尽管AI科技存在严重的过度炒作之嫌,但Meta及其他参与厂商显然对未来抱有信心,并坚定认为新一轮竞争才刚刚开始。

如何系统的去学习大模型LLM ?

作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ,朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》,扫码获取~

?[CSDN大礼包?:全网最全《LLM大模型入门+进阶学习资源包》免费分享]?

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案
阶段1:AI大模型时代的基础理解
目标:了解AI大模型的基本概念、发展历程和核心原理。 内容: L1.1 人工智能简述与大模型起源 L1.2 大模型与通用人工智能 L1.3 GPT模型的发展历程 L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践 L1.5 GPT应用案例
阶段2:AI大模型API应用开发工程
目标:掌握AI大模型API的使用和开发,以及相关的编程技能。 内容: L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例 L2.2 Prompt框架
- L2.2.1 什么是Prompt
- L2.2.2 Prompt框架应用现状
- L2.2.3 基于GPTAS的Prompt框架
- L2.2.4 Prompt框架与Thought
- L2.2.5 Prompt框架与提示词 L2.3 流水线工程
- L2.3.1 流水线工程的概念
- L2.3.2 流水线工程的优点
- L2.3.3 流水线工程的应用 L2.4 总结与展望
阶段3:AI大模型应用架构实践
目标:深入理解AI大模型的应用架构,并能够进行私有化部署。 内容: L3.1 Agent模型框架
- L3.1.1 Agent模型框架的设计理念
- L3.1.2 Agent模型框架的核心组件
- L3.1.3 Agent模型框架的实现细节 L3.2 MetaGPT
- L3.2.1 MetaGPT的基本概念
- L3.2.2 MetaGPT的工作原理
- L3.2.3 MetaGPT的应用场景 L3.3 ChatGLM
- L3.3.1 ChatGLM的特点
- L3.3.2 ChatGLM的开发环境
- L3.3.3 ChatGLM的使用示例 L3.4 LLAMA
- L3.4.1 LLAMA的特点
- L3.4.2 LLAMA的开发环境
- L3.4.3 LLAMA的使用示例 L3.5 其他大模型介绍
阶段4:AI大模型私有化部署
目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。 内容: L4.1 模型私有化部署概述 L4.2 模型私有化部署的关键技术 L4.3 模型私有化部署的实施步骤 L4.4 模型私有化部署的应用场景
学习计划:
阶段1:1-2个月,建立AI大模型的基础知识体系。 阶段2:2-3个月,专注于API应用开发能力的提升。 阶段3:3-4个月,深入实践AI大模型的应用架构和私有化部署。 阶段4:4-5个月,专注于高级模型的应用和部署。
这份完整版的所有 ⚡️ 大模型 LLM 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

全套 《LLM大模型入门+进阶学习资源包》↓↓↓ 获取~

?[CSDN大礼包?:全网最全《LLM大模型入门+进阶学习资源包》免费分享?

总结

### 文章总结
Meta推出了史上最大规模的开源AI模型“Llama 3.1”,该模型在多项基准测试中表现出色,超越了GPT-4o和Claude 3.5 Sonnet。Llama 3.1的最大版本拥有4050亿个参数,使用超过1.6万张英伟达H100 GPU进行训练,其训练成本预计数亿美元。
**关键亮点**:
- **开源策略**:Meta坚持让Llama模型保持开源,旨在通过社区协作加速AI模型的改进和应用,类似于开源Linux系统在科技和互联网领域的成功。
- **多语言支持**:新版本增加了对多种新语言和国家的支持,并在功能上增加了“Imagine Me”,可通过手机摄像头扫描人脸并生成个性化图像,避免了deepfakes的滥用风险。
- **合作与成本**:Meta与微软、亚马逊等多家科技巨头合作,推动Llama 3.1的部署和具体应用。尽管生产环境中的运行成本较低,但最大规模的4050亿参数模型仍过于昂贵,用户在使用一定数量提示词后会被切换至较小规模的模型。
- **未来展望**:扎克伯格预测,到今年年底,Meta AI将成为使用率最高的AI助手,替代ChatGPT。Meta还在进行红队测试,以确保模型的网络安全和生物化学用例的稳健。
**学习资源**:
为帮助开发者学习大模型LLM,文章还分享了系统的学习资源,包括详细的学习路线、AI大模型报告合集、经典PDF书籍和行业应用落地方案等,鼓励通过正当途径获取学习资料并提升技能。
**总体评价**:
Meta的Llama 3.1不仅是AI领域的一个重要技术突破,也预示着开源文化在AI模型发展中的巨大潜力。此模型的推出将促进更加广泛的交流与合作,带动AI技术的进一步发展。

更新时间 2024-08-08