Meta 的新 Llama 3.1 模型已经发布，开始与 GPT-4o 和 Claude 3.5 Sonnet 竞争。
Meta 在 23 号宣布其开源 AI 模型 Llama 已发布最新版本。据 Meta 称，随着 Llama 3.1 405B 的发布，该公司正试图证明开放大语言模型可以与封闭大语言模型一样强大，甚至更好。
Meta 在一篇博文中写道：
“Llama 3.1 405B 是第一个公开可用的大语言模型，在常识、可操纵性、数学、工具使用和多语言翻译等最先进的能力方面可与顶级 AI 模型相媲美。随着 405B 模型的发布，我们已准备好增强创新能力，带来前所未有的增长和探索机会。我们相信最新一代的 Llama 将激发新的应用程序和建模范式，包括合成数据生成，以便改进和训练较小的模型，以及模型提炼，这是开源中从未如此大规模实现的功能。”
该公司将 Llama 3.1 与 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 进行了比较。它在数学、推理和编码等多项评估中表现优于这些模型，或与这些模型相当。
该模型在超过 15 万亿个标签上进行了训练，这需要 Meta 优化其训练堆栈并使用超过 16K H100 GPU。
主要特性和功能
Llama 3.1 405B 可以执行各种任务，例如编码、回答数学问题以及可以用八种语言总结文档。但是，它仅支持文本，无法处理基于图像的查询。Meta 还在开发可以识别图像、视频和生成语音的多模态 Llama 模型，但这些模型暂时尚未公开。
该模型使用15 万亿个 token的数据集进行训练，相当于 7500 亿个单词。Meta 改进了该模型的数据管理和质量保证流程。其他 AI 模型生成的合成数据也用于微调 Llama 3.1 405B。然而目前，Meta 以竞争和法律原因为由，没有透露其训练数据的具体来源。
上下文窗口和工具
Llama 3.1 405B 具有更大的上下文窗口，包含 128,000 个标记，因此它能够总结较长的文本，并且比之前的模型更好地保持对话中的上下文。
Meta 还发布了两个较小的模型，Llama 3.1 8B 和 Llama 3.1 70B，它们共享相同的上下文窗口。这些模型可以使用第三方工具和 API 来执行诸如回答有关最近事件的问题、解决数学问题和验证代码等任务。
性能和许可证
Llama 3.1 405B 的性能与 OpenAI 的 GPT-4 相当，与GPT-4o和Claude 3.5 Sonnet相比，结果好坏参半。它在执行代码和生成图表方面表现出色，但在多语言能力和一般推理方面较弱。由于其规模庞大，它需要大量硬件才能运行。Meta 正在推广其用于通用应用的较小模型，并认为 Llama 3.1 405B 适合模型蒸馏和生成合成数据。
Meta 已更新 Llama 的许可证，允许开发人员使用 Llama 3.1 模型系列的输出来开发第三方 AI 模型。不过，应用程序月用户量超过 7 亿的开发人员必须向 Meta 申请特殊许可证。
除了 405B 版本，Llama 3.1 还提供 8B 和 70B 选项。该公司还宣布，随着此版本的发布，它还将更改 Llama 的许可证，以允许开发者使用其输出来改进其他型号。
Meta 在Llama3 的相关博文中写道：
“尽管许多人可能认为封闭模型更具成本效益，但根据人工智能分析的测试，Llama 模型的每Token成本是业内最低的。我们的CEO马克·扎克伯格说，开源将确保全世界更多的人能够享受人工智能的好处和机会，权力不会集中在少数人手中，而且这项技术可以更均匀、更安全地部署到整个社会。这就是为什么我们继续采取措施，让开放式人工智能成为行业的标准，”
这些模型现在可以在Meta 的网站或Hugging Face上下载。
读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用
对于0基础小白入门：
如果你是零基础小白，想快速入门大模型是可以考虑的。
一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。
包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
👉AI大模型学习路线汇总👈
大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）
第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；
第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；
第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；
第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；
第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
👉大模型实战案例👈
光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。
👉大模型视频和PDF合集👈
观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。
👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；
• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；
• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。
👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
总结
**Meta发布Llama 3.1大语言模型，挑战GPT-4o和Claude 3.5**Meta公司在最近的发布会上推出了新版开源AI模型——Llama 3.1，特别是Llama 3.1 405B版本，展现出与业界顶级封闭模型如GPT-4、GPT-4o及Claude 3.5 Sonnet相媲美的实力。Meta强调，这款模型在多个方面如常识、可操纵性、数学能力和多语言翻译上表现出色，甚至在某些测试中超越了这些竞品。
**核心特点和优势**：
1. **多功能性**：Llama 3.1 405B能够处理包括编码、解答数学问题、多语言文档总结在内的多种任务，尽管目前只支持文本交互，Meta正在开发支持图像、视频识别和语音生成的多模态版本。
2. **大规模训练数据**：该模型基于15万亿个token（相当于7500亿单词）的数据集进行训练，确保了其在处理复杂任务时的准确性和广泛性。
3. **增强上下文能力**：拥有超过128,000个标记的上下文窗口，使得Llama 3.1 405B在处理长文本和多轮对话时能保持更好的连贯性。
4. **多尺寸模型选项**：除了强大的405B版本，Meta还发布了Llama 3.1 8B和70B两个较小模型，便于开发者在不同硬件资源下使用。
**性能与行业影响**：
- **性能比拼**：Llama 3.1 405B在某些评估中表现出色，如代码执行和图表生成，但在多语言和通用推理方面仍存在改进空间。
- **硬件依赖**：由于其巨大的参数量，运行Llama 3.1 405B需要强大的硬件支持，而Meta也在推动其较小版本在通用应用中的使用。
**许可证更新与开发机会**：
- **灵活的许可证政策**：Meta更新了Llama的许可证，允许开发人员基于Llama 3.1模型的输出来开发新的AI模型，但月活跃用户数超过7亿的应用需申请特殊授权。
- **推动创新与开源生态**：Meta CEO马克·扎克伯格强调，开源将使得更多人能够从AI技术中受益，有助于技术更平均和安全地分布于全球。
**阅读与学习资源推荐**：
对于想要深入了解大模型技术的读者，文章最后还提供了包括学习路线图、实战案例、视频教程等在内的丰富资源，帮助从零基础开始系统性学习大模型技术。通过这些资源，读者可以规划学习路线，提升实践能力和编码能力，最终掌握大模型在各个领域中的应用和开发技巧。