-
在 Apple Silicon Mac（M1、M2 或 M3）上运行最新 LLM 模型 Meta Llama 3 的分步指南
您是否正在寻找在基于 Apple Silicon 的 Mac 上运行最新 Meta Llama 3 的最简单方法？那么您来对地方了！在本指南中，我将向您展示如何在本地运行这个强大的语言模型，使您能够利用自己机器的资源来实现隐私和离线可用性。本教程将包括在...
-
【全网瞩目】你想知道的Llama3都在这里
Meta发布了开放式生成人工智能模型 Llama 系列的最新产品： Llama 3。或者更准确地说，该公司首次发布了其新的 Llama 3 系列中的两个模型，其余模型将在未来某个不确定的日期发布。 Meta 称，与上一代 Llama 型号 Llama 2...
-
谷歌推出全新AI代码辅助工具Code Assist，挑战GitHub Copilot｜TodayAI
在其Cloud Next大会上，谷歌推出了一款名为Code Assist的AI驱动代码完成工具。该工具原名为Duet AI，现增强了功能并与流行的编辑器兼容。 Code Assist不仅与GitHub的Copilot Enterprise直接竞争，还以百...
-
stable diffusion生成图像交作业
试试自己部署的sd-webui 模型：768-v-ema.safetensors 参数设置： 负向提示词： (nsfw:2 ,Multiple people,easynegative,(worst quality:2 ,(low quality...
-
最强开源大模型Llama 3发布！最大版本是4000亿参数规模！性能直逼GPT-4！
最强开源大模型Llama 3发布！最大版本是4000亿参数规模！性能直逼GPT-4！ 当地时间4月18日，Meta 官宣发布其最新开源大模型 Llama 3。目前，Llama 3 已经开放了 80亿 和 700亿 两个小参数版本，上下文窗口为8K。未来...
-
Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（一） LLaMA-Factory简介
LlaMA 3 系列博客 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一） 基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二） 基于 LlaMA 3 + LangGraph 在w...
-
007-Wsl-Ubuntu上LLaMA-Factory如何下载、部署、运行【AI超车B计划】
一、目标 了解什么是LLaMA-Factory； 成功在Wsl-Ubuntu环境下安装并运行LLaMA-Factory； 二、路径 学习笔记中关于LLaMA-Factory的简介，了解什么是LLaMA-Factory； 在Ubun...
-
通用大模型研究重点之五：llama family
LLAMA Family decoder-only类型 LLaMA（Large Language Model AI）在4月18日公布旗下最大模型LLAMA3，参数高达4000亿。目前meta已经开源了80亿和700亿版本模型，主要升级是多模态、长文本方...
-
ollama-python-Python快速部署Llama 3等大型语言模型最简单方法
ollama介绍 在本地启动并运行大型语言模型。运行Llama 3、Phi 3、Mistral、Gemma和其他型号。 Llama 3 Meta Llama 3 是 Meta Inc. 开发的一系列最先进的模型，提供8B和70B参数大小（预训练或...
-
为何说小语言模型是AI界的下一大热门？
译者 | 布加迪 审校 | 重楼 在AI领域，科技巨头们一直在竞相构建越来越庞大的语言模型，如今出现了一个令人惊讶的新趋势：小就是大。随着大语言模型（LLM）方面的进展出现了停滞的迹象，研究人员和开发人员日益开始将注意力转向小语言模型（SLM）。这种紧凑...
-
本地环境运行Llama 3大型模型：可行性与实践指南
简介： Llama 是由 Meta（前身为 Facebook）的人工智能研究团队开发并开源的大型语言模型（LLM），它对商业用途开放，对整个人工智能领域产生了深远的影响。继之前发布的、支持4096个上下文的Llama 2模型之后，Meta 进一步推出了性...
-
MacOS使用ollama部署codellama+openui以及llama.cpp部署
现在AI这么火，你是不是也渴望能够在本地部署并运行属于自己的大模型，然而，高昂的硬件成本又往往成了一大障碍，限制了你继续在AI领域去探索和创新。如果告诉你，无需换电脑，无需额外花钱买GPU或换显卡，你现在的电脑就可以本地跑一些大模型，那将是多么酷的一...
-
AI大模型日报#0418：Stable Diffusion 3开放API、Meta新研究让AI Agent理解物理世界
导读： 欢迎阅读《AI大模型日报》，内容基于Python爬虫和LLM自动生成。目前采用“文心一言”生成了每条资讯的摘要。标题: 微软刚发布了VASA-1 这个人工智能可以让单张图像具有生动的说话和歌唱能力 摘要: 微软发布了VASA-1人工智能，...
-
llama-factory SFT系列教程 (二)，大模型在自定义数据集 lora 训练与部署
文章目录 简介 支持的模型列表 2. 添加自定义数据集 3. lora 微调 4. 大模型 + lora 权重，部署 问题 参考资料 简介 文章列表： llama-factory SFT系列教程 (一 ，大模型 API 部署与...
-
微调llama 3 — PEFT微调和全量微调
1. llama 3 微调基础 1.1 llama 3 简介 官方blog llama 3 目前有两个版本：8B版和70B版。8B版本拥有8.03B参数，其尺寸较小，可以在消费者硬件上本地运行。 meta-llama/Meta-Llama-3-...
-
使用 ollama 部署最新的Llama 3 70B本地模型
一、ollama是什么? 在本地启动并运行大型语言模型。运行Llama 3，Mistral, Gemma, Code Llama和其他模型。自定义并创建您自己的。 综合优点： 快速下载+容器自动运行大模型，现在下载，马上上手。...
-
时隔一年Falcon回归！110亿参数5.5万亿token，性能超越Llama 3
这几天，全世界的目光仿佛都被OpenAI发布的GPT-4o所吸引，与此同时，OpenAI的挑战者们也在同步创造历史。 就在5月14日，阿布扎比先进技术研究委员会（ATRC）下属的技术创新研究所（TII），发布了新一代的Falcon 2模型。 Falco...
-
AI日报：百度搜索11%结果由AI生成；腾讯混元支持生成16s视频；谷歌发布开源视觉语言模型PaliGemma；Hugging Face承诺免费提供1000万美元GPU计算资源
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、李彦宏：百度搜索已有11%结果...
-
又被 OpenAI 截胡，Google推出开源视觉语言模型：PaliGemma
前言 该模型结合了 SigLIP 视觉模型和 Gemma 语言模型，这两种模型都是开放组件，使得PaliGemma在处理视觉与语言结合的任务上表现出色。 PaliGemma的使用场景包括图像字幕、图像标签和视觉问答等。这些应用场景利用了PaliGemm...
-
一文读懂主流领先的 SLM（小型语言模型）
Hello folks，我是 Luga，今天我们来聊一下人工智能(AI 生态领域相关的技术 - SLM(小型语言模型 。 在 AI 狂卷的浪潮中，LLM(大型语言模型 无疑成为了整个互联网乃至科技界的焦点所在。以 GPT-3、BERT 等为代表的 LL...
-
“全家桶”战士归来，谷歌自我革命！
编辑 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） 5月与6月，旧金山硅谷各大新贵旧王正在激烈角逐，主战场无疑则是AI。 就在昨天凌晨GPT-4o发布的24小时后，Google I/O大会也交卷了。 有意思的是，谷歌掌舵人皮查伊，好...
-
谷歌 I/O开发者大会汇总：AI模型全面更新 几乎覆盖所有生成模型类型
在昨晚的Google I/O发布会上，Google宣布了一系列AI模型的更新，涵盖了从文本到视觉和音乐的多个领域: Gemini1.5Pro:支持200万上下文，针对翻译、编码、推理等关键用例进行了质量改进，但未发布测试结果。 Gemini Flash:针...
-
谷歌反击：Project Astra正面硬刚GPT-4o、Veo对抗Sora、新版Gemini变革搜索
通用的 AI，能够真正日常用的 AI，不做成这样现在都不好意思开发布会了。 5 月 15 日凌晨，一年一度的「科技界春晚」Google I/O 开发者大会正式开幕。长达 110 分钟的主 Keynote 提到了几次人工智能？谷歌自己统计了一下： 是的，...
-
Deepseek-V2技术报告解读！全网最细！
深度求索Deepseek近日发布了v2版本的模型，沿袭了1月发布的 Deepseek-MoE（混合专家模型）的技术路线，采用大量的小参数专家进行建模，同时在训练和推理上加入了更多的优化。沿袭了一贯的作风，Deepseek对模型（基座和对话对齐版本）进行了...
-
清华叉院教授扔出量子密码学重磅炸弹！论文引业界轰动，但算法被发现bug
一直以来，解决格上的近似最短向量问题（Lattice Problems）以及带错误学习问题（LWE），都是计算机领域的经典算法难题。 尤其是在科学界看来，它们远远超出了传统计算机的能力范围。 那么，量子计算机有望能破解Lattice Problems以及...
-
Llama3突然来袭！开源社区再次沸腾：GPT4级模型自由访问时代到来
Llama 3来了！ 就在刚刚，Meta官网上新，官宣了Llama 3 80亿和700亿参数版本。 并且推出即为开源SOTA： Meta官方数据显示，Llama 3 8B和70B版本在各自参数规模上超越一众对手。 8B模型在MMLU、GPQA、Huma...
-
六种方式快速体验最新发布的 Llama 3！
昨晚， Meta 发布了 Llama 3 8B 和 70B 模型，Llama 3 指令调整模型针对对话/聊天用例进行了微调和优化，在常见基准测试中优于许多现有的开源聊天模型。比如，Gemma 7B 和 Mistral 7B。 Llama 3 模型将...
-
全球首个「开源GPT-4」出世！Llama 3震撼发布，Meta AI免登录可用
LLM界的「真·Open AI」，又来整顿AI圈了! 业内惊呼:首个开源GPT-4级的模型，终于来了!开源模型追上闭源模型的历史性一刻，或许就在眼前了? 一石激起千层浪，Llama3才刚刚发布没几小时，就破纪录地登顶了Hugging Face排行榜。 这...
-
Meta 发布Llama 3，能力直逼GPT-4,一己之力拉高开源大模型水位
编辑|伊风、诺亚 出品 | 51CTO技术栈（微信号：blog51cto） Meta麾下“羊驼”一路狂奔在开源的大道上。 在过去的一年里，Llama系列可以说开辟了开源LLM的半壁江山。 嫌弃开源模型能力只有GPT-3.5,不够用? 如今Llam...
-
Next ’24 - 踏上云端新旅程
作者 ｜ Google Cloud CEO, Thomas Kurian 去年，全世界才开始想象生成式 AI 将为企业带来怎样的转变，如今这些转变正在逐步展开。 而 Google 一直遵循着相同的原则：打造人人都能受益的 AI 技术，尽力为更多人带来更...
-
谷歌向微软英特尔全面宣战：首款自研Arm CPU，最强大模型公测，AI视频对垒Sora
昨晚的Google Cloud Next2024大会上，谷歌接连放出一堆模型和产品王炸:Gemini1.5Pro公开可用、上线音频处理能力;代码模型CodeGemma上新，首款自研Arm处理器Axion正式向微软和亚马逊宣战……这次，谷歌要以量取胜。 昨天...
-
CodeGemma官网体验入口 谷歌AI代码生成辅助工具使用地址
CodeGemma是谷歌公司推出的先进大语言模型，专注于生成代码、理解和追踪指令，旨在为全球开发人员提供高质量的代码辅助工具。包括 20 亿参数的基础模型， 70 亿参数的基础模型和用于指导追踪的 70 亿参数模型，针对代码开发场景进行优化和微调。在各种编...
-
全面突围，谷歌昨晚更新了一大波大模型产品
当地时间本周二，谷歌在 Google’s Cloud Next 2024 上发布了一系列 AI 相关的模型更新和产品，包括 Gemini 1.5 Pro 首次提供了本地音频（语音）理解功能、代码生成新模型 CodeGemma、首款自研 Arm 处理器 A...
-
谷歌向微软英特尔全面宣战！首款自研Arm CPU，最强大模型公测，AI视频对垒Sora
昨天的谷歌Next大会可是太精彩了，谷歌一连放出不少炸弹。 - 升级「视频版」Imagen 2.0，下场AI视频模型大混战 - 发布时被Sora光环掩盖的Gemini 1.5 Pro，正式开放 - 首款Arm架构CPU发布，全面对垒微软/亚马逊/英伟达/...
-
纯C语言手搓GPT-2，前OpenAI、特斯拉高管新项目火了
众所周知，大语言模型还在快速发展，应该有很多可以优化的地方。我用纯 C 语言来写，是不是能优化一大截？ 也许很多人开过这样的脑洞，现在有大佬实现了。 今天凌晨，前特斯拉 Autopilot 负责人、OpenAI 科学家 Andrej Karpathy...
-
120亿Stable LM 2上线即开源！2万亿token训练，碾压Llama 2 70B
继16亿轻量级Stable LM 2推出之后，12B参数的版本在今天亮相了。 见状，不少网友纷纷喊话：干的漂亮！但，Stable Diffusion 3啥时候出啊？ 总得来说，Stable LM 2 12B参数更多，性能更强。 120亿参数版本包含了...
-
OpenAI创始大神手搓千行C代码训练GPT，附PyTorch迁移教程
大神卡帕西（Andrej Karpathy）刚“复工”，立马带来神作： 纯C语言训练GPT，1000行代码搞定！，不用现成的深度学习框架，纯手搓。 发布仅几个小时，已经揽星2.3k。 它可以立即编译和运行，和PyTorch完全兼容。 卡帕西使用的示例是...
-
斯坦福团队大模型Octopus v2火了：手机就能运行 准确性超越GPT-4
近日，斯坦福大学研究人员发布的 Octopus v2模型引起了开发者社区的极大关注，其20亿参数的模型一夜下载量超过2k。 这一模型可以在智能手机、汽车、个人电脑等端侧设备上运行，并在准确性和延迟方面表现超越了 GPT-4，同时将上下文长度减少了95%。...
-
超越GPT-4，斯坦福团队手机可跑的大模型火了，一夜下载量超2k
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 在大模型落地应用的过程中，端侧 AI 是非常重要的一个方向。 近日，斯坦福大学研究人员推出的 Octopus v2 火了，受到了开发者社...
-
斯坦福推可以在手机端跑的大模型 Octopusv2超越GPT-4一夜爆火
斯坦福大学的研究团队近日推出了一款名为Octopusv2的新型人工智能模型，这款模型以其在端侧设备上的强大运行能力而受到广泛关注。 Octopusv2是一款拥有20亿参数的开源语言模型，专为在Android设备上运行而设计，同时也适用于汽车、个人电脑等其他...
-
llama-factory简介
llamafactory是什么，能干什么 LLaMA-Factory 是一个易于使用的大规模语言模型（Large Language Model, LLM）微调框架，它支持多种模型，包括 LLaMA、BLOOM、Mistral、Baichuan、Qwen ...
-
谷歌狂喜：JAX性能超越Pytorch、TensorFlow！或成GPU推理训练最快选择
谷歌力推的JAX在最近的基准测试中性能已经超过Pytorch和TensorFlow，7项指标排名第一。 而且测试并不是在JAX性能表现最好的TPU上完成的。 虽然现在在开发者中，Pytorch依然比Tensorflow更受欢迎。 但未来，也许有更多...
-
开源AI到底是什么？业界：超出开源软件范畴，需要重新界定
最近AI圈突然流行起开源概念。Meta承诺将会打造开源AI，马斯克起诉OpenAI，说它缺少开源模型。与此同时，一批科技领袖和科技企业纷纷为开源概念呐喊。不过科技界碰到一个难以解决的根本问题：它们对“开源AI”的概念无法达成共识。 照字面意思，开源A...
-
免费AI女友怎么使用? 虚拟伴侣AI Girlfriend Emma官网地址入口
AI Girlfriend Emma是一款虚拟伴侣应用程序，可以与你进行亲密交流。它能够陪伴聊天、提供情感支持和娱乐，让你获得温暖和快乐。无论你是在家中、办公室还是休闲场所，都可以使用这款应用和你的AI女友Emma互动。 点击前往AI Girlfrien...
-
llama factory学习笔记
模型 模型名 模型大小 默认模块 Template Baichuan2 7B/13B W_pack baichuan2 BLOOM 560M/1.1B/1.7B/3B/7.1B/176B query_key_value - BLOOM...
-
Discuz快速采集：高效获取信息的最佳实践
在网络高度发展的当下，社区论坛等平台不仅是信息交流和分享的集聚地，还是个人、团体和组织传播价值理念，交流专业见解的关键场所。而在这些信息交流的重要环节中，“Discuz!”以其便捷的开源性和灵活的操作性能脱颖而出，被许多网站用来作为强大的社区平台支持系统。...
-
重磅！谷歌正式推出开源大语言模型 Gemma，声称超越 Meta Llama-2 竞品
击上方关注 “终端研发部” 设为“星标”，和你一起掌握更多数据库知识 AI 开源之战打响！ 作为曾经AI领域扛把子的谷歌，这两年多来，风头几度被抢，一直处于被压着打的境地，，昨天Gemma的发布，预示着谷歌登上开源大模型“铁王...
-
开源AI框架LaVague:理解自然语言指令 实现浏览器交互自动化
LaVague 是一个旨在自动化浏览器交互的大型动作模型框架，通过将自然语言指令转化为无缝的浏览器交互，重新定义了互联网浏览体验。 该框架的设计初衷是为用户自动化繁琐的任务，节省时间，让用户能够专注于更有意义的事务。通过理解自然语言指令并与 Seleniu...
-
仅一行命令本地 CPU 环境快速上手 Google 开源大模型 Gemma
Google Gemma 是什么？ 2月底 Google 发布的 Gemma 相比自家的 Gemini 更加轻量级，不仅可以在笔记本电脑上运行，而且还免费可商用，支持中文，相比其他开源在各个方面都占了上风。科技巨头出品、领先地位、全面对外开放、免费可商用...
-
谷歌最强轻量级开源大模型Gemma：小尺寸可商用，性能超越Llama-2，个人PC就能用
前言 谷歌近日发布了其最新的轻量级、开源AI模型——Gemma，这一举措无疑在AI领域引起了广泛的关注。不同于其他闭源大模型，Gemma的推出标志着谷歌在开放模型领域的重要一步，意图通过开放、共享的方式，加速AI技术的普及和应用。 Gemma模型概...