-
LLM大模型推理加速实战：vllm、fastllm与llama.cpp使用指南
随着人工智能技术的飞速发展，大型语言模型（LLM）在诸如自然语言处理、智能问答、文本生成等领域的应用越来越广泛。然而，LLM模型往往具有庞大的参数规模，导致推理过程计算量大、耗时长，成为了制约其实际应用的关键因素。为了解决这个问题，一系列大模型推理加速工具...
-
Stable Diffusion：从入门到精通
从最初的安装与配置，细至界面功能的详解，再至实战案例的制作，乃至高品质模型的下载，每一步骤皆有细致的指导，且以一个个生动的例子予以演示，不仅令诸位不再只是枯燥地观摩，更能让你们阅后即行，轻松创作出相似的绘画之作。 AI免费学习基地https://xmgt...
-
MacOS使用ollama部署codellama+openui以及llama.cpp部署
现在AI这么火，你是不是也渴望能够在本地部署并运行属于自己的大模型，然而，高昂的硬件成本又往往成了一大障碍，限制了你继续在AI领域去探索和创新。如果告诉你，无需换电脑，无需额外花钱买GPU或换显卡，你现在的电脑就可以本地跑一些大模型，那将是多么酷的一...
-
2023 re:Invent | Amazon Q 与 Amazon CodeWhisperer 面向企业开发者提效利器
2023 年，以 GPT 为代表的生成式 AI 引爆了新一轮技术热潮，短短一年的时间内，生成式 AI 已经成为科技世界发展的核心。作为云计算的行业风向标盛会 re ，本届: Invent 全球大会紧跟生成式 AI 浪潮，推出名为“ Amazon Q ”的生...
-
AI绘画SD 教程 - 采样器详解及对比，建议收藏！
主业写代码，副业做 AI 大家好，我是程序员晓晓 采样器详解及对比 在图像生成领域，采样器是一种关键的算法组件，用于从模型学习到的概率分布中生成图像。简单来说，采样器的作用是根据模型的预测，决定如何步步细化最终图像的每一个像素，从而确保生成的图像既...
-
AI大模型日报#0418：Stable Diffusion 3开放API、Meta新研究让AI Agent理解物理世界
导读： 欢迎阅读《AI大模型日报》，内容基于Python爬虫和LLM自动生成。目前采用“文心一言”生成了每条资讯的摘要。标题: 微软刚发布了VASA-1 这个人工智能可以让单张图像具有生动的说话和歌唱能力 摘要: 微软发布了VASA-1人工智能，...
-
阿里开源截止目前为止参数规模最大的Qwen1.5-110B模型：MMLU评测接近Llama-3-70B，略超Mixtral-8×22B！
本文原文来自DataLearnerAI官方网站：阿里开源截止目前为止参数规模最大的Qwen1.5-110B模型：MMLU评测接近Llama-3-70B，略超Mixtral-8×22B！ | 数据学习者官方网站(Datalearner https://www...
-
AI绘画：利用ComfyUI进行文生图操作的完整指南
前言 ComfyUI作为一款基于Stable Diffusion的节点式操作界面，为用户提供了一个更加灵活和高效的文生图（文本生成图像）创作环境。本篇博客将详细介绍如何使用ComfyUI进行文生图操作，无论你是初学者还是有一定基础的用户，都能够通过本指南...
-
AI独角兽集体求卖身，新一轮洗牌期开始了
大模型公司洗牌期开始了。 突然之间，几家明星初创纷纷传出消息，寻求收购。都是大家熟悉的名字、过往战绩也都不错: Adept，估值超10亿美元，由Transformer作者创立; Humane，估值7.5-10亿美元，打造出爆火AI新硬件AI Pin; S...
-
百度 | 如何白嫖文心一言4.0，偷偷的用！
文心一言4.0 官方价一个月 59.9，贵不贵，很贵啊 现在有个白嫖文心一言4.0的方法 分享给大家 效果比3.0好用 如何使用 这里用到文心智能体平台，也是百度出的，和字节跳动的coze很像 这里打开文心智能体平台，自行百度 或者公...
-
网站如何运用百度文心一言API进行AI内容创作？
网站如何运用百度文心一言API进行AI内容创作？ 当我们做好一个网站的时候会因为创作内容而发愁，随着chatgpt的出现，内容创作已经不再是什么困难的事情，但是由于gpt是国外的，在国内使用有诸多不便，因此我们今天主要来讲一下国内的ai领军文心一言ap...
-
中国首个！中国电信发布星辰超多方言混说语音大模型
快科技5月26日消息，日前，中国电信人工智能研究院发布业内首个支持30种方言自由混说的语音识别大模型星辰超多方言语音识别大模型。 该大模型解决了单一模型只能识别特定单一方言的痛点，能同时识别理解粤语、上海话、四川话、温州话等30多种方言，是国内支持最多方言...
-
【AIGC大模型】跑通wonder3D （windows）
这两天看了AI大神李某舟被封杀，课程被下架的新闻，TU商 认为：现在这种玩概念、徒具高大上外表却无实质内容的东西太多了，已经形成一种趋势和风潮，各行各业各圈层都在做大做强这种势，对了，这种行为的学名叫宣传，俗名叫营销，花名叫忽悠，真名叫骗人。老老实实做事...
-
llama-factory SFT系列教程 (二)，大模型在自定义数据集 lora 训练与部署
文章目录 简介 支持的模型列表 2. 添加自定义数据集 3. lora 微调 4. 大模型 + lora 权重，部署 问题 参考资料 简介 文章列表： llama-factory SFT系列教程 (一 ，大模型 API 部署与...
-
llama-factory SFT系列教程 (一)，大模型 API 部署与使用
文章目录 背景 简介 难点 前置条件 1. 大模型 api 部署 下一步阅读 背景 本来今天没有计划学 llama-factory，逐步跟着github的文档走，发现这框架确实挺方便，逐渐掌握了一些。 最近想使用 SFT 微调大模...
-
知识分享系列五：大模型与AIGC
大模型（LLM，Large Language Mode）是指通过在海量数据上依托强大算力资源进行训练后能完成大量不同下游任务的深度学习模型。大模型主要用于进行自然语言相关任务，给模型一些文本输入，它能返回相应的输出，完成的具体任务包括生成、分类、总结、改写...
-
完全指南：在MacOS M1上安装Stable Diffusion WebUI，零基础也能上手。
“ Stable Diffusion WebUI是一个开源界面，可以让用户轻松使用Stable Diffusion模型来生成图像。本教程将指导你在MacOS M1系统上安装和运行Stable Diffusion WebUI。” 关注 01 引言...
-
llama-factory/peft微调千问1.5-7b-chat
目标 使用COIG-CQIA数据集和通用sft数据集对qwen1.5-7b-chat进行sft微调，使用公开dpo数据集进行dpo对齐。学习千问的长度外推方法。 一、训练配置 使用Lora方式, 将lora改为full即可使用全量微调。具体的参数...
-
Llama 3开源！手把手带你推理，部署，微调
节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 汇总合集 《大模型面试...
-
【AIGC】本地部署通义千问 1.5 (PyTorch)
今天想分享一下 Qwen 1.5 官方用例的二次封装（ huggingface 说明页也有提供源码），其实没有太多的技术含量。主要是想记录一下如何从零开始在不使用第三方工具的前提下，以纯代码的方式本地部署一套大模型，相信这对于技术人员来说还是非常有用的。...
-
「AIGC」AIGC技术入门
人工智能（AI）领域的多个重要概念和实践。 一、思考问题 什么是AI? 什么是AIGC? 什么是AGI? 什么是模型? 什么是大模型(LLM ,什么是小模型? 什么是提示词工程?如何写提示词 什么是神经网络? 召回率是什么含义?...
-
Llama 3 开源了「GitHub 热点速览」
近日，Meta（原 Facebook）开源了他们公司的新一代大模型 Llama 3，虽然目前只放出了 8B 和 70B 两个版本，但是在评估结果上已经优于 Claude 3 Sonnet、Mistral Medium 和 GPT-3.5 等大模...
-
李飞飞：大模型不具备知觉，参数再多也不行
大模型已经具备知觉? AI教母李飞飞的最新回答旗帜鲜明:No。 她和斯坦福逻辑学家、哲学家John Etchemendy刚刚发表一篇合著文章，标题很直接: 文章中还写道: 这与图灵奖得主Yann LeCun的最新观点不谋而合。LeCun的言论还要更...
-
Llama3-8B+ LLaMA-Factory 中文微调
Llama3-8B+ LLaMA-Factory 中文微调 Llama3是目前开源大模型中最优秀的模型之一，但是原生的Llama3模型训练的中文语料占比非常低，因此在中文的表现方便略微欠佳！ 本教程就以Llama3-8B-Instruct开源模型为模...
-
Stable Diffusion【ControlNet】：ControlNet的IP-Adapter预处理器：SD垫图实现
大家好，今天我们来详细介绍一下ControlNet的预处理器IP-Adapter。简单来说它就是一个垫图的功能，我们在ControlNet插件上传一张图片，然后经过这个预处理器，我们的图片就会在这张上传的图片的基础上进行生成。该预处理器提供的垫图功能，让S...
-
使用LM Studio与Anything LLM基于Llama-3高效构建本地知识库系统
本文详细介绍了如何使用LM Studio和Anything LLM工具来构建和部署本地知识库。文中首先解释了安装和配置大模型的步骤，随后展示了如何将模型部署为后台服务，并通过API进行调用。此外，文章还涉及了如何使用这些工具快速构建知识库应用，包括知识库的...
-
LLaMA Factory在预测阶段时添加原有问题的实战代码
大家好，我是herosunly。985院校硕士毕业，现担任算法研究员一职，热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名，CCF比赛第二名，科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机...
-
Llama 3 开源！手把手带你进行大模型推理，部署，微调和评估
节前，我们组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 基于大模型实践和技术交流，我...
-
使用 ollama 部署最新的Llama 3 70B本地模型
一、ollama是什么? 在本地启动并运行大型语言模型。运行Llama 3，Mistral, Gemma, Code Llama和其他模型。自定义并创建您自己的。 综合优点： 快速下载+容器自动运行大模型，现在下载，马上上手。...
-
长文干货！老程序员测评文心一言4.0模型代码能力！
目录 前言：老程序员聊聊AI和国产大模型 第一关：代码质量和可用性——写个可运行的游戏代码 第二关：需求理解和记忆能力——多轮对话下的任务能力 总结 前言：老程序员聊聊AI和国产大模型 大家好，我是一名老程序员了，大模型出来后我算是一...
-
全网最全stable diffusion webui API调用示例，包含controlneth和segment anything的API（附json示例）
全网最全stable diffusion webui API调用示例，包含controlneth和segment anything的API（附json示例） 交流群 100419879 欢迎合作👏🏻 V ： 864399407 GitHub：https...
-
李飞飞亲自撰文：大模型不存在主观感觉能力，多少亿参数都不行
「空间智能是人工智能拼图中的关键一环。」知名「AI 教母」李飞飞曾这样表示。 近段时间，李飞飞开始把目光瞄准到这一领域，并为此创建了一家初创公司。她曾表示，「大自然创造了一个以空间智能为动力的观察和行动的良性循环。」她所在的斯坦福大学实验室正在尝试教计...
-
这些AI芯片创企想挑战英伟达，它们能成功吗？
科幻小说《沙丘》中有这样一句话：“谁控制了GPU，谁就控制了宇宙。”在今天的科技世界，如果哪家企业想在AI领域有所见树，就要购买英伟达GPU。 分析师们喋喋不休，将追逐AI梦想的企业分成两类，也就是“GPU-rich”和“GPU-poor”，前者拥有大...
-
阿里投资Kimi AI开发商月之暗面细节曝光：8亿美元换36%股权
快科技5月24日消息，日前阿里巴巴发布了2024财年年报，其中披露了一项投资细节：阿里巴巴在2024财年向AI初创公司月之暗面（Moonshot AI）投资约8亿美元，以此换取了该公司约36%的股权。 并且此次投资为优先股投资，显示了阿里巴巴对月之暗面及其...
-
惊掉下巴：GPT-4o现场爆改代码看图导航！OpenAI曝光LLM路线图，GPT Next年底发
这几天，在巴黎举办的最大科技活动VivaTech上，OpenAI再次带来了许多惊喜。 从展示的模型智能进化路线图中，可以确定的是，今年OpenAI一定会发布新一代旗舰模型。 而且，大概率不会以GPT-5命名，演示中将其称之为「GPT Next」。 那么...
-
定制自己的 AI 角色CustomChar；AI知识点和面试题；提高llama 3 的微调速度Unsloth
✨ 1: CustomChar 允许你创建和定制自己的 AI 角色 CustomChar 是一个开源项目，它允许你创建和定制自己的 AI 角色。无论是游戏中的角色，还是个人的虚拟助手（比如电脑上的 JARVIS），甚至是在线教育体验中的虚拟...
-
重建Meta帝国：用AI“回敬”TikTok
数据支持 | 洞见数据研究院 2023年5月，美国白宫举办了一场AI主题闭门会，嘉宾名单汇聚了中青少三代——老资历谷歌、微软，新星OpenAI，初创的Anthropic，却唯独没有Meta。 甚至会后，官方的回应又给了扎克伯格一击:“目前在该领域处于领先地...
-
谷歌AI搜索闯大祸！建议网友吃石头、毒蘑菇，把胶水加到披萨上，评论区炸了
谷歌AI又闯大祸！ 没认出毒蘑菇、建议用户吃石头、把胶水加到披萨上，瞬间招来海量批评。 图片 事情是这样的： 有网友在谷歌搜索寻找“芝士和披萨粘不到一块”的解决办法。AI直接在顶部给出总结指导，看似有模有样，却暗藏陷阱。 你还可以把1/8杯的无毒胶水加到...
-
京东宣布五大方面升级保障618！首次应用大模型、员工倒班调休
快科技5月24日消息，京东618将于5月31日20:00开启，京东物流今日宣布五大方面”全线升级保障618。 据了解，这五大方面包括技术升级，电商仓、保税仓升级，揽派、以旧换新等服务升级，物流升级，员工关怀升级。 京东表示，今年618期间，京东物流首次深度...
-
LLamaFactory：当下最容易上手的大模型微调工具
近日，国内的一款微调框架发布了自己的论文《LLAMAFACTORY: Unified Efficient Fine-Tuning of 100+ Language Models》，对他们的框架做了系统性的总结。该框架自推出后迅速出圈，现已斩获15.6k的s...
-
如何使用代理ip服务高效采集最新AIGC前沿信息
目录 前言 一、代理ip介绍以及面临的挑战 二、获取AIGC前沿信息缺口 1、最新AIGC前沿信息来源 2、确定关键字 3、可能涉及到的字段 三、使用代理ip抓取数据 1、选择代理ip服务 2、如何使用BrightData代理ip抓取数据...
-
OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺
人工智能（AI）的安全问题，正以前所未有的关注度在全球范围内被讨论。 日前，OpenAI 联合创始人、首席科学家 Ilya Sutskever 与 OpenAI 超级对齐团队共同领导人 Jan Leike 相继离开 OpenAI，Leike 甚至在 X...
-
中国AI独角兽资本大冒险
冰火两重天。 成立不过一年多时间，月之暗面已然成为中国大模型赛道上，最炙手可热的明星公司。 5 月 21 日，华尔街见闻获悉，月之暗面将按照投前估值 30 亿美元（合217. 3 亿人民币）进行融资，完成后依然是当前中国估值最高的AI创业公司。 过去一年，...
-
蔡崇信吴泳铭发布上任首封致股东信：AI将带来巨大机遇
昨日，蔡崇信、吴泳铭发布了第一封联合署名的致股东信。 在信中，蔡崇信、吴泳铭表示，未来十年，没有哪个行业能免于AI带来的颠覆。AI不会为旧的做事方式提供保护，而是重新点燃我们的创业激情和想象力。我们的每个业务都有大量应用场景，所有场景都可以通过人工智能创造...
-
Stable Diffusion AI绘画
我们今天来了解一下最近很火的SD模型 ✨在人工智能领域，生成模型一直是研究的热点之一。随着深度学习技术的飞速发展，一种名为Stable Diffusion的新型生成模型引起了广泛关注。Stable Diffusion是一种基于概率的生成模型，它可以学...
-
Stable Diffusion教程：LoRA模型
LoRA模型是一种微调模型，它不能独立生成图片，常常用作大模型的补充，用来生成某种特定主体或者风格的图片。 下载模型 在模型下载网站，如果模型是LoRA模型，网站会特别标识出来。以 liblib.ai为例： 模型左上角会有一个模型类型的标记，CHE...
-
LlamaFactory 进行大模型 llama3 微调，轻松上手体验学习
节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 汇总合集：《大模型面试宝典...
-
ChatGPT 4.0 直接用 ！！！Code Copilot编程大模型、DALL-E AI绘图、绘制流程图、上传文件
嗨，你好呀，我是哪吒。 这一年最让人揪心的热点，就是各种层出不穷的AI技术。 原以为它只是短暂霸屏，但现实却赤裸裸展示了，什么叫AI抢走你的饭碗，连招呼都不打一声! 什么策划方案、公众号文案、营销卖点、宣传海报，打工人辛辛苦苦掌握到手的技能，却被AI...
-
为什么并非所有的企业都该拥抱AIGC？
原始撰稿 从大的趋势上来看，肯定是所有的企业都要拥抱大模型或者是拥抱AI的。但是目前从我们对于很多大模型的测评结果与第三方视角来看，大部分企业的核心业务、生产流程还是不太能够依赖大模型的，现在还是属于在相对边缘的业务上做一些尝试，可能成本的下降不是直接...
-
LLaMA Factory单机微调的实战教程
大家好，我是herosunly。985院校硕士毕业，现担任算法研究员一职，热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名，CCF比赛第二名，科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机...