-
【ComfyUI】安装 之 window版
文章目录 序言 步骤 下载comfyUI 配置大模型和vae 下载依赖组件 启动 生成图片 解决办法 序言 由于stable diffusion web ui无法做到对流程进行控制，只是点击个生成按钮后，一切都交给AI来处理。...
-
矩阵模拟！Transformer大模型3D可视化，GPT-3、Nano-GPT每一层清晰可见
「矩阵模拟」的世界或许真的存在。模拟人类神经元，不断进化的Transformer模型，一直以来都深不可测。 许多科学家都试着打开这个黑盒，看看究竟是如何工作的。 而现在，大模型的矩阵世界，真的被打开了！ 一位软件工程师Brendan Bycroft制作了...
-
突破分辨率极限，字节联合中科大提出多模态文档大模型
现在连文档都有大模型了，还是高分辨率、多模态的那种! 不仅能准确识别出图像里的信息，还能结合用户需求调用自己的知识库来回答问题。 比如，看到图中马里奥的界面，直接就回答出了这是任天堂公司的作品。 这款模型由字节跳动和中国科学技术大学合作研究，于2023年...
-
开源大模型框架llama.cpp使用C++ api开发入门
llama.cpp是一个C++编写的轻量级开源类AIGC大模型框架，可以支持在消费级普通设备上本地部署运行大模型，以及作为依赖库集成的到应用程序中提供类GPT的功能。 以下基于llama.cpp的源码利用C++ api来开发实例demo演示加载本地模型文...
-
使用您自己的计算机训练 Stable Diffusion 和 Bloom (175B) 等模型
在我们最近的几篇文章中，我们一直在提到围绕大型语言和生成 AI 模型的炒作，以及如何减少推理和训练时间。随着我们的用户开始使用这些模型并对其进行微调，他们自然希望微调和部署包含数千亿参数的模型，以提高其特定用例的性能。 通常，这是一项要求非常高的任务，需...
-
Stable Diffusion（Huggingface的方式安装）
Huggingface的方式安装 在Huggingface个人目录下有一个token号，这个tokens号要在服务器登陆的过程中进行添加； 1，在服务器登陆要输入huggingface登陆： huggingface-cli login # READ...
-
Meta 首席科学家 Yann LeCun 认为 AI 超级智能不会很快到来，对量子计算持怀疑态度
在 Meta 庆祝其基础 AI 研究团队成立 10 周年的活动中，该公司首席科学家兼深度学习先驱 Yann LeCun 表达了对当前人工智能系统发展的看法。LeCun 认为，现有 AI 系统距离达到某种程度的自我意识，具备推动其能力超越仅仅以创造性方式总结...
-
AIGC（生成式AI）试用 0 -- 如何测试此类应用
0. 起因 RPA主导的机器人流程自动化风头正劲 AI由来已久 生成式AI正在改变着工作和生活的方式 生成式AI工具不断更新换代 思考的问题，生成式AI： - 能实现什么？ - 不同工具间的区别？ - 如何测试此类工具？ 似乎想的有点多、有点大。何是...
-
手机上0.2秒出图、当前速度之最，谷歌打造超快扩散模型MobileDiffusion
在手机等移动端侧运行 Stable Diffusion 等文生图生成式 AI 大模型已经成为业界追逐的热点之一，其中生成速度是主要的制约因素。 近日，来自谷歌的一篇论文「MobileDiffusion: Subsecond Text-to-Image G...
-
Meta教你5步学会用Llama2：我见过最简单的大模型教学
在这篇博客中，Meta 探讨了使用 Llama 2 的五个步骤，以便使用者在自己的项目中充分利用 Llama 2 的优势。同时详细介绍 Llama 2 的关键概念、设置方法、可用资源，并提供一步步设置和运行 Llama 2 的流程。 Meta 开源的 L...
-
LLaMA-Adapter源码解析
LLaMA-Adapter源码解析 伪代码 def transformer_block_with_llama_adapter(x, gating_factor, soft_prompt : residual =x y= zero_init_...
-
谷歌Bard：ChatGPT之外的第三选择
2023年年初，为了对应ChatGPT方面的压力，谷歌Bard仓促上线，此后便进入了低调前行。目前为止已经迭代了9个版本，也就是在近期的版本更新中支持了中文（简体/繁体）语言，对国内用户可以说又友好了一步。 https://bard.go...
-
一言不合就跑分，国内AI大模型为何沉迷于“刷榜”
“不服跑个分”这句话，相信关注手机圈的朋友一定不会感到陌生。诸如安兔兔、GeekBench等理论性能测试软件，由于能够在一定程度上反映手机的性能，因此备受玩家的关注。同理在PC处理器、显卡上，同样也有相应的跑分软件来衡量它们的性能。 既然“万物皆可跑分”，...
-
AIGC时代，大模型微调如何发挥最大作用？
人工智能的快速发展推动了大模型的广泛应用，它们在语言、视觉、语音等领域的应用效果已经越来越好。但是，训练一个大模型需要巨大的计算资源和时间，为了减少这种资源的浪费，微调已经成为一种流行的技术。微调是指在预训练模型的基础上，通过在小数据集上的训练来适应新的任...
-
【深度学习】Stable Diffusion AI 绘画项目搭建详解，并运行案例
文章目录 前言 1.安装环境 1.1 基础环境 1.2 权重文件 2.牛刀小试 2.1 用法在这里 3.封装api 总结 前言 先把人家的git放过来：https://github.com/CompVis/stable-dif...
-
AI绘画本地部署Stable Diffusion web UI
AI绘画本地部署Stable Diffusion web UI 一 、项目介绍 A browser interface based on Gradio library for Stable Diffusion. 项目地址：GitHub - AUTOM...
-
Meta语言模型LLaMA解读：模型的下载部署与运行代码
文章目录 llama2 体验地址 模型下载 下载步骤 准备工作 什么是Git LFS 下载huggingface模型 模型运行代码 llama2 Meta最新语言模型LLaMA解读，LLaMA是Facebook AI Re...
-
Linux 中的机器学习：Whisper——自动语音识别系统
Whisper 是一种自动语音识别 (ASR 系统，使用从网络收集的 680000 小时多语言和多任务数据进行训练，Whisper 由深度学习和神经网络提供支持，是一种基于 PyTorch 构建的自然语言处理系统，这是免费的开源软件。 安装Whisp...
-
大模型入门（一）—— LLaMa/Alpaca/Vicuna
LLaMa模型是Meta开源的大模型，模型参数从7B到65B不等，LLaMa-7B在大多数基准测试上超过了GPT3-173B，而LLaMa-65B和Chinchilla-70B、PaLM-540B相比也极具竞争力。相比于ChatGPT或者GPT4来说，LL...
-
LLMs之Colossal-LLaMA-2：Colossal-LLaMA-2的简介(基于LLaMA-2架构+中文优化+扩充词表+仅千美元成本)、安装、使用方法之详细攻略
LLMs之Colossal-LLaMA-2：Colossal-LLaMA-2的简介(基于LLaMA-2架构+中文优化+扩充词表+仅千美元成本 、安装、使用方法之详细攻略 导读：2023年9月25日，Colossal-AI团队推出了开源模型Colos...
-
Ubuntu 20.04 LTS x86_64 安装 stable-diffusion-webui
官网 Stable Diffusion官网 Stability AI 官方github GitHub - Stability-AI/stablediffusion: High-Resolution Image Synthesis with L...
-
本地部署LLaMA-中文LoRA部署详细说明
在Ubuntu18.04 部署中文LLaMA模型 环境准备 硬件环境 AMD 5950X 128GB RAM RTX 3090(24G VRAM 操作系统 Ubuntu 18.04 编译环境(可选 llama...
-
简单尝试：ChatGLM-6B + Stable diffusion管道连接
核心思想是： 1. 抛去算法设计方面，仅从工程角度考虑的话，Stable diffusion的潜力挖掘几乎完全受输入文字影响。 2. BLIP2所代表的一类多模态模型走的路线是"扩展赋能LLM模型"，思路简单清晰，收益明显。LLM + Stable d...
-
stable-diffusion-webui的安装教程 ubuntu
自动安装 先clone代码： git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui 要在不创建虚拟环境的情况下通过 pip 安装所需的包，运行： python launc...
-
LLaMA: Open and Efficient Foundation Language Models
背景 用最少的计算资源，解决了LLM大模型预测问题，训练了一些列的LLaMa模型，在参数量比较少的情况下，达到业界大模型效果。 主要贡献就是提升了LLM模型的训练速度和效率，在小容量的基础上，大大提升了模型的效果。 同时由于模型结构更小更简单，大大提升...
-
文本生成图像工作简述4--扩散模型、自回归模型、生成对抗网络的对比调研
基于近年来图像处理和语言理解方面的技术突破，融合图像和文本处理的多模态任务获得了广泛的关注并取得了显著成功。 文本生成图像（text-to-image）是图像和文本处理的多模态任务的一项子任务，其根据给定文本生成符合描述的真实图像，具有巨大的应用潜力，如...
-
为什么多数情况下GPT-3.5比LLaMA 2更便宜？
本文旨在为用户选择合适的开源或闭源语言模型提供指导，以便在不同任务需求下获得更高的性价比。 通过测试比较 LLaMA-2 和 GPT-3.5 的成本和时延，本文作者分别计算了二者的 1000 词元成本，证明在大多数情况下，选择 GPT...
-
文献阅读：LLaMA: Open and Efficient Foundation Language Models
文献阅读：LLaMA: Open and Efficient Foundation Language Models 1. 文章简介 2. 模型训练 1. 训练数据 2. 模型结构 3. 模型训练 1. Optimiz...
-
微软亚洲研究院韦福如：人工智能基础创新的第二增长曲线
从人工智能的发展历程来看，GPT 系列模型（例如 ChatGPT 和 GPT-4）的问世无疑是一个重要的里程碑。由它所驱动的人工智能应用已经展现出高度的通用性和可用性，并且能够覆盖多个场景和行业 —— 这在人工智能的历史上前所未有。 然而，人工智能的科研...
-
大模型部署手记（12）LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+text-gen+中文对话
1.简介： 组织机构：Meta（Facebook） 代码仓：https://github.com/facebookresearch/llama 模型：chinese-alpaca-2-7b-hf 下载：使用百度网盘下载 硬件环境：暗影精灵7Plu...
-
使用PyTorch加速生成式 AI模型
PyTorch 团队发布了一篇名为《Accelerating Generative AI with PyTorch II: GPT， Fast》的博文，重点介绍如何使用纯原生 PyTorch 加速生成式 AI 模型。 正如最近在PyTorch 开发者大会上...
-
【LLM系列之底座模型对比】LLaMA、Palm、GLM、BLOOM、GPT模型结构对比
LLama [GPT3] 使用RMSNorm（即Root Mean square Layer Normalization）对输入数据进行标准化，RMSNorm可以参考论文：Root mean square layer normalization。 [...
-
CHATGPT学习midjourney提示词
Priming GPT-4 for Midjourney V5 1. Hello : Today we are gonna create Images with a Diffusion model. I am gonna feed you some in...
-
独立开发者案例：每周4h月入数万刀；国家数据局与时代红利；创业前先买个域名；工程师成长最重要的是什么 | ShowMeAI周刊
这是ShowMeAI周刊的第6期。聚焦AI领域本周热点，及其在各圈层泛起的涟漪；关注AI技术进步，并提供我们的商业洞察。欢迎关注与订阅！?日报合辑 ⌛ 独立开发者案例：每周只工作4小时，独立开发者打造月入数万美金的歌词网站 创业一定需要...
-
百度商业AI 技术创新大赛赛道二：AIGC推理性能优化TOP10之经验分享
朋友们，AIGC性能优化大赛已经结束了，看新闻很多队员已经完成了答辩和领奖环节，我根据内幕人了解到，比赛的最终代码及结果是不会分享出来的，因为办比赛的目的就是吸引最优秀的代码然后给公司节省自己开发的成本，相当于外包出去了，应该是不会公开的。抱着技术共享及开...
-
用上这个工具包，大模型推理性能加速达40倍
英特尔® Extension for Transformer是什么？ 英特尔® Extension for Transformers[1]是英特尔推出的一个创新工具包，可基于英特尔® 架构平台，尤其是第四代英特尔® 至强® 可扩展处理器（代号Sapp...
-
英特尔推Extension for Transformers工具包 大模型推理性能提升40倍
在当前技术发展的背景下，英特尔公司推出的Extension for Transformers工具包成为一个重要创新，实现了在CPU上对大型语言模型（LLM）推理性能的显著加速。该工具包通过LLM Runtime技术，优化了内核，支持多种量化选择，提供更优的...
-
使用Accelerate库在多GPU上进行LLM推理
大型语言模型(llm 已经彻底改变了自然语言处理领域。随着这些模型在规模和复杂性上的增长，推理的计算需求也显著增加。为了应对这一挑战利用多个gpu变得至关重要。 所以本文将在多个gpu上并行执行推理，主要包括：Accelerate库介绍，简单的方法与工...
-
聊一聊大模型 | 京东云技术团队
事情还得从ChatGPT说起。 2022年12月OpenAI发布了自然语言生成模型ChatGPT，一个可以基于用户输入文本自动生成回答的人工智能体。它有着赶超人类的自然对话程度以及逆天的学识。一时间引爆了整个人工智能界，各大巨头也纷纷跟进发布了自家的大模...
-
LLM-LLaMA：手动模型转换与合并【Step 1: 将原版LLaMA模型转换为HF(HuggingFace)格式；Step 2: 合并LoRA权重，生成全量模型权重】
准备工作 运行前确保拉取仓库最新版代码：git pull 确保机器有足够的内存加载完整模型（例如7B模型需要13-15G）以进行合并模型操作。 务必确认基模型和下载的LoRA模型完整性，检查是否与SHA256.md所示的值一致，否则无法进行合并...
-
使用 RLHF 训练 LLaMA 的实践指南：StackLLaMA
由于LLaMA没有使用RLHF，后来有一个初创公司 Nebuly AI使用LangChain agent生成的数据集对LLaMA模型使用了RLHF进行学习，得到了ChatLLaMA模型，详情请参考：Meta开源的LLaMA性能真如论文所述吗？如果增加RLH...
-
【AI作画】使用stable-diffusion-webui搭建AI作画平台
一、安装配置Anaconda 进入官网下载安装包https://www.anaconda.com/并安装，然后将Anaconda配置到环境变量中。 打开命令行，依次通过如下命令创建Python运行虚拟环境。 conda env create n...
-
LLaMA 的学习笔记
LLaMA 是一种用于自然语言处理的深度学习模型，它的全称是 Language Learning with Adaptive Multi-task Architecture。它的主要特点是能够根据不同的任务自适应地调整模型结构和参数，从而提高模型的泛化能力...
-
Llama 2 来袭 - 在 Hugging Face 上玩转它
? 宝子们可以戳 阅读原文 查看文中所有的外部链接哟！ 引言 今天，Meta 发布了 Llama 2，其包含了一系列最先进的开放大语言模型，我们很高兴能够将其全面集成入 Hugging Face，并全力支持其发布。Llama 2...
-
微软推出ML.NET 3.0版本，扩展了深度学习功能
11月29日消息，据外媒报道，微软日前发布了ML.NET 3.0，这是该公司开源、跨平台机器学习框架的最新版本，可以将机器学习模型集成到.NET应用程序中。 ML.NET 3.0在对象检测、命名实体识别和问题回答方面包含了新的深度学习功能。通过与Tor...
-
微软推出跨平台框架 ML.NET 3.0 版本：强化深度学习功能、加强 AI 计算效率
IT之家 11 月 29 日消息，微软日前宣布推出跨平台机器学习框架 ML.NET 3.0，主要强化了深度学习功能，改进 ML.NET 数据处理能力，并添加了英特尔 oneDAL 加速训练技术，以及自动机器学习等功能。 ▲ 图源微软 IT之家注意到，M...
-
斯坦福美女博士创业项目爆火！AI视频生成出道即顶流
斯坦福华人博士休学搞创业，直接火爆AI圈！ 新产品瞄准AI视频生成，刚出道就成行业顶流，引来一众大佬围观评价。 OpenAI大牛Andrej Karpathy转发，并激情附上长文一段： 每个人都能成为多模态梦境的导演，就像《盗梦空间》里的筑梦师一样。...
-
大模型部署实战（一）——Ziya-LLaMA-13B
❤️觉得内容不错的话，欢迎点赞收藏加关注???，后续会继续输入更多优质内容❤️ ?有问题欢迎大家加关注私戳或者评论（包括但不限于NLP算法相关，linux学习相关，读研读博相关......）? 博主原文链接：https://www.yo...
-
chatgpt VS 文心一言使用对比实测
chatgpt VS 文心一言使用对比实测 什么是文心一言 文心一言（英语：ERNIE Bot）是由百度公司开发的聊天机器人，能够与人交互、回答问题及协作创作。该产品被传媒称为国际著名聊天机器人ChatGPT的中国版及其竞争对手[1][2]。...
-
服务器CentOS 7 安装 Stable Diffusion WebUI ，并映射到本地浏览器
目录 配置环境 下载安装Stable Diffusion WebUI 解决安装过程的报错 报错一： Couldn't checkout {name}'s hash: {commithash} 报错二：Couldn't determine St...