-
Datawhale AI夏令营第四期 AIGC方向 task02 初学者笔记
一、Prompt工程介绍:1、概念： Prompt工程，也称为提示工程或指令工程，是在自然语言处理（NLP）领域中一种重要的技术和方法。它主要用于指导预训练的大规模语言模型（Large Language Models, LLMs）生成高质量、准确且有针对...
-
Datawhale X 魔搭 AI夏令营–AIGC Task1
Datawhale X 魔搭 AI夏令营–AIGC Task1 文章目录 Datawhale X 魔搭 AI夏令营--AIGC Task1 赛事介绍 文生图基础知识介绍 实践操作 step0：开通阿里云PAI-DSW试用 step1...
-
Datawhale X 魔搭 AI夏令营 “AIGC”方向 task1
一、任务要求 task1 的任务和上一期的类似，都是跑通给出的代码即可，没有太大难度。 具体要求是训练 Lora 模型，实现文生图，额外的要求是8张图片必须组成一个连贯的故事，需要一定的“写小作文”能力。 二、代码解析 下载数据集 这一步不用分析...
-
LLAMA Factory: 简洁高效的大语言模型训练平台
LLAMA Factory: 简洁高效的大语言模型训练平台 LLaMA-Factory易于使用的LLM微调框架（LLaMA, BLOOM, Mistral, 百川， Qwen, ChatGLM）。项目地址:https://gitcode.com/gh_...
-
大模型落地：GPU向上，NPU向下
自从ChatGPT问世以来，大模型取得了迅猛的发展。不仅是在ChatGPT本身这一自然语言处理领域取得了重要进展，而且在视频领域也有令人瞩目的大模型，比如DINOv2，它可以对视频图像进行语义理解。此外，SAM是一种能够对场景进行细粒度分割的模型。这些进展...
-
Datawhale X 魔搭 AI夏令营-AIGC文生图-task1-笔记
目录 1 赛题解读 2 文生图的历史 3 文生图基础知识介绍 3.1 提示词 3.2 Lora 3.3 ComfyUI 3.4 参考图控制 4 实践-通过代码完成模型微调&AI生图-Test 4.1 体验base...
-
LLaMA-Factory全面指南：从训练到部署
项目背景与概述 LLaMA-Factory项目目标 LLaMA-Factory项目是一个专注于大模型训练、微调、推理和部署的开源平台。其主要目标是提供一个全面且高效的解决方案，帮助研究人员和开发者快速实现大模型的定制化需求。具体来说，LLaMA-F...
-
探索中文智能的未来：Chinese-LLaMA-Alpaca-3 项目深度解析
探索中文智能的未来：Chinese-LLaMA-Alpaca-3 项目深度解析 Chinese-LLaMA-Alpacaymcui/Chinese-LLaMA-Alpaca 是一个基于 LLaMA 的中文自然语言处理模型。适合在自然语言处理、机器学习和...
-
普通程序员必看！AIGC工程师岗位兴起，掌握AI技术成就高薪未来
随着人工智能技术的迅猛发展，AIGC（AI Generated Content）已成为行业的新热点。作为普通程序员，面对这一变革，我们需要不断学习和掌握新的AI技术，以适应时代的需要。AIGC工程师这一新兴岗位也应运而生。 什么是AIGC工程师？...
-
【Qwen2微调实战】Lora微调Qwen2-7B-Instruct实践指南
系列篇章? No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...
-
Datawhale X 魔塔 AI夏令营第四期-AIGC文生图方向 Task1笔记
一、文生图背景 文生图（Text-to-Image Generation）是一种通过文本生成图像的技术，其发展历程可以追溯到早期的计算机视觉和自然语言处理研究。文生图的概念最早出现于计算机视觉和图像处理的早期研究中。早期的图像生成技术主要...
-
Datawhale AI夏令营第四期魔搭-AIGC文生图方向Task1笔记--切记我是一个温柔的刀客
Datawhale AI夏令营第四期魔搭-AIGC文生图方向Task1笔记 作者: 福州大学 切记我是一个温柔的刀客 2024/8/10 从零入门AI生图原理&实践 是 Datawhale 2024 年 AI 夏令营第四期的学习活...
-
Llama 3.1横空出世！开源巨无霸首次击溃闭源，全民GPT-4时代来临
新智元2024-07-24 12:30北京 编辑：编辑部 【新智元导读】大模型格局，再次一夜变天。Llama 3.1 405B重磅登场，在多项测试中一举超越GPT-4o和Claude 3.5 Sonnet。史上首次，开源模型击败当今最强闭源模型。小扎大...
-
Datawhale X 魔搭 AI夏令营第四期AIGC文生图方向Task1笔记
目录 前置知识 生成对抗网络（GAN） 大规模预训练模型 LoRA baseline一站式实现过程 下载baseline文件 安装环境，然后重启kernel 调整prompt 总结 前置知识 指导手册里写得很详细，这里写一...
-
LLaMA-Factory 大模型微调超简单，从零开始玩转大模型微调
目录 LLaMA-Factory 大模型微调超简单，从零开始开始玩转大模型微调 为什么要使用LLaMA-Factory进行微调？ 如何使用LLaMA-Factory进行微调？ 安装 启动 数据准备 Alpaca 格式 指令监督微调数据集...
-
Llama 3.1用了1.6万个英伟达H100 GPU，耗费......
目录 Llama 3.1发布简介 Llama 3.1模型规模与训练 大模型企业发展面临的问题与困境 算力和能耗算力方面 数据和资金方面 技术和人才方面 Llama 3.1发布简介 当地时间 2024年 7月 23号，Meta 公司发布...
-
Datawhale X 魔搭 AI夏令营第四期 | AIGC文生图——可图Kolors-LoRA风格故事 Task1笔记
Hi，大家好，我是半亩花海。最近在尝试学习AIGC的内容，并报名参加了Datawhale举办的2024年AI第四期夏令营，主要学习内容是从零入门AI生图原理和实践。本次活动基于魔搭社区“可图Kolors-LoRA风格故事挑战赛”进而开展的项目实践学习，很适...
-
Character.AI组团投身谷歌 AI小厂为何难逃「卖身」宿命？
又一家AI独角兽公司被大厂“收编”。8月2日，AI创业公司Character.AI的联合创始人、CEO Noam Shazeer 加入DeepMind团队，双方还签了个非独家协议:Character.AI授权谷歌使用其模型，谷歌则为Character.AI...
-
Datawhale X 魔搭 AI夏令营第四期AIGC task1
本期夏令营AIGC方向是通过参加可图Kolors-LoRA风格故事挑战赛https://tianchi.aliyun.com/competition/entrance/532254，学习并实践文生图AIGC、工作流搭建、LoRA微调等技术。 赛题内容...
-
开源模型应用落地-qwen2-7b-instruct-LoRA微调-LLaMA-Factory（五）
一、前言 本篇文章将使用LLaMA-Factory去高效微调QWen2系列模型，通过阅读本文，您将能够更好地掌握这些关键技术，理解其中的关键技术要点，并应用于自己的项目中。 二、术语介绍 2.1. LoRA微调 LoRA (Low...
-
AIGC大模型面经汇总，太全了！
字节 暑期实习 多模态算法 (二面凉经 一面 2024/3/28 下午17:00-18:00 1.上来没有自我介绍 2.直接介绍NeurIPS论文，中间穿插着一些提问 3.说一下Transformer的整体结构 4.了解有哪些位置编码方式吗 5.说一...
-
The Llama 3 Herd of Models 第8部分语音实验部分全文
第1,2,3部分，介绍、概览、预训练 第4部分，后训练 第5部分，结果 第6部分，推理 第7部分，视觉实验 8 Speech Experiments 我们进行了实验来研究将语音功能集成到Llama 3中的组合方法，类似于我们用于...
-
隆重推出 Llama 3.1： 迄今为止最强大的开源模型
The gates of heaven open: Llama 3.1 405B, the most capable models to date from Meta, is competitive with leading foundation mode...
-
Huatuo Llama Med Chinese 教程
Huatuo Llama Med Chinese 教程 Huatuo-Llama-Med-ChineseRepo for BenTsao [original name: HuaTuo (华驼 ], Instruction-tuning Large La...
-
探索中文大模型的新高度：Chinese-LLaMA-Alpaca-3
探索中文大模型的新高度：Chinese-LLaMA-Alpaca-3 Chinese-LLaMA-Alpaca-3中文羊驼大模型三期项目 (Chinese Llama-3 LLMs developed from Meta Llama 3项目地址:ht...
-
【AIGC学习】一文带你了解AIGC基础知识（适用于AI入门/小白）
▌导读 写关于AI的文章内容已有一段时间，不少同学问博主怎么学习AI？有没有系统性学习AI知识及教程？ 在这里，锅头整理了AIGC的基础知识和本文学习思维导图，方便提炼重点和学习总结。 在过去的几十年中，人工智能（AI）从科幻小说中的异想...
-
怎么使用Stable diffusion中的models
Stable diffusion中的models Stable diffusion model也可以叫做checkpoint model，是预先训练好的Stable diffusion权重，用于生成特定风格的图像。模型生成的图像类型取决于训练图像。...
-
Datawhale X 魔搭 AI夏令营 第四期魔搭-AIGC文生图方向Task1笔记
（赛题链接：可图Kolors-LoRA风格故事挑战赛_创新应用大赛_天池大赛） （学习链接：从零入门AI生图原理&实践） 速通指南 ...
-
【AIGC】文心一言大模型使用教程：从入门到精通
引言 文心一言，作为百度强大的自然语言处理大模型，凭借其深厚的语言理解和生成能力，在文本创作、问答系统、智能客服等多个领域展现出巨大的潜力。本教程旨在帮助初学者及进阶用户全面了解文心一言大模型，掌握其调用方法、使用技巧，并通过实际案例提升使用效率。 一...
-
Datawhale AI夏令营第四期 魔搭-AIGC方向 task01笔记
目录 赛题内容 可图Kolors-LoRA风格故事挑战赛 baseline要点讲解(请配合Datawhale速通教程食用 Step1 设置算例及比赛账号的报名和授权 Step2 进行赛事报名并创建PAI实例 Step3 执行basel...
-
阿里开源新语音模型，比OpenAI的Whisper更好！
阿里巴巴在Qwen-Audio基础之上，开源了最新语音模型Qwen2-Audio。 Qwen2-Audio一共有基础和指令微调两个版本，支持使用语音向音频模型进行提问并识别内容以及语音分析。 例如，让一位女生说一段话，然后识别她的年纪或解读她的心情;发布一...
-
LLaMA-Factory
文章目录 一、关于 LLaMA-Factory 项目特色 性能指标 二、如何使用 1、安装 LLaMA Factory 2、数据准备 3、快速开始 4、LLaMA Board 可视化微调 5、构建 Docker CUDA 用户： 昇腾...
-
GPT-4o模仿人类声音，诡异尖叫引OpenAI研究员恐慌！32页技术报告出炉
【新智元导读】五颗草莓到底指什么?盼了一天一夜，OpenAI只发来一份32页安全报告。报告揭露:在少数情况下，GPT-4o会模仿你的声音说话，或者忽然大叫起来……事情变得有趣了。 昨天奥特曼率众人搞了一波「草莓暗示」的大阵仗，全网都在翘首以盼OpenAI的...
-
从LLaMa 3 技术报告，再看LLM构建过程 ——《带你自学大语言模型》系列（番外）
本系列目录 《带你自学大语言模型》系列部分目录及计划，完整版目录见：带你自学大语言模型系列 —— 前言 第一部分 走进大语言模型（科普向） 第一章 走进大语言模型 1.1 从图灵机到GPT，人工智能经历了什么？——《带你自学大语言模型...
-
阿里开源新模型：超GPT-4o，数学能力全球第一！
阿里巴巴开源了最新数学模型Qwen2-Math，一共有基础和指令微调两种版本，包括1.5B、7B和72B三种参数。 根据阿里在主流数学基准测试显示，Qwen2-Math-72B指令微调版本的性能超过了GPT-4o、Cloude-3.5-Sonnet、Gem...
-
【人工智能AIGC技术开发】3.浅谈大话人工智能AIGC：几种AIGC底层技术的代码详解
为了更好地理解AIGC（AI Generated Content，人工智能生成内容）的底层技术，我们将详细介绍几种关键技术。这些技术包括深度学习、生成对抗网络（GANs）、变分自编码器（VAEs）和自回归模型（如Transformer和GPT）。 1....
-
谷歌发布大模型数据筛选方法：效率提升13倍，算力降低10倍
随着GPT-4o、Gemini等多模态大模型的出现，对训练数据的需求呈指数级上升。无论是自然语言文本理解、计算机视觉还是语音识别，使用精心标注的数据集能带来显著的性能提升，同时大幅减少所需的训练数据量。 但目前多数模型的数据处理流程严重依赖于人工筛选，不仅...
-
阿里国际推出首个专业版AI Search，为什么它会是下一个B2B谷歌？
经历过「千模大战」的喧嚣，一年半之后，生成式 AI 的应用层创新终于步入爆发期。 年初的 Sora 激起一阵 AI + 视频生成的浪潮。涟漪未散，OpenAI 新的 SearchGPT 又燃起了 AI + 搜索的战火。 AI + 搜索，这其实是生成式 AI...
-
揭秘LoRA：利用深度学习原理在Stable Diffusion中打造完美图像生成的秘密武器
文章目录 引言 LoRA的原理 LoRA在角色生成中的应用 LoRA在风格生成中的应用 LoRA在概念生成中的应用 LoRA在服装生成中的应用 LoRA在物体生成中的应用 结论 引言 在生成式人工智能领域，图像生成模型如Sta...
-
AIGC核心剖析：NLP与生成模型的协同作用
目录 AIGC核心剖析：NLP与生成模型的协同作用 NLP的基础与挑战 生成模型的强大能力 NLP与生成模型的协同作用 1. 机器翻译 2. 文本摘要 3. 对话系统 结论 AIGC核心剖析：NLP与生成模型的协同作用 在人工智能...
-
AI绘画；（Stable Diffusion进阶篇：模型训练）
前言 在上一篇笔记中学习了解了一部分关于Stable Diffusion的运行原理，今天就来接着学习下Stable Diffusion关于微调训练方面的知识点。 今天没多少废话，因为我下午要去玩PTCG！让我们冲冲冲 整理和输出教程属实不易，觉得这...
-
最强大模型 Llama 3.1-405B 架构设计剖析
—1— 最强大模型 Llama 3.1-405B 简介 在历经了两天的提前“泄露风波”后，Llama 3.1 终于正式揭开面纱，由官方对外公布。 新版 Llama 3.1 将其上下文处理能力扩展至 128K，推出了 8B、70B 及 405B 三个不...
-
李沐团队发布Higgs-Llama-3-70B，角色扮演专用模型
前言 近年来，大语言模型（LLM）在各个领域都展现出强大的能力，尤其是其在对话、写作、代码生成等方面的应用越来越广泛。然而，想要让 LLM 真正地融入人类社会，扮演各种角色，还需要具备更强大的角色扮演能力。 为了解决这一问题，李沐团队（Boson AI...
-
The Llama 3 Herd of Models.Llama 3 模型第1,2,3部分全文
现代人工智能(AI 系统是由基础模型驱动的。本文提出了一套新的基础模型，称为Llama 3。它是一组语言模型，支持多语言、编码、推理和工具使用。我们最大的模型是一个密集的Transformer，具有405B个参数和多达128K个tokens...
-
Llama 3.1超大405B！AI巨浪再掀新高潮
前沿科技速递? Meta公司宣布开放的Llama 3.1系列模型，以其惊人的128K上下文长度、对八种语言的支持以及业界领先的405B开放式最前沿AI模型，瞬间吸引了全球科技界的目光。该系列模型不仅在通用知识、可控性、数学、工具使用和多语言翻译等方面表...
-
AIGC Kolors可图IP-Adapter-Plus风格参考模型使用案例
参考： https://huggingface.co/Kwai-Kolors/Kolors-IP-Adapter-Plus 代码环境安装： git clone https://github.com/Kwai-Kolors/Kolors cd Kolor...
-
LLM大语言模型-ChatGPT、LLaMA、ChatGLM、文心一言、通义千问
LLM大语言模型-ChatGPT、LLaMA、ChatGLM、文心一言、通义千问 一、LLM与PLM主要区别： LLM表现出PLM所没有的Emergent Abilities（涌现能力）,这些能力是LLM在复杂任务上表现惊人的关键，使得得人工智能算...
-
Gaussian Splatting+Stable Diffusion进行3D场景编辑！腾讯提出TIP-Editor新框架！
Gaussian Splatting+Stable Diffusion进行3D场景编辑！腾讯提出TIP-Editor新框架！ 原创 小源 数源AI 2024-01-29 20:19 浙江 数源AI 知识星球 数源AI论文推荐知识星球（每日最新论文及资...
-
LLaMA-Factory：手把手教你从零微调大模型！
引言 随着人工智能技术的飞速发展，大型语言模型（LLM）在自然语言处理（NLP）领域扮演着越来越重要的角色。然而，预训练的模型往往需要针对特定任务进行微调，以提高其在特定领域的性能。LLaMA-Factory作为一个高效、易用的微调工具，为广大开发者提...
-
AIGC——ControlNet模型的原理
简介 ControlNet旨在控制预训练的大型扩散模型，以支持额外的输入条件。ControlNet能够以端到端的方式学习特定任务的条件，即使在训练数据集很小的情况下（<50k），也能保持稳健性。此外，训练ControlNet的速度与微调扩散模型一...