-
AIGC的一些材料
概念和前景 先看亚马逊AWS给AIGC的定义。 AIGC 是什么_亚马逊云科技 AIGC 解决方案 它有多个模态分支，但大同小异。 Diffusion预训练成本降低6.5倍，微调硬件成本降低7倍！Colossal-AI完整开源方案低成本加...
-
whisper
Robust Speech Recognition via Large-Scale Weak Supervision 介绍 大规模弱监督的训练。先前的方法都是通过大量的无监督学习训练（无监督的数据容易收集，所以通过大量无监督的学习可以训练出一个质量...
-
LLaMA系列模型
1.LLama 1.1 简介 Open and Efficient Foundation Language Models (Open但没完全Open的LLaMA 2023年2月，Meta（原Facebook）推出了LLaMA大模型，使用了1.4...
-
关于生成式语言大模型的一些工程思考 paddlenlp & chatglm & llama
生成式语言大模型，随着chatgpt的爆火，市场上涌现出一批高质量的生成式语言大模型的项目。近期百度飞桨自然语言处理项目paddlenlp发布了2.6版本。更新了以下特性：全面支持主流开源大模型Bloom, ChatGLM, GLM, Llama, OPT...
-
实力强的大模型都有哪些超能力？
前几日，人工智能研究公司OpenAI CEO山姆·奥特曼（Sam Altman）在谈及人工智能这项技术的潜力以及人们对它的担忧时，曾表示“AI发展速度快得吓人，就像停不下来的龙卷风。”可见，人工智能正在以它超前的速度改变世界。 在经历了年初人工智能之大...
-
AIGC专题报告：生成式人工智能人人可用的新时代
今天分享的AIGC系列深度研究报告：《AIGC专题报告：生成式人工智能人人可用的新时代》。 （报告出品方：埃森哲） 报告共计：21页 人工智能发展迎来新拐点 ChatGPT 正在唤醒全球对人工智能（AI） 变革潜力的认知，激发起前所未有...
-
为律师提供专业ChatGPT！Harvey获5.7亿元融资，OpenAI参投
12月20日，Harvey在官网宣布获得8000万美元（约5.7亿元）B轮融资，估值7.15亿美元(约51亿元 。本次由凯鹏华盈、红杉资本、OpenAI初创基金等投资。 Harvey基于OpenAI的GPT-4系列模型，再结合专有法律数据进行了预训练、微调...
-
OpenAI参投，法律科技公司Harvey获5.7亿元融资
近日，OpenAI参与投资的法律科技公司Harvey宣布成功获得8000万美元的B轮融资，估值达7.15亿美元，此轮投资由凯鹏华盈、红杉资本、OpenAI初创基金等共同注资。 据了解，Harvey基于OpenAI的GPT-4系列模型，结合专有法律数据进行预...
-
Llama 架构分析
从代码角度进行Llama 架构分析 Llama 架构分析 前言 Llama 架构分析 分词 网络主干 DecoderLayer Attention MLP 下游任务 因果推理 文本分类 Llama 架构分析...
-
Stable Diffusion XL webui dreambooth插件 Linux安装，训练LoRA（保姆级教程）
文章目录 Stable Diffusion XL webui dreambooth插件 Linux安装（保姆级教程） 前言 安装 下载dreambooth仓库 下载SDXL预训练模型其他文件 下载前注意 下载前准备 下载...
-
Video-LLaMA An Instruction-tuned Audio-Visual Language Model for Video Understanding 用于视频理解的指令调谐视听语言
1.摘要 我们提出了一个多模态框架Video-LLaMA1，它使大型语言模型(LLM 能够理解视频中的视觉和听觉内容。视频-来自冻结的预训练视频和音频编码器和冻结的LLM的美洲驼引导跨模式训练。不像以前的工作，补充线性最小二乘法只处理视觉或听觉信号...
-
开发者笑疯了！ LLaMa惊天泄露引爆ChatGPT平替狂潮，开源LLM领域变天
来源: 新智源 微信号：AI-era Meta的LLaMA模型开源，让文本大模型迎来了Stable Diffustion时刻。谁都没想 谁能想到，一次意外的LLaMA泄漏，竟点燃了开源LLM领域最大的创新火花。 一系列表现出色的Chat...
-
开源与闭源大模型之战：Llama 2 vs. GPT-4 vs. Claude-2
人工智能一直在以惊人的速度发展，特别是在自然语言处理（NLP）领域。这场革命的领跑者包括三种杰出的人工智能语言模型：Llama 2、GPT-4 和 Claude-2。在这篇博客中，我们将探索这些人工智能巨头，了解他们独特的能力以及他们对各个领域的潜在影响...
-
AIGC星辰大海：大模型工程师和产品专家深度训练营（第五期）即将开班
近屿智能OJAC第五期“AIGC星辰大海：大模型工程师和产品专家深度训练营”即将开班。 近屿智能OJAC秉承着“别人教你使用AIGC工具，例如ChatGP7和MJ，我们教您预训练和微调大模型以及开发软/硬件AI产品”的服务理念，已经帮助数千位学员成功...
-
使用 PyTorch FSDP 微调 Llama 2 70B
引言 通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accelerate 和 TRL 库。我们还将展示如何在 SL...
-
LLM-项目详解-Chinese-LLaMA-AIpaca（一）：LLM+LoRa微调加速技术原理及基于PEFT的动手实践：一些思考和mt0-large+lora完整案例
如何花费较少的算力成本来进行微调训练，十分重要，当前关于LLaMA、Alpaca、Instruct微调、LoRa微调等多个概念大家讲的很多，最近也在学习，也看到几个有趣的话题（主要参考于（https://github.com/ymcui/Chinese-L...
-
ChatGPT、文心一言、New Bing介绍，以及如何选用。新时代，起风了
这里写自定义目录标题 ChatGPT 平台介绍 特点 New Bing 平台介绍 特点 文心一言 平台介绍 特点 总结 随着互联网、物联网技术的发展，人工智能在各行各业中的应用越来越广泛，同时也取得了突破性的进展。以微软小冰...
-
被称为下一代风口的AIGC到底是什么？
近期，短视频平台上“AI绘画”的概念爆火，ChatGPT这一词条也刷爆了科技圈，而这些概念同属于一个领域——AIGC。2022年12月，Science杂志发布的2022年度科学十大突破中，AIGC入选。 那么，被称之为是AI下一代风口的AIGC到底是什么...
-
【EMNLP 2023】面向垂直领域的知识预训练语言模型
近日，阿里云人工智能平台PAI与华东师范大学数据科学与工程学院合作在自然语言处理顶级会议EMNLP2023上发表基于双曲空间和对比学习的垂直领域预训练语言模型。通过比较垂直领域和开放领域知识图谱数据结构的不同特性，发现在垂直领域的图谱结构具有全局稀疏，局部...
-
CVPR 2023 | 可控文生图/定制化文生图领域论文详解 AI作画增强版
可控文生图/定制化文生图 1、DreamBooth: Fine Tuning Text-to-Image Diffusion Models for Subject-Driven Generation DreamBooth是一种新的文本到图像扩散模型...
-
大语言模型训练数据常见的4种处理方法
本文分享自华为云社区《浅谈如何处理大语言模型训练数据之一常见的数据处理方法》，作者： 码上开花_Lancer。 大语言模型训练需要数万亿的各类型数据。如何构造海量“高质量”数据对于大语言模型的训练具有至关重要的作用。虽然，截止到2023 年9 月为止，还...
-
PillarNeSt：如何进一步提升基于Pillar的3D目标检测性能？
写在前面 && 笔者的个人理解 目前在自动驾驶领域中，一辆自驾汽车会配备多种传感器，如：激光雷达传感器采集点云数据、相机传感器采集图像数据等。由于激光雷达传感器可以更加准确的获取待检测物体的几何和位置信息，所以基于点云的感知算法模型在快速...
-
逆天！真实可控、可拓展，自动驾驶仿真平台LightSim上新
最近，来自 Waabi AI、多伦多大学、滑铁卢大学和麻省理工的研究者们在 NeurIPS 2023 上提出了一种全新的自动驾驶光照仿真平台 LightSim。研究者们提出了从真实数据中生成配对的光照训练数据的方法，解决了数据缺失和模型迁移损失的问题。L...
-
每个开发人员都应该知道的六个生成式AI框架和工具
译者 | 晶颜 审校 | 重楼 在快速发展的技术领域，生成式人工智能是一股革命性的力量，它改变了开发人员处理复杂问题和创新的方式。本文深入探讨了生成式AI的世界，揭示了对每个开发人员都必不可少的框架和工具。 LangChain LangChain由H...
-
MosaicML 推出 30B 模型 — 挑战 LLaMA、Falcon 和 GPT
MosaicML正在推出其第二个开源大型语言模型（LLM），称为MPT-30B，这是继五月份首次推出的较小的MPT-7B模型之后。 为了讨论新模型及其对开发人员的意义，我采访了MosaicML联合创始人兼首席执行官Naveen Rao。他之前的创业公司是...
-
AIGC与搜索深度融合，百度定义“生成式搜索”
设想一下，当你搜索“公司活动通知怎么写”时，搜索引擎直接“写”了一篇送到眼前是什么体验？百度的“生成式搜索”正在让这样的场景成为现实。 日前，百度宣布，百度搜索将升级“生成式搜索”能力，基于百度自研的生成式模型能力，为用户开放式的搜索提问或定制化...
-
DALL·E2(unCLIP)、Stable Diffusion、IS、FID要点总结
DALL·E 1 DALL·E 1可以看成是VQ-VAE和文本经过BPE编码得到的embedding AE（Auto Encoder） encoder decoder结构，AE在生成任务时只会模仿不会创造，所有有了后面的VAE VAE(Var...
-
word2vec作者爆料：seq2seq是我的想法、GloVe抄袭技巧，反击来了
随着 NeurIPS 2023 获奖论文的公布，十年前的词嵌入技术 word2vec 可谓是实至名归的获得了时间检验奖。这篇论文「Distributed Representations of Words and Phrases and their Com...
-
用生物脑机制启发持续学习，让智能系统适者生存，清华朱军等团队研究登Nature子刊封面
在开放、高动态和演化环境中的学习能力是生物智能的核心要素之一，也是人类以及大多数动物在「适者生存」的自然选择过程中形成的重要优势。目前传统机器学习范式是在静态和封闭的数据集上学习到一个模型，并假设其应用环境和之前训练数据的属性相同，因而无法适应动态开放环...
-
研究团队开发开源大模型训练框架 Oobleck 提供快速且有保障的故障修复
随着对生成式人工智能技术需求的激增，大型语言模型的训练和容错性要求也在不断增加。为应对这一挑战，密歇根大学的研究人员开发了一款名为Oobleck的开源大型模型训练框架。该框架采用管道模板的概念，为大型模型的预训练提供了快速而可靠的故障恢复机制。 项目地址...
-
StableVideo：使用Stable Diffusion生成连续无闪烁的视频
使用Stable Diffusion生成视频一直是人们的研究目标，但是我们遇到的最大问题是视频帧和帧之间的闪烁，但是最新的论文则着力解决这个问题。 本文总结了Chai等人的论文《StableVideo: Text-driven consistency -...
-
【网安AIGC专题10.11】①代码大模型的应用：检测、修复②其安全性研究：模型窃取攻击（API和网页接口） 数据窃取攻击 对抗攻击（用途：漏洞隐藏） 后门攻击（加触发器+标签翻转）
代码大模型的应用及其安全性研究 写在最前面 一些想法 大型模型输出格式不受控制的解决方法 大模型介绍 （很有意思）GPT 模型家族的发展 Chatgpt 优点 缺点 GPT4 其他模型 补充：self-instruct合成数据 Cod...
-
BlueLM蓝心大模型测试体验入口 热门手机AI大模型推荐
BlueLM蓝心大模型是vivo AI全球研究院自主研发的大规模预训练语言模型，具有 70 亿模型参数量，能处理32K上下文长度。它基于260TB的多语言训练语料，提供了强大的语言理解能力，并可广泛应用于内容创作、知识问答、逻辑推理、代码生成等场景，持续为...
-
大语言模型之四-LlaMA-2从模型到应用
最近开源大语言模型LlaMA-2火出圈，从huggingface的Open LLM Leaderboard开源大语言模型排行榜可以看到LlaMA-2还是非常有潜力的开源商用大语言模型之一，相比InstructGPT，LlaMA-2在数据质量、培训技术、能力...
-
【AIGC重塑教育】AI大模型驱动的教育变革与实践
文章目录 ?现状 ?解决方法 ✨为什么要使用ai ?彩蛋 ?现状 AI正迅猛地改变着我们的生活。根据高盛发布的一份报告，AI有可能取代3亿个全职工作岗位，影响全球18%的工作岗位。在欧美，或许四分之一的工作可以用AI完成。另一份S...
-
借AI之势，打破创意与想象的边界
IMMENSE、36氪｜作者 01 “未来是属于AI的” 3月2日，内容创作圈大地震。 就在3月2日凌晨，OpenAI宣布开放ChatGPT本体模型API，其价格为1k tokens/$0.002。也就是说，从这一天开始，任何企业都能让ChatGPT...
-
OpenAI 的超级对齐团队在做什么
今年11月17日，OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman 在首席科学家伊利亚·苏茨克韦尔 (Ilya Sutskever 的政变下被罢免，但三天后复职。不到一个月，OpenAI 宣布一切恢复正常，而这一切导火索是团队内部的有...
-
保姆级讲解 Stable Diffusion
文章目录 整体代码 unet解析 self.input_blocks middle_blocks self.output_blocks 保姆级讲解 Stable Diffusion： https://mp.weixin.qq.c...
-
【LLM】大语言模型学习之LLAMA 2：Open Foundation and Fine-Tuned Chat Model
大语言模型学习之LLAMA 2：Open Foundation and Fine-Tuned Chat Model 快速了解 预训练 预训练模型评估 微调 有监督微调（SFT） 人...
-
为AIGC敲响警钟！千亿级赛道为何成了作恶温床？
数据智能产业创新服务媒体 ——聚焦数智 · 改变商业 随着人工智能通用大模型的问世，全球对AIGC技术的强大潜力有了更加深刻的认识。然而，这也引发了诸多关于AIGC技术可信度、隐私保护以及知识产权等问题的争议，引起了广泛...
-
GPT-4V都搞不明白的未来推理有解法了！来自华科大&上科大
多模态大语言模型展现了强大的图像理解和推理能力。 但要让它们基于当前观测来对未来事件进行预测推理仍然非常困难。 即便是当前最强大的GPT-4V（如下图所示），也无法很好地解决这一问题。 △ GPT-4V的错误案例 现在，华科大和上科大团队提出了一个赋予...
-
AIGC专题报告：ChatGPT纪要分享
今天分享的AIGC系列深度研究报告：《AIGC专题报告：ChatGPT纪要分享》。 （报告出品方：久谦中台） 报告共计：135页 OpenAI 高管解密 ChatGPT ¶ GPT-3 是一种大型语言模型，被训练用来在给定上下文中预测下...
-
Stable Diffusion Webui源码剖析
1、关键python依赖 （1）xformers：优化加速方案。它可以对模型进行适当的优化来加速图片生成并降低显存占用。缺点是输出图像不稳定，有可能比不开Xformers略差。 （2）GFPGAN：它是腾讯开源的人脸修复算法，利用预先训练号的面部GAN...
-
LLaMA-META发布单卡就能跑的大模型
2023年2月25日，Meta使用2048张A100 GPU，花费21天训练的Transformer大模型LLaMA开源了。 1.4T tokenstakes approximately 21 days 以下是觉得论文中重要的一些要点 1）...
-
论文遭首届ICLR拒稿、代码被过度优化，word2vec作者Tomas Mikolov分享背后的故事
几天前，NeurIPS 2023 公布了获奖论文，其中时间检验奖颁给了十年前的 NeurIPS 论文「Distributed Representations of Words and Phrases and their Compositionality」...
-
走在GPT 4.5前面？3D、视频直接扔进对话框，大模型掌握跨模态推理
给你一首曲子的音频和一件乐器的 3D 模型，然后问你这件乐器能否演奏出这首曲子。你可以通过听觉来辨认这首曲子的音色，看它是钢琴曲还是小提琴曲又或是来自吉他；同时用视觉识别那是件什么乐器。然后你就能得到问题的答案。但语言模型有能力办到这一点吗？ 实际上，...
-
AI绘画 | stable-diffusion的模型简介和下载使用
前言 我们下载完stable-diffusion-ui后还需要下载需要的大模型，才能进行AI绘画的操作。秋叶的stable-diffusion-ui整合包内，包含了anything-v5-PrtRE.safetensors和Stable Diffusi...
-
AIGC和ChatGPT的区别是什么？
当谈到人工智能的聊天机器人时，人们不可避免地会想到AIGC和ChatGPT这两个备受关注的模型。虽然两者都能够进行自然语言处理，但是它们之间存在一些重要的区别，我们可以从以下几个方面来进行分析： 首先，AIGC采用的是基于规则的方法，而ChatGPT则是...
-
最强文生图跨模态大模型：Stable Diffusion
文章目录 一、概述 二、Stable Diffusion v1 & v2 2.1 简介 2.2 LAION-5B数据集 2.3 CLIP条件控制模型 2.4 模型训练 三、Stable Diffusion 发展 3.1 图形界面...
-
通过制作llama_cpp的docker镜像在内网离线部署运行大模型
对于机器在内网，无法连接互联网的服务器来说，想要部署体验开源的大模型，需要拷贝各种依赖文件进行环境搭建难度较大，本文介绍如何通过制作docker镜像的方式，通过llama.cpp实现量化大模型的快速内网部署体验。 一、llama_cpp介绍 LLa...