-
一篇综述，看穿基础模型+机器人的发展路径
机器人是一种拥有无尽可能性的技术，尤其是当搭配了智能技术时。近段时间创造了许多变革性应用的大模型有望成为机器人的智慧大脑，帮助机器人感知和理解这个世界并制定决策和进行规划。 近日，CMU 的 Yonatan Bisk 和 Google DeepMind...
-
ChatGPT（小程序版）- 可AI绘画、内置各种功能
chatGP在网络上可是出了名的火爆，无论是圈内还是圈外的人，都希望能尝试一下，不过因为没有办法在中国注册，所以门槛拦住了一大半人的使用。 再加上近来大量的 GPT头衔被封，人们在用它的时候，都会感到有心无力。。...
-
大模型被偷家！腾讯港中文新研究修正认知：CNN搞多模态不弱于Transfromer
在Transformer占据多模态工具半壁江山的时代，大核CNN又“杀了回来”，成为了一匹新的黑马。 腾讯AI实验室与港中文联合团队提出了一种新的CNN架构，图像识别精度和速度都超过了Transformer架构模型。 切换到点云、音频、视频等其他模态，也无...
-
港联证券|万亿级AIGC赛道或迎有序监管
近段时间，连续有国内外科技巨子涌入万亿级AIGC（生成式AI）赛道，A股商场上AIGC、ChatGPT等人工智能相关概念也是继续火热。但与此同时，安全隐患也如冰山一角逐渐露出。多国政府正在考虑加强对其监管，AIGC在全球范围内正在进入强监管时代。在强监管之...
-
AI绘画中CLIP文本-图像预训练模型
介绍 OpenAI 在 2021 年提出了 CLIP（Contrastive Language–Image Pretraining）算法，这是一个先进的机器学习模型，旨在理解和解释图像和文本之间的关系。CLIP 的核心思想是通过大规模的图像和文本对进行...
-
Ubuntu 22.04安装英特尔显卡驱动玩转AIGC
作者：英特尔网路与边缘计算事业部开发者关系经理 李翊玮 本文将介绍如何使用EIV 用5行指令在快速搭建含英特尔显卡及OpenVINO的AI开发环境, 并简洁说明如何使用OpenVINO 及英特尔显卡优化文生图模型Stable Diffusion 的速度。...
-
【AIGC】baichuan-7B大模型
百川智能｜开源可商用的大规模预训练语言模型baichuan-7B大模型 概述 baichuan-7B 是由百川智能开发的一个开源可商用的大规模预训练语言模型。基于 Transformer 结构，在大约1.2万亿 tokens 上训练的70亿参数模型，支持...
-
stable-diffusion安装和简单测试
参考：https://github.com/CompVis/stable-diffusion理解DALL·E 2， Stable Diffusion和 Midjourney的工作原理Latent Diffusion Models论文解读【生成式AI】淺談圖...
-
AI向百万薪资 高级原画师开刀？！爆Midjourney入局3D模型生成
来源 SoulofArt | ID Soul_Art 现在AI向高级原画师和3D开刀了？ 网传爆料AI已入局3D模型生成... 这进化速度放在整个行业都十分炸裂 4月，Midjourney进一步宣布推出Niji-journey V5...
-
【AIGC】Chatglm2-lora微调
ChatGLM2介绍 ChatGLM2-6B源码地址：https://github.com/THUDM/ChatGLM2-6B ChatGLM2-6B 是开源中英双语对话模型 ChatGLM-6B 的第二代版本，在保留了初代模型对话流畅、部署门槛较低...
-
Llama中文社区开源预训练Atom-7B-chat大模型体验与本地化部署实测(基于CPU，适配无GPU的场景)
一、模型简介 原子大模型Atom由Llama中文社区和原子回声联合打造，在中文大模型评测榜单C-Eval中位居前十（8月21日评测提交时间）。 Atom系列模型包含Atom-7B和Atom-...
-
14秒就能重建视频，还能变换角色，Meta让视频合成提速44倍
就今天的人工智能发展水平来说，文生图、图生视频、图像/视频风格迁移都已经不算什么难事。 生成式 AI 天赋异禀，能够毫不费力地创建或修改内容。尤其是图像编辑，在以十亿规模数据集为基础预训练的文本到图像扩散模型的推动下，经历了重大发展。这股浪潮催生了大量图...
-
测试时领域适应的鲁棒性得以保证，TRIBE在多真实场景下达到SOTA
测试时领域适应（Test-Time Adaptation）的目的是使源域模型适应推理阶段的测试数据，在适应未知的图像损坏领域取得了出色的效果。然而，当前许多方法都缺乏对真实世界场景中测试数据流的考虑，例如： 测试数据流应当是时变分布（而非传统领域适应中...
-
最强英文开源模型LLaMA架构探秘，从原理到源码
导读：LLaMA 65B是由Meta AI（原Facebook AI）发布并宣布开源的真正意义上的千亿级别大语言模型，发布之初（2023年2月24日）曾引起不小的轰动。LLaMA的横空出世，更像是模型大战中一个搅局者。虽然它的效果（performance）...
-
Stable Diffusion攻略集（Stable Diffusion官方文档、kaggle notebook、webui资源帖）
文章目录 第一部分 一、 Features：Textual Inversion（文本反转） 1.1 Textual Inversion 简介 1.1.1 摘要 1.1.2 算法 1.1.3 模型效果 1.2 Textual Invers...
-
基于MindSpore的llama微调在OpenI平台上运行
基于MindSpore的llama微调在OpenI平台上运行 克隆预训练模型 克隆chatglm-6b代码仓，下载分布式的模型文件 git lfs install git clone https://huggingface.co/openlm-...
-
AIGC的一些材料
概念和前景 先看亚马逊AWS给AIGC的定义。 AIGC 是什么_亚马逊云科技 AIGC 解决方案 它有多个模态分支，但大同小异。 Diffusion预训练成本降低6.5倍，微调硬件成本降低7倍！Colossal-AI完整开源方案低成本加...
-
whisper
Robust Speech Recognition via Large-Scale Weak Supervision 介绍 大规模弱监督的训练。先前的方法都是通过大量的无监督学习训练（无监督的数据容易收集，所以通过大量无监督的学习可以训练出一个质量...
-
LLaMA系列模型
1.LLama 1.1 简介 Open and Efficient Foundation Language Models (Open但没完全Open的LLaMA 2023年2月，Meta（原Facebook）推出了LLaMA大模型，使用了1.4...
-
关于生成式语言大模型的一些工程思考 paddlenlp & chatglm & llama
生成式语言大模型，随着chatgpt的爆火，市场上涌现出一批高质量的生成式语言大模型的项目。近期百度飞桨自然语言处理项目paddlenlp发布了2.6版本。更新了以下特性：全面支持主流开源大模型Bloom, ChatGLM, GLM, Llama, OPT...
-
实力强的大模型都有哪些超能力？
前几日，人工智能研究公司OpenAI CEO山姆·奥特曼（Sam Altman）在谈及人工智能这项技术的潜力以及人们对它的担忧时，曾表示“AI发展速度快得吓人，就像停不下来的龙卷风。”可见，人工智能正在以它超前的速度改变世界。 在经历了年初人工智能之大...
-
AIGC专题报告：生成式人工智能人人可用的新时代
今天分享的AIGC系列深度研究报告：《AIGC专题报告：生成式人工智能人人可用的新时代》。 （报告出品方：埃森哲） 报告共计：21页 人工智能发展迎来新拐点 ChatGPT 正在唤醒全球对人工智能（AI） 变革潜力的认知，激发起前所未有...
-
为律师提供专业ChatGPT！Harvey获5.7亿元融资，OpenAI参投
12月20日，Harvey在官网宣布获得8000万美元（约5.7亿元）B轮融资，估值7.15亿美元(约51亿元 。本次由凯鹏华盈、红杉资本、OpenAI初创基金等投资。 Harvey基于OpenAI的GPT-4系列模型，再结合专有法律数据进行了预训练、微调...
-
OpenAI参投，法律科技公司Harvey获5.7亿元融资
近日，OpenAI参与投资的法律科技公司Harvey宣布成功获得8000万美元的B轮融资，估值达7.15亿美元，此轮投资由凯鹏华盈、红杉资本、OpenAI初创基金等共同注资。 据了解，Harvey基于OpenAI的GPT-4系列模型，结合专有法律数据进行预...
-
Llama 架构分析
从代码角度进行Llama 架构分析 Llama 架构分析 前言 Llama 架构分析 分词 网络主干 DecoderLayer Attention MLP 下游任务 因果推理 文本分类 Llama 架构分析...
-
Stable Diffusion XL webui dreambooth插件 Linux安装，训练LoRA（保姆级教程）
文章目录 Stable Diffusion XL webui dreambooth插件 Linux安装（保姆级教程） 前言 安装 下载dreambooth仓库 下载SDXL预训练模型其他文件 下载前注意 下载前准备 下载...
-
Video-LLaMA An Instruction-tuned Audio-Visual Language Model for Video Understanding 用于视频理解的指令调谐视听语言
1.摘要 我们提出了一个多模态框架Video-LLaMA1，它使大型语言模型(LLM 能够理解视频中的视觉和听觉内容。视频-来自冻结的预训练视频和音频编码器和冻结的LLM的美洲驼引导跨模式训练。不像以前的工作，补充线性最小二乘法只处理视觉或听觉信号...
-
开发者笑疯了！ LLaMa惊天泄露引爆ChatGPT平替狂潮，开源LLM领域变天
来源: 新智源 微信号：AI-era Meta的LLaMA模型开源，让文本大模型迎来了Stable Diffustion时刻。谁都没想 谁能想到，一次意外的LLaMA泄漏，竟点燃了开源LLM领域最大的创新火花。 一系列表现出色的Chat...
-
开源与闭源大模型之战：Llama 2 vs. GPT-4 vs. Claude-2
人工智能一直在以惊人的速度发展，特别是在自然语言处理（NLP）领域。这场革命的领跑者包括三种杰出的人工智能语言模型：Llama 2、GPT-4 和 Claude-2。在这篇博客中，我们将探索这些人工智能巨头，了解他们独特的能力以及他们对各个领域的潜在影响...
-
AIGC星辰大海：大模型工程师和产品专家深度训练营（第五期）即将开班
近屿智能OJAC第五期“AIGC星辰大海：大模型工程师和产品专家深度训练营”即将开班。 近屿智能OJAC秉承着“别人教你使用AIGC工具，例如ChatGP7和MJ，我们教您预训练和微调大模型以及开发软/硬件AI产品”的服务理念，已经帮助数千位学员成功...
-
使用 PyTorch FSDP 微调 Llama 2 70B
引言 通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accelerate 和 TRL 库。我们还将展示如何在 SL...
-
LLM-项目详解-Chinese-LLaMA-AIpaca（一）：LLM+LoRa微调加速技术原理及基于PEFT的动手实践：一些思考和mt0-large+lora完整案例
如何花费较少的算力成本来进行微调训练，十分重要，当前关于LLaMA、Alpaca、Instruct微调、LoRa微调等多个概念大家讲的很多，最近也在学习，也看到几个有趣的话题（主要参考于（https://github.com/ymcui/Chinese-L...
-
ChatGPT、文心一言、New Bing介绍，以及如何选用。新时代，起风了
这里写自定义目录标题 ChatGPT 平台介绍 特点 New Bing 平台介绍 特点 文心一言 平台介绍 特点 总结 随着互联网、物联网技术的发展，人工智能在各行各业中的应用越来越广泛，同时也取得了突破性的进展。以微软小冰...
-
被称为下一代风口的AIGC到底是什么？
近期，短视频平台上“AI绘画”的概念爆火，ChatGPT这一词条也刷爆了科技圈，而这些概念同属于一个领域——AIGC。2022年12月，Science杂志发布的2022年度科学十大突破中，AIGC入选。 那么，被称之为是AI下一代风口的AIGC到底是什么...
-
【EMNLP 2023】面向垂直领域的知识预训练语言模型
近日，阿里云人工智能平台PAI与华东师范大学数据科学与工程学院合作在自然语言处理顶级会议EMNLP2023上发表基于双曲空间和对比学习的垂直领域预训练语言模型。通过比较垂直领域和开放领域知识图谱数据结构的不同特性，发现在垂直领域的图谱结构具有全局稀疏，局部...
-
CVPR 2023 | 可控文生图/定制化文生图领域论文详解 AI作画增强版
可控文生图/定制化文生图 1、DreamBooth: Fine Tuning Text-to-Image Diffusion Models for Subject-Driven Generation DreamBooth是一种新的文本到图像扩散模型...
-
大语言模型训练数据常见的4种处理方法
本文分享自华为云社区《浅谈如何处理大语言模型训练数据之一常见的数据处理方法》，作者： 码上开花_Lancer。 大语言模型训练需要数万亿的各类型数据。如何构造海量“高质量”数据对于大语言模型的训练具有至关重要的作用。虽然，截止到2023 年9 月为止，还...
-
PillarNeSt：如何进一步提升基于Pillar的3D目标检测性能？
写在前面 && 笔者的个人理解 目前在自动驾驶领域中，一辆自驾汽车会配备多种传感器，如：激光雷达传感器采集点云数据、相机传感器采集图像数据等。由于激光雷达传感器可以更加准确的获取待检测物体的几何和位置信息，所以基于点云的感知算法模型在快速...
-
逆天！真实可控、可拓展，自动驾驶仿真平台LightSim上新
最近，来自 Waabi AI、多伦多大学、滑铁卢大学和麻省理工的研究者们在 NeurIPS 2023 上提出了一种全新的自动驾驶光照仿真平台 LightSim。研究者们提出了从真实数据中生成配对的光照训练数据的方法，解决了数据缺失和模型迁移损失的问题。L...
-
每个开发人员都应该知道的六个生成式AI框架和工具
译者 | 晶颜 审校 | 重楼 在快速发展的技术领域，生成式人工智能是一股革命性的力量，它改变了开发人员处理复杂问题和创新的方式。本文深入探讨了生成式AI的世界，揭示了对每个开发人员都必不可少的框架和工具。 LangChain LangChain由H...
-
MosaicML 推出 30B 模型 — 挑战 LLaMA、Falcon 和 GPT
MosaicML正在推出其第二个开源大型语言模型（LLM），称为MPT-30B，这是继五月份首次推出的较小的MPT-7B模型之后。 为了讨论新模型及其对开发人员的意义，我采访了MosaicML联合创始人兼首席执行官Naveen Rao。他之前的创业公司是...
-
AIGC与搜索深度融合，百度定义“生成式搜索”
设想一下，当你搜索“公司活动通知怎么写”时，搜索引擎直接“写”了一篇送到眼前是什么体验？百度的“生成式搜索”正在让这样的场景成为现实。 日前，百度宣布，百度搜索将升级“生成式搜索”能力，基于百度自研的生成式模型能力，为用户开放式的搜索提问或定制化...
-
DALL·E2(unCLIP)、Stable Diffusion、IS、FID要点总结
DALL·E 1 DALL·E 1可以看成是VQ-VAE和文本经过BPE编码得到的embedding AE（Auto Encoder） encoder decoder结构，AE在生成任务时只会模仿不会创造，所有有了后面的VAE VAE(Var...
-
word2vec作者爆料：seq2seq是我的想法、GloVe抄袭技巧，反击来了
随着 NeurIPS 2023 获奖论文的公布，十年前的词嵌入技术 word2vec 可谓是实至名归的获得了时间检验奖。这篇论文「Distributed Representations of Words and Phrases and their Com...
-
用生物脑机制启发持续学习，让智能系统适者生存，清华朱军等团队研究登Nature子刊封面
在开放、高动态和演化环境中的学习能力是生物智能的核心要素之一，也是人类以及大多数动物在「适者生存」的自然选择过程中形成的重要优势。目前传统机器学习范式是在静态和封闭的数据集上学习到一个模型，并假设其应用环境和之前训练数据的属性相同，因而无法适应动态开放环...
-
研究团队开发开源大模型训练框架 Oobleck 提供快速且有保障的故障修复
随着对生成式人工智能技术需求的激增，大型语言模型的训练和容错性要求也在不断增加。为应对这一挑战，密歇根大学的研究人员开发了一款名为Oobleck的开源大型模型训练框架。该框架采用管道模板的概念，为大型模型的预训练提供了快速而可靠的故障恢复机制。 项目地址...
-
StableVideo：使用Stable Diffusion生成连续无闪烁的视频
使用Stable Diffusion生成视频一直是人们的研究目标，但是我们遇到的最大问题是视频帧和帧之间的闪烁，但是最新的论文则着力解决这个问题。 本文总结了Chai等人的论文《StableVideo: Text-driven consistency -...
-
【网安AIGC专题10.11】①代码大模型的应用：检测、修复②其安全性研究：模型窃取攻击（API和网页接口） 数据窃取攻击 对抗攻击（用途：漏洞隐藏） 后门攻击（加触发器+标签翻转）
代码大模型的应用及其安全性研究 写在最前面 一些想法 大型模型输出格式不受控制的解决方法 大模型介绍 （很有意思）GPT 模型家族的发展 Chatgpt 优点 缺点 GPT4 其他模型 补充：self-instruct合成数据 Cod...
-
BlueLM蓝心大模型测试体验入口 热门手机AI大模型推荐
BlueLM蓝心大模型是vivo AI全球研究院自主研发的大规模预训练语言模型，具有 70 亿模型参数量，能处理32K上下文长度。它基于260TB的多语言训练语料，提供了强大的语言理解能力，并可广泛应用于内容创作、知识问答、逻辑推理、代码生成等场景，持续为...
-
大语言模型之四-LlaMA-2从模型到应用
最近开源大语言模型LlaMA-2火出圈，从huggingface的Open LLM Leaderboard开源大语言模型排行榜可以看到LlaMA-2还是非常有潜力的开源商用大语言模型之一，相比InstructGPT，LlaMA-2在数据质量、培训技术、能力...