-
论文遭首届ICLR拒稿、代码被过度优化，word2vec作者Tomas Mikolov分享背后的故事
几天前，NeurIPS 2023 公布了获奖论文，其中时间检验奖颁给了十年前的 NeurIPS 论文「Distributed Representations of Words and Phrases and their Compositionality」...
-
走在GPT 4.5前面？3D、视频直接扔进对话框，大模型掌握跨模态推理
给你一首曲子的音频和一件乐器的 3D 模型，然后问你这件乐器能否演奏出这首曲子。你可以通过听觉来辨认这首曲子的音色，看它是钢琴曲还是小提琴曲又或是来自吉他；同时用视觉识别那是件什么乐器。然后你就能得到问题的答案。但语言模型有能力办到这一点吗？ 实际上，...
-
可以媲美MidJourney，但是开源和免费的超强AI绘画-fooocus
现在的AI技术很火，这一新兴领域的发展给艺术创作带来了全新的可能性，AI绘画的应用也十分的广泛。我自己见到的就有运用在模特穿衣服身上的，化妆品广告图生成的等等，比如MidJourney 和stable diffusion 等 AI绘画程序已经很成熟了，前者...
-
QTNet：最新时序融合新方案！点云、图像、多模态检测器全适用（NeurIPS 2023）
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面 & 个人理解 时序融合能够有效提升自动驾驶3D目标检测的感知能力，然而目前的时序融合方法由于成本开销等问题难以在实际自动驾驶场景中应用。NeurIPS 2023的最新研究文章 《Qu...
-
What the DAAM: Interpreting Stable Diffusion Using Cross Attention
What the DAAM: Interpreting Stable Diffusion Using Cross Attention (Paper reading Raphael Tang, Comcast Applied AI, ACL2023 b...
-
随意指定CLIP关注区域！上交复旦等发布Alpha-CLIP：同时保持全图+局部检测能力
CLIP是目前最流行的视觉基座模型，其应用场景包括但不限于： 与LLM大语言模型结合成为视觉多模态大模型； 作为图像生成(Stable Diffusion 、点云生成(Point-E 的condition model，实现image-to-3D； 用于...
-
Together AI发布AI模型StripedHyena-7B 性能超越Llama-27B
Together AI最新发布了StripedHyena-7B，这一人工智能模型领域的创新力量引起了广泛关注。该模型的基础版本为StripedHyena-Hessian-7B（SH7B），同时还推出了聊天模型StripedHyena-Nous-7B(SH-...
-
首次超过70% mAP！GeMap：局部高精地图SOTA再次刷新
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 实时根据传感器数据构建向量化高精地图对于预测和规划等下游任务至关重要，可以有效弥补离线高精地图实时性差的缺点。随着深度学习的发展，在线向量化高精地图构建逐渐兴起，代表性...
-
W.A.L.T官网体验入口 AI视频图像生成软件app免费下载地址
《W.A.L.T》是一个基于transformer的实景视频生成方法，它通过联合压缩图像和视频到一个统一的潜在空间，实现跨模态的训练和生成。使用了窗注意力机制来提高内存和训练效率，该方法在多个视频和图像生成基准测试上取得了最先进的性能。《W.A.L.T》在...
-
2024年AI趋势看这张图，LeCun：开源大模型要超越闭源
2023 年即将过去。一年以来，各式各样的大模型争相发布。当 OpenAI 和谷歌等科技巨头正在角逐时，另一方「势力」悄然崛起 —— 开源。 开源模型受到的质疑一向不少。它们是否能像专有模型一样优秀？是否能够媲美专有模型的性能？迄今为止，我们一直还只能说...
-
技术报告：Efficient and Effective Text Encoding for Chinese LLaMA AND Alpaca
技术报告：Efficient and Effective Text Encoding for Chinese LLaMA AND Alpaca Introduction Chinese LLaMA Chinese Alpaca Lora-Fin...
-
到2032年，教育领域的人工智能将达到882亿美元
教育革命爆发，人工智能预计到2032年将达到882亿美元。 人工智能(AI 已成为各个行业的推动力，其对教育的影响将是革命性的。根据最近的一份报告，到2032年，全球人工智能教育市场预计将飙升至惊人的882亿美元。这种指数级增长凸显了人工智能对教育领域...
-
Meta AI开源T2V模型AVID 可修复视频改变纹理
Meta AI最近开源了AVID，这是一项具有先进修复和扩展能力的 T2V 模型。AVID 不仅支持通过文本编辑视频，还可以修复视频、更改视频对象、改变纹理和颜色，甚至删除视频内容或更换视频环境。 项目地址:https://zhang-zx.github...
-
使用Midjourney与ChatGPT组合会怎么样？
Midjourney 和 ChatGPT 都是目前比较先进的自然语言处理技术，Midjourney是一种基于深度学习的文本生成模型，而ChatGPT是一种基于自注意力机制的大规模预训练语言模型。 使用Midjourney+ChatGPT可以结合两种技术的...
-
【原创】AIGC之ChatGPT工作原理
AIGC是什么 AIGC - AI Generated Content （AI生成内容），对应我们的过去的主要是 UGC（User Generated Content）和 PGC（Professional user Generated Content...
-
LLaMA Adapter和LLaMA Adapter V2
LLaMA Adapter论文地址： https://arxiv.org/pdf/2303.16199.pdf LLaMA Adapter V2论文地址： https://arxiv.org/pdf/2304.15010.pdf LLaMA Ada...
-
弥合化学反应预训练和条件分子生成之间的差距，北大&望石智慧提出「统一」模型
化学反应是药物设计和有机化学研究的基础。研究界越来越需要一种能够有效捕获化学反应基本规则的大规模深度学习框架。 近日，来自北京大学和望石智慧的研究团队提出了一种新方法来弥合基于反应的分子预训练和生成任务之间的差距。 受有机化学机制的启发，研究人员开发了一...
-
大语言模型之十六-基于LongLoRA的长文本上下文微调Llama-2
增加LLM上下文长度可以提升大语言模型在一些任务上的表现，这包括多轮长对话、长文本摘要、视觉-语言Transformer模型的高分辨4k模型的理解力以及代码生成、图像以及音频生成等。 对长上下文场景，在解码阶段，缓存先前token的Key和Value（K...
-
更强的Llama 2开源，可直接商用：一夜之间，大模型格局变了
已上微软 Azure，即将要上 AWS、Hugging Face。 一夜之间，大模型格局再次发生巨变。 一直以来 Llama 可以说是 AI 社区内最强大的开源大模型。但因为开源协议问题，一直不可免费商用。 今日，Meta 终于发布了大家期待...
-
GPT3.5 VS GPT-4写领导讲话稿，谁是最强笔杆子？
正文共 1240 字，阅读大约需要 5 分钟 文秘/公务员必备技巧，您将在5分钟后获得以下超能力： 快速生成领导讲话稿 Beezy评级 ：B级 *经过简单的寻找， 大部分人能立刻掌握。主要节省时间。 推荐人 | Kim 编...
-
谷歌承认 Gemini AI 模型演示视频不是真实的：使用静态图像帧，并撰写文本提示供 Gemini 回应
Google 刚刚宣布了其迄今为止最强大的 AI 模型套件 Gemini，但该公司已被指控在其宣传视频中对其性能进行了误导性表述。 根据彭博社专栏作家帕尔米·奥尔森（Parmy Olson）的观点文章，Google 在一段视频中误导了公众对 Gemini...
-
语言模型：GPT与HuggingFace的应用
本文分享自华为云社区《大语言模型底层原理你都知道吗？大语言模型底层架构之二GPT实现》，作者：码上开花_Lancer 。 受到计算机视觉领域采用ImageNet对模型进行一次预训练，使得模型可以通过海量图像充分学习如何提取特征，然后再根据任务目标进行模型...
-
后期狂喜！一张照片丝滑替换视频主角，动作幅度再大也OK｜Meta&新加坡国立大学
后期狂喜了家人们～ 现在，只需一张图片就能替换视频主角，效果还是如此的丝滑！ 且看这个叫做“VideoSwap”的新视频编辑模型—— 小猫一键变小狗，基操～ 如果原物体本身扭动幅度大一些？也完全没问题： 细看俩者之间的运动轨迹，给你保持得是一毛一样：...
-
使用 LoRA 进行 Stable Diffusion 的高效参数微调
LoRA: Low-Rank Adaptation of Large Language Models 是微软研究员引入的一项新技术，主要用于处理大模型微调的问题。目前超过数十亿以上参数的具有强能力的大模型 (例如 GPT-3 通常在为了适应其下游任...
-
田渊栋团队最新论文解决大模型部署难题 推理系统吞吐量提高近30倍！
田渊栋团队最新发表的论文解决了大型语言模型在实际部署中遇到的内存和输入长度限制的问题，将推理系统的吞吐量提高了近30倍。论文提出了一种实现KV缓存的新方法，通过识别和保留重要的tokens，显著减少了内存占用，并在长输入序列的任务中表现良好。 这篇论文的研...
-
数字人直播热度未减，真人模仿AI也火了！
近年来，AI技术高速发展，以数字人直播为代表的AIGC相关话题热度一直高居不下。 而另一边，真人模仿AI的视频和直播近期也在短视频平台上刷屏，悄悄走红。 达人@Barbin.ili芭比是一位舞蹈博主，11月25日，她发布了一条在西湖边模仿芭比娃娃跳舞的视频...
-
Meta、微软表示将购买 AMD 的最新 AI 芯片 MI300X，作为英伟达芯片的替代品
在 AMD 周三的投资者活动上，最新的人工智能芯片——Instinct MI300X">Meta、OpenAI 和微软宣布，他们将使用 AMD 最新的人工智能芯片——Instinct MI300X。这是迄今为止科技公司寻找替代 Nvidia 昂贵图形...
-
Meta、微软承诺购买AMD新型人工智能芯片 作为英伟达GPU替代品
12月7日消息，当地时间周三Meta、OpenAI和微软在AMD投资者活动上表示，他们都将使用AMD最新开发的人工智能芯片Instinct MI300X。这表明，虽然英伟达的GPU芯片对于开发和部署ChatGPT等人工智能程序至关重要，但很多科技公司都...
-
吞吐量提升近30倍！田渊栋团队最新论文解决大模型部署难题
大型语言模型 （LLM） 在今年可谓是风光无限。不过惊艳的效果背后是一个巨大的模型以及夸张的硬件资源。 LLM在现实中部署时通常会面临两个难题：昂贵的KV缓存成本，以及对长序列的泛化能力差。 近日，田渊栋团队发表了一篇论文，成功解决以上两个难题，并将推理...
-
抖音跳舞不用真人出镜，一张照片就能生成高质量视频！字节新技术连抱抱脸CTO都下场体验了
看！现在正有四位小姐姐在你面前大秀热舞： 以为是某些主播在短视频平台发布的作品？ No，No，No。 真实答案是：假的，生成的，而且还是只靠了一张图的那种！ 真实的打开方式是这样的： 这就是来自新加坡国立大学和字节跳动最新的一项研究，名叫Magic...
-
新AI框架DreamSync:结合图像理解模型的反馈 改善文本到图像合成
来自南加州大学、华盛顿大学、巴伊兰大学和谷歌研究团队的研究人员推出了DreamSync，这是一种新型人工智能框架，致力于解决扩散型文本到图像（T2I）模型中对齐和审美吸引力的问题，而无需进行人工标注、修改模型架构或使用强化学习。 DreamSync的方法是...
-
AIGC ChatGPT 制作地图可视化分析
地图可视化分析是一种将数据通过地图的形式进行展示的方法，可以让人们更加直观、快速、准确的理解和分析数据。以下是地图可视化分析的一些主要好处： 加强数据理解：地图可视化可以将抽象的数字转化为直观的图形，帮助我们更好地理解复杂的数据集。 揭示地理模...
-
七月论文审稿GPT第2版：从Meta Nougat、GPT4审稿到Mistral、LongLora Llama
前言 如此前这篇文章《学术论文GPT的源码解读与微调：从chatpaper、gpt_academic到七月论文审稿GPT》中的第三部分所述，对于论文的摘要/总结、对话、翻译、语法检查而言，市面上的学术论文GPT的效果虽暂未有多好，可至少还过得去，而如果涉...
-
【GPT4】微软 GPT-4 测试报告（4）GPT4 的数学能力
**欢迎关注【youcans的AGI学习笔记】原创作品微软 GPT-4 测试报告（1）总体介绍微软 GPT-4 测试报告（2）多模态与跨学科能力微软 GPT-4 测试报告（3）编程能力微软 GPT-4 测试报告（4）数学能力微软 GPT-4 测试报告（5）...
-
颠覆Transformer霸权！CMU普林斯顿推Mamba新架构，解决致命bug推理速度暴增5倍
深度学习进入新纪元，Transformer的霸主地位，要被掀翻了？ 2017年6月12日横空出世，让NLP直接变天，制霸自然语言领域多年的Transformer，终于要被新的架构打破垄断了。 Transformer虽强大，却有一个致命的bug：核心注意力...
-
Transformer挑战者出现！斯坦福CMU联合团队，开源模型及代码，公司已创办
现在ChatGPT等大模型一大痛点： 处理长文本算力消耗巨大，背后原因是Transformer架构中注意力机制的二次复杂度。 FlashAttention作者Tri Dao参与提出的新架构，成为有力挑战者，引起大量关注： Mamba（曼巴，一种蛇），在语...
-
中文大模型 Chinese-LLaMA-Alpaca-2 开源且可以商用
“ Meta 开源 LLAMA2 后，国内出现了不少以此为基座模型训练的中文模型，这次我们来看看其中一个不错的中文模型：Chinese-LLaMA-Alpaca-2 。” 01 — 目前在开源大模型中，比较有名的是Meta的LLAM...
-
矩阵模拟！Transformer大模型3D可视化，GPT-3、Nano-GPT每一层清晰可见
「矩阵模拟」的世界或许真的存在。模拟人类神经元，不断进化的Transformer模型，一直以来都深不可测。 许多科学家都试着打开这个黑盒，看看究竟是如何工作的。 而现在，大模型的矩阵世界，真的被打开了！ 一位软件工程师Brendan Bycroft制作了...
-
DetZero：Waymo 3D检测榜单第一，媲美人工标注！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 本文提出了一套离线3D物体检测算法框架DetZero，通过在 Waymo 公开数据集上进行全面的研究和评估，DetZero可生成连续且完整的物体轨迹序列，并充分利用长时序点云特征显着提升感知结果的质...
-
手机上0.2秒出图、当前速度之最，谷歌打造超快扩散模型MobileDiffusion
在手机等移动端侧运行 Stable Diffusion 等文生图生成式 AI 大模型已经成为业界追逐的热点之一，其中生成速度是主要的制约因素。 近日，来自谷歌的一篇论文「MobileDiffusion: Subsecond Text-to-Image G...
-
AIGC时代，大模型微调如何发挥最大作用？
人工智能的快速发展推动了大模型的广泛应用，它们在语言、视觉、语音等领域的应用效果已经越来越好。但是，训练一个大模型需要巨大的计算资源和时间，为了减少这种资源的浪费，微调已经成为一种流行的技术。微调是指在预训练模型的基础上，通过在小数据集上的训练来适应新的任...
-
AIGC玩转卡通化技术实践
FaceChain写真开源项目插播： 最新 FaceChain支持多人合照写真、上百种单人写真风格，项目信息汇总：ModelScope 魔搭社区 。 github开源直达（觉得有趣的点个star哈。）：https://gith...
-
LLMs之Colossal-LLaMA-2：Colossal-LLaMA-2的简介(基于LLaMA-2架构+中文优化+扩充词表+仅千美元成本)、安装、使用方法之详细攻略
LLMs之Colossal-LLaMA-2：Colossal-LLaMA-2的简介(基于LLaMA-2架构+中文优化+扩充词表+仅千美元成本 、安装、使用方法之详细攻略 导读：2023年9月25日，Colossal-AI团队推出了开源模型Colos...
-
stable diffusion 常用启动参数汇总及说明
stable diffusion安装根目录下，使用记事本打开webui-user.bat，然后修改对应参数。 多个参数使用空格隔开 set COMMANDLINE_ARGS=--参数1 --参数2 常用参数： 参数 说明 –xforme...
-
文本生成图像工作简述4--扩散模型、自回归模型、生成对抗网络的对比调研
基于近年来图像处理和语言理解方面的技术突破，融合图像和文本处理的多模态任务获得了广泛的关注并取得了显著成功。 文本生成图像（text-to-image）是图像和文本处理的多模态任务的一项子任务，其根据给定文本生成符合描述的真实图像，具有巨大的应用潜力，如...
-
为什么多数情况下GPT-3.5比LLaMA 2更便宜？
本文旨在为用户选择合适的开源或闭源语言模型提供指导，以便在不同任务需求下获得更高的性价比。 通过测试比较 LLaMA-2 和 GPT-3.5 的成本和时延，本文作者分别计算了二者的 1000 词元成本，证明在大多数情况下，选择 GPT...
-
Window下部署使用Stable Diffusion AI开源项目绘图
Window下部署使用Stable Diffusion AI开源项目绘图 前言 前提条件 相关介绍 Stable Diffusion AI绘图 下载项目 环境要求 环境下载 运行项目 打开网址，即可体验 文字生成图像（txt2img） 庐山瀑...
-
抖音即创官网入口 热门AI视频剪辑软件推荐
抖音即创是一款由抖音推出的一站式智能创意生产与管理平台，它可以帮助创作者提高视频、图文和直播的创作效率，利用人工智能技术实现多种创新功能。那么抖音即创在哪里可以体验呢?这里就给大家带来抖音即创官网体验入口。 >>>点击前往 抖音即创 官...
-
使用PyTorch加速生成式 AI模型
PyTorch 团队发布了一篇名为《Accelerating Generative AI with PyTorch II: GPT， Fast》的博文，重点介绍如何使用纯原生 PyTorch 加速生成式 AI 模型。 正如最近在PyTorch 开发者大会上...
-
【LLM系列之底座模型对比】LLaMA、Palm、GLM、BLOOM、GPT模型结构对比
LLama [GPT3] 使用RMSNorm（即Root Mean square Layer Normalization）对输入数据进行标准化，RMSNorm可以参考论文：Root mean square layer normalization。 [...