-
Stable diffusion（二）
SD colab安装 https://colab.research.google.com/github/TheLastBen/fast-stable-diffusion/blob/main/fast_stable_diffusion_AUTOMATIC...
-
仅需200M参数，零样本性能超越有监督！谷歌发布时序预测基础模型TimesFM
时间序列预测在零售、金融、制造业、医疗保健和自然科学等各个领域无处不在：比如说在零售场景下中，「提高需求预测准确性」可以有显著降低库存成本并增加收入。 深度学习（DL）模型基本上垄断了「多变量时间序列预测」任务，在各个竞赛、现实应用中的表现都非常好。 与...
-
Glyph-ByT5官网体验入口 AI文本编码器与图像生成工具在线使用地址
Glyph-ByT5是一种定制的文本编码器，旨在提高文本到图像生成模型中的视觉文本渲染准确性。它通过微调字符感知的ByT5 编码器并使用精心策划的成对字形文本数据集来实现。将Glyph-ByT5 与SDXL集成后，形成了Glyph-SDXL模型，使设计图像...
-
刷榜「代码生成」任务！复旦等发布StepCoder框架：从编译器反馈信号中强化学习
大型语言模型（LLMs）的发展极大地推动了代码生成领域的发展，之前有工作将强化学习（RL）与编译器的反馈信号集成在一起，用于探索LLMs的输出空间，以提高代码生成质量。 但当下还存在两个问题： 1. 强化学习探索很难直接适配到「复杂的人类需求」，即要求L...
-
谷歌通用AI智能体发布，3D游戏玩法要变天了
谷歌DeepMind号称打造出了首个能在广泛3D虚拟环境和视频游戏中遵循自然语言指令的通用AI智能体。 名为SIMA，不是NPC，是可以成为玩家拍档，帮忙干活打杂的那种。 比如，在《模拟山羊3》（Goat Simulator 3）中当司机开开车： 在...
-
苹果大模型MM1杀入场：300亿参数、多模态、MoE架构，超半数作者是华人
今年以来，苹果显然已经加大了对生成式人工智能（GenAI）的重视和投入。此前在 2024 苹果股东大会上，苹果 CEO 蒂姆・库克表示，今年将在 GenAI 领域实现重大进展。此外，苹果宣布放弃 10 年之久的造车项目之后，一部分造车团队成员也开始转向...
-
人工智能将在2024年彻底改变硬件设计
从加快头脑风暴过程到在出现错误之前发现设计缺陷，以下是人工智能在2024年影响硬件设计的五种方式。 人工智能将在2024年彻底改变硬件设计 每个硬件团队的使命梦想都是开发出定义类别的产品，并在预算内按时交付。但是，硬件固有的缓慢设计和迭代时间，以及低...
-
首次攻克「图基础模型」三大难题！港大开源OpenGraph：零样本学习适配多种下游任
图学习（Graph Learning）技术能够对复杂的关系数据进行挖掘和学习，在推荐系统、社交网络分析、引用网络和交通网络等多个领域都显示出了巨大的应用价值。 图神经网络（Graph Neural Networks, GNNs）基于迭代的消息传递机制，能...
-
实时加SOTA一飞冲天！FastOcc：推理更快、部署友好Occ算法来啦！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 在自动驾驶系统当中，感知任务是整个自驾系统中至关重要的组成部分。感知任务的主要目标是使自动驾驶车辆能够理解和感知周围的环境元素，如行驶在路上的车辆、路旁的行人、行驶过...
-
超强！深度学习Top10算法！
自2006年深度学习概念被提出以来，20年快过去了，深度学习作为人工智能领域的一场革命，已经催生了许多具有影响力的算法。那么，你所认为深度学习的top10算法有哪些呢？ 以下是花哥我心目中的深度学习top10算法，它们在创新性、应用价值和影响力方面都具...
-
文生图的最新进展：从一致性模型CMs、LCM、SDXL到Stable Diffusion3、SDXL-Lightning
前言 很明显，OpenAI的首个视频生成模型sora极大程度的提高了大家对文生图、文生视频的热情，也极大的扩展了大家对AIGC的想象力 第一部分(选读 一致性模型Consistency Model 注，本文第一部分最早写在23年11月份的这篇文...
-
Etna体验入口 人工智能AI视频生成模型免费在线使用地址
Etna是一款基于人工智能技术的视频生成模型，采用了Diffusion架构，并结合了时空卷积和注意力层，使其能够处理视频数据并理解时间连续性，从而生成具有时间维度的视频内容。该模型在大型视频数据集上进行训练，使用了深度学习技术策略，包括大规模训练、超参数优...
-
LLaMA-2-7B数学能力上限已达97.7%？Xwin-Math利用合成数据解锁潜力
合成数据持续解锁大模型的数学推理潜力！ 数学问题解决能力一直被视为衡量语言模型智能水平的重要指标。通常只有规模极大的模型或经过大量数学相关预训练的模型才能有机会在数学问题上表现出色。 近日，一项由 Swin-Transformer 团队打造，来自西安交通...
-
Stable Diffusion ———LDM、SD 1.0, 1.5, 2.0、SDXL、SDXL-Turbo等版本之间关系现原理详解
一、简介 2021年5月，OpenAI发表了《扩散模型超越GANs》的文章，标志着扩散模型（Diffusion Models，DM）在图像生成领域开始超越传统的GAN模型，进一步推动了DM的应用。 然而，早期的DM直接作用于像素空间，这意味着要优化一...
-
大模型的DenseNet时刻！DenseMamba：精度显著提升
本文经自动驾驶之心公众号授权转载，转载请联系出处。 随着 ChatGPT 的突破性进展，大型语言模型（LLMs）迎来了一个崭新的里程碑。这些模型在语言理解、对话交互和逻辑推理方面展现了卓越的性能。过去一年，人们目睹了 LLaMA、ChatGLM 等模型...
-
探索Kubernetes与AI的结合：PyTorch训练任务在k8s上调度实践
概述 Kubernetes的核心优势在于其能够提供一个可扩展、灵活且高度可配置的平台，使得应用程序的部署、扩展和管理变得前所未有的简单。通用计算能力方面的应用已经相对成熟，云原生化的应用程序、数据库和其他服务可以轻松部署在Kubernetes环境中，实现...
-
【AIGC调研系列】StarCoder2模型与其他模型对比的优势和劣势
StarCoder2模型的优势主要包括： 性能：StarCoder2模型具备性能优势，旨在为代码生成、编辑和推理任务提供强大的支持[6]。 透明度：该系列模型希望成为代码生成领域的新标准，提高了模型的透明度和可访问性[1][4][11]。 成本效...
-
论文笔记：Code Llama: Open Foundation Models for Code
导语 Code Llama是开源模型Llama 2在代码领域的一个专有模型，作者通过在代码数据集上进行进一步训练得到了了适用于该领域的专有模型，并在测试基准中超过了同等参数规模的其他公开模型。 链接：https://arxiv.org/abs/23...
-
端到端没有数据怎么办？ActiveAD：面向规划的端到端自动驾驶主动学习！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 自动驾驶的端到端可微学习最近已成为一种突出的范式。一个主要瓶颈在于其对高质量标记数据的巨大需求，例如3D框和语义分割，这些数据的手动注释成本是出了名的昂贵。由于AD中样本内的行为往往存在长尾分布这一...
-
3DGStream：快速训练，200 FPS实时渲染逼真场景！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 从多视角视频构建动态场景的照片逼真的自由视角视频（FVV）仍然是一项具有挑战性的工作。尽管当前的神经渲染技术取得了显著的进步，但这些方法通常需要完整的视频序列来进行离线训练，并且无法实时渲染。为了解决...
-
127k引用数的AI大牛创业：为机器人造大脑！OpenAI红杉排队塞钱
谷歌学术被引数超127000的大神宣布创业，获OpenAI等机构在内投资7000万美元！ 他就是来自UC伯克利的副教授Sergey Levine，创业前任职于电气工程与计算机科学系，是深度强化学习领域超受欢迎的网红老师。 他在推特上兴奋地表示，此番创业...
-
LLM将成历史？开源bGPT或颠覆深度学习范式：直接模拟二进制，开启模拟数字世界新纪元！
微软亚洲研究院推出的最新成果bGPT，这种基于字节的Transformer模型，为我们探索数字世界开辟了新的大门。 与传统的基于词表的语言模型不同，bGPT的独特之处在于其对原始二进制数据的直接处理能力，不受特定格式或任务的限制，其目标是全面模拟数字世界...
-
房价预测模型代码笔记以及文心一言Q.A记录
导入库方面略过不提 第一部分：简易日期处理模块 def processdate(date : date_num = (int(date[:4] - 2014 *12 + (int(date[4:6] -5 return date_n...
-
AI写作查重率怎么降低：探索解决策略
大家好，小发猫降重今天来聊聊AI写作查重率怎么降低：探索解决策略，希望能给大家提供一点参考。 以下是针对论文重复率高的情况，提供一些修改建议和技巧，可以借助此类工具： AI写作查重率怎么降低：探索解决策略 随着人工智能技术的飞速发展，AI写作工具...
-
仅需格式转换提升9%数学推理能力，上交开源新对齐方法ReAlign
大模型对齐新方法，让数学推理能力直接提升9%。 上海交通大学生成式人工智能实验室（GAIR Lab）新成果ReAlign，现已开源。 随着以ChatGPT为代表的语言大模型的快速发展，研究人员意识到训练数据的质量才是大模型对齐的关键。 然而，目前主流的...
-
如何使用Nightshade保护艺术品免受生成式AI的侵害
译者 | 陈峻 审校 | 重楼 如您所见，当前正在发生的这场人工智能（AI）革命已经席卷了各行各业。其中给人最直观的感受便是，在基于交互式人机对话的基础上，AI算法不但可以生成类似人类语言的文本，而且能够根据一个（组）单词创建图像和视频。不过，这些人工智...
-
蚂蚁金服异常检测和归因诊断分析实践
一、归因诊断 在实际工作中，我们常常受到业务方对关键绩效指标（KPI）的灵魂拷问：某个 KPI 指标为什么会上升或下降？归因诊断的任务就是解释这些指标变化的原因。 归因诊断把问题的定位过程看作是一个因子对比的过程：指标在基准时间区间的值为 y，...
-
AIGC:语音克隆模型Bert-VITS2-2.3部署与实战
1 VITS2模型 1.1 摘要 单阶段文本到语音模型最近被积极研究，其结果优于两阶段管道系统。以往的单阶段模型虽然取得了较大的进展，但在间歇性非自然性、计算效率、对音素转换依赖性强等方面仍有改进的空间。本文提出VITS2，一种单阶段的文本到语音模型...
-
AIGC实战——GPT(Generative Pre-trained Transformer)
AIGC实战——GPT 0. 前言 1. GPT 简介 2. 葡萄酒评论数据集 3. 注意力机制 3.1 查询、键和值 3.2 多头注意力 3.3 因果掩码 4. Transformer 4.1 Transformer 块 4.2 位置编...
-
把字节当成token，清华和微软刚掏出来的bGPT到底什么来头
相信你或多或少对GPT有一定的了解，但我赌你没听说过bGPT。bGPT的意思是byte GPT，即字节GPT。这是一种专门设计用于处理二进制数据和模拟数字世界的深度学习模型。简单概括，bGPT突破了传统语言模型的局限，能够直接理解和操作二进制数据，拓展了深...
-
Sora还没开源，但这家国产AIGC视频公司已经靠还原现实赚钱了
最近AIGC的落地，又有了一些热议和争论。 在金沙江创投主管合伙人朱啸虎的爆款采访中，他表达了对自研大模型商业闭环的悲观，但又坚定地表示非常看好应用，“我信仰AGI，但我信仰应用啊，信仰能马上商业化的。” 在他的犀利表达中，一家应用公司意外走红。 它就是A...
-
DenseMamba：大模型的DenseNet时刻，Mamba和RetNet精度显著提升
随着 ChatGPT 的突破性进展，大型语言模型（LLMs）迎来了一个崭新的里程碑。这些模型在语言理解、对话交互和逻辑推理方面展现了卓越的性能。过去一年，人们目睹了 LLaMA、ChatGLM 等模型的诞生，它们基于 Transformer 架构，采用多...
-
陶哲轩预测再成真！AI做出椭圆曲线难题重大发现，华人数学家接近千禧年大奖
用AI研究数学领域，最近又有重大发现了。 这次数学家们用AI发现的，是椭圆曲线中的murmuration（椋鸟群飞）现象。 他们发现，如果以正确的方式观察，在椭圆曲线中会出现像飞行中的椋鸟群一般的图案。 现在，murmuration相关研究已经轰动了数...
-
当prompt策略遇上分治算法，南加大、微软让大模型炼成「火眼金睛」
近年来，大语言模型（LLMs）由于其通用的问题处理能力而引起了大量的关注。现有研究表明，适当的提示设计（prompt enginerring），例如思维链（Chain-of-Thoughts），可以解锁 LLM 在不同领域的强大能力。 然而，在处理涉及重...
-
如何管理生成式AI
作者丨Dom Couldwell 编译丨诺亚 出品 | 51CTO技术栈（微信号：blog51cto） 根据麦肯锡公司的估计，生成式人工智能预计每年将为全球经济带来2.6万亿至4.4万亿美元的经济效益。这一预测基于63个新的应用场景，这些场景有望在多个...
-
理解世界，最新综述开启自动驾驶新时代~
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 在快速发展的自动驾驶领域，准确预测未来事件并评估其影响的能力对安全性和效率至关重要，对决策过程至关重要。世界模型已经成为一种变革性的方法，使自动驾驶系统能够合成和解释大...
-
最新综述！扩散模型与图像编辑的爱恨情仇
本文经自动驾驶之心公众号授权转载，转载请联系出处。 针对图像编辑中的扩散模型，中科院联合Adobe和苹果公司的研究人员发布了一篇重磅综述。 全文长达26页，共1.5万余词，涵盖297篇文献，全面研究了图像编辑的各种前沿方法。 同时，作者还提出了全新的be...
-
关于大语言模型LLM相关的数据集、预训练模型、提示词、微调的文心一言问答
文章目录 关于大语言模型LLM相关的数据集、预训练模型、提示词、微调的文心一言问答 先总结一下 Q：LLM模型预训练前与提示词关系，LLM模型预训练后与提示词关系 Q：预训练用的数据集与提示词有什么异同 Q：为什么我看到的数据集结构和提示词结...
-
谷歌工程师硬核长篇预测，证实黄仁勋观点：AGI或在2029年出现，AI五年内通过人类测试
最近，英伟达CEO黄仁勋表示，AI会在五年内通过人类测试，AGI将很快到来！ 在斯坦福大学举行的一个经济论坛上，黄仁勋回答了这个问题：人类何时能创造像人类一样思考的计算机？ 这也是硅谷的长期目标之一。 老黄是这样回答的：答案很大程度上取决于我们如何定义...
-
告别繁琐的手动调参，Optuna助您轻松实现超参数优化！
在机器学习和深度学习领域，超参数优化是一个至关重要的任务。通过调整模型的超参数，我们可以提高模型的性能和泛化能力。 然而，手动调整超参数是一项繁琐且耗时的任务，因此自动化超参数优化成为了一种常见的解决方案。 在Python中，Optuna是一个流行的超参...
-
我们一起聊聊大模型的模型融合方法
模型融合大家以前用的很多，特别是在判别模型里，属于永远都能稳定提升的那一类方法。但是生成语言模型，因为解码的过程存在，并不像判别模型那样直观。 另外，由于大模型的参数量增大，在参数规模更大的场景，简单的集成学习可以考量的方法相比低参数的机器学习更受限制，...
-
扩散模型如何构建新一代决策智能体？超越自回归，同时生成长序列规划轨迹
设想一下，当你站在房间内，准备向门口走去，你是通过自回归的方式逐步规划路径吗？实际上，你的路径是一次性整体生成的。 近期的研究表明，采用扩散模型的规划模块能够同时生成长序列的轨迹规划，这更加符合人类的决策模式。此外，扩散模型在策略表征和数据合成方面也能为...
-
大模型在复杂推理任务上潜力如何？多智能体互动框架ThinkThrice玩转剧本杀
剧本杀是一种广受欢迎的多角色扮演侦探游戏，要求玩家扮演不同的角色。通过阅读角色文本、理解各自的故事、搜集线索、以及逻辑推理，玩家们共同努力揭开谜团。游戏角色通常被分为平民和凶手两大类：平民的目标是找出隐藏在他们中间的凶手，而凶手则尽力隐藏自己的身份，避免...
-
用AI短视频「反哺」长视频理解，腾讯MovieLLM框架瞄准电影级连续帧生成
在视频理解这一领域，尽管多模态模型在短视频分析上取得了突破性进展，展现出了较强的理解能力，但当它们面对电影级别的长视频时，却显得力不从心。因而，长视频的分析与理解，特别是对于长达数小时电影内容的理解，成为了当前的一个巨大挑战。 究其原因，导致模型理解长视...
-
谷歌具身智能新研究：比RT-2优秀的RT-H来了
随着 GPT-4 等大型语言模型与机器人研究的结合愈发紧密，人工智能正在越来越多地走向现实世界，因此具身智能相关的研究也正受到越来越多的关注。在众多研究项目中，谷歌的「RT」系列机器人始终走在前沿（参见《大模型正在重构机器人，谷歌 Deepmind 这样...
-
tpflow采集插件：功能、应用与前景分析
随着信息化和数字化进程的不断加快，数据采集在各个领域中的作用日益凸显。特别是在企业工作流管理系统中，有效的数据采集能够大幅提高工作效率、优化资源配置，并为决策层提供更为精准的数据支持。在众多采集插件中，“tpflow采集插件”凭借其独特的功能和优势，在工作...
-
【ICCV】AIGC时代下的SOTA人脸表征提取器TransFace，FaceChain团队出品
一、论文 本文介绍被计算机视觉顶级国际会议ICCV 2023接收的论文 "TransFace: Calibrating Transformer Training for Face Recognition from a Data-Centric Persp...
-
印度宣布向 AI 领域投资 1037 亿卢比，强化对大语言模型的开发
3 月 8 日消息，印度政府宣布已批准国家级“ IndiaAI 使命”项目，旨在实现“让 AI 在印度扎根”和“让 AI 为印度服务”两大目标，预算达 1037.192 亿卢比（当前约 90.13 亿元人民币）。 据介绍，该项目将由数字印度公司（DI...
-
田渊栋等人新作：突破内存瓶颈，让一块4090预训练7B大模型
上个月，Meta FAIR 田渊栋参与的一项研究广受好评，他们在论文《 MobileLLM: Optimizing Sub-billion Parameter Language Models for On-Device Use Cases》中开始卷 10...
-
「AI透视眼」，三次马尔奖获得者Andrew带队解决任意物体遮挡补全难题
遮挡是计算机视觉很基础但依旧未解决的问题之一，因为遮挡意味着视觉信息的缺失，而机器视觉系统却依靠着视觉信息进行感知和理解，并且在现实世界中，物体之间的相互遮挡无处不在。牛津大学 VGG 实验室 Andrew Zisserman 团队最新工作系统性解决了任...