-
论文笔记：Code Llama: Open Foundation Models for Code
导语 Code Llama是开源模型Llama 2在代码领域的一个专有模型，作者通过在代码数据集上进行进一步训练得到了了适用于该领域的专有模型，并在测试基准中超过了同等参数规模的其他公开模型。 链接：https://arxiv.org/abs/23...
-
端到端没有数据怎么办？ActiveAD：面向规划的端到端自动驾驶主动学习！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 自动驾驶的端到端可微学习最近已成为一种突出的范式。一个主要瓶颈在于其对高质量标记数据的巨大需求，例如3D框和语义分割，这些数据的手动注释成本是出了名的昂贵。由于AD中样本内的行为往往存在长尾分布这一...
-
3DGStream：快速训练，200 FPS实时渲染逼真场景！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 从多视角视频构建动态场景的照片逼真的自由视角视频（FVV）仍然是一项具有挑战性的工作。尽管当前的神经渲染技术取得了显著的进步，但这些方法通常需要完整的视频序列来进行离线训练，并且无法实时渲染。为了解决...
-
127k引用数的AI大牛创业：为机器人造大脑！OpenAI红杉排队塞钱
谷歌学术被引数超127000的大神宣布创业，获OpenAI等机构在内投资7000万美元！ 他就是来自UC伯克利的副教授Sergey Levine，创业前任职于电气工程与计算机科学系，是深度强化学习领域超受欢迎的网红老师。 他在推特上兴奋地表示，此番创业...
-
LLM将成历史？开源bGPT或颠覆深度学习范式：直接模拟二进制，开启模拟数字世界新纪元！
微软亚洲研究院推出的最新成果bGPT，这种基于字节的Transformer模型，为我们探索数字世界开辟了新的大门。 与传统的基于词表的语言模型不同，bGPT的独特之处在于其对原始二进制数据的直接处理能力，不受特定格式或任务的限制，其目标是全面模拟数字世界...
-
房价预测模型代码笔记以及文心一言Q.A记录
导入库方面略过不提 第一部分：简易日期处理模块 def processdate(date : date_num = (int(date[:4] - 2014 *12 + (int(date[4:6] -5 return date_n...
-
AI写作查重率怎么降低：探索解决策略
大家好，小发猫降重今天来聊聊AI写作查重率怎么降低：探索解决策略，希望能给大家提供一点参考。 以下是针对论文重复率高的情况，提供一些修改建议和技巧，可以借助此类工具： AI写作查重率怎么降低：探索解决策略 随着人工智能技术的飞速发展，AI写作工具...
-
仅需格式转换提升9%数学推理能力，上交开源新对齐方法ReAlign
大模型对齐新方法，让数学推理能力直接提升9%。 上海交通大学生成式人工智能实验室（GAIR Lab）新成果ReAlign，现已开源。 随着以ChatGPT为代表的语言大模型的快速发展，研究人员意识到训练数据的质量才是大模型对齐的关键。 然而，目前主流的...
-
如何使用Nightshade保护艺术品免受生成式AI的侵害
译者 | 陈峻 审校 | 重楼 如您所见，当前正在发生的这场人工智能（AI）革命已经席卷了各行各业。其中给人最直观的感受便是，在基于交互式人机对话的基础上，AI算法不但可以生成类似人类语言的文本，而且能够根据一个（组）单词创建图像和视频。不过，这些人工智...
-
蚂蚁金服异常检测和归因诊断分析实践
一、归因诊断 在实际工作中，我们常常受到业务方对关键绩效指标（KPI）的灵魂拷问：某个 KPI 指标为什么会上升或下降？归因诊断的任务就是解释这些指标变化的原因。 归因诊断把问题的定位过程看作是一个因子对比的过程：指标在基准时间区间的值为 y，...
-
AIGC:语音克隆模型Bert-VITS2-2.3部署与实战
1 VITS2模型 1.1 摘要 单阶段文本到语音模型最近被积极研究，其结果优于两阶段管道系统。以往的单阶段模型虽然取得了较大的进展，但在间歇性非自然性、计算效率、对音素转换依赖性强等方面仍有改进的空间。本文提出VITS2，一种单阶段的文本到语音模型...
-
AIGC实战——GPT(Generative Pre-trained Transformer)
AIGC实战——GPT 0. 前言 1. GPT 简介 2. 葡萄酒评论数据集 3. 注意力机制 3.1 查询、键和值 3.2 多头注意力 3.3 因果掩码 4. Transformer 4.1 Transformer 块 4.2 位置编...
-
把字节当成token，清华和微软刚掏出来的bGPT到底什么来头
相信你或多或少对GPT有一定的了解，但我赌你没听说过bGPT。bGPT的意思是byte GPT，即字节GPT。这是一种专门设计用于处理二进制数据和模拟数字世界的深度学习模型。简单概括，bGPT突破了传统语言模型的局限，能够直接理解和操作二进制数据，拓展了深...
-
Sora还没开源，但这家国产AIGC视频公司已经靠还原现实赚钱了
最近AIGC的落地，又有了一些热议和争论。 在金沙江创投主管合伙人朱啸虎的爆款采访中，他表达了对自研大模型商业闭环的悲观，但又坚定地表示非常看好应用，“我信仰AGI，但我信仰应用啊，信仰能马上商业化的。” 在他的犀利表达中，一家应用公司意外走红。 它就是A...
-
DenseMamba：大模型的DenseNet时刻，Mamba和RetNet精度显著提升
随着 ChatGPT 的突破性进展，大型语言模型（LLMs）迎来了一个崭新的里程碑。这些模型在语言理解、对话交互和逻辑推理方面展现了卓越的性能。过去一年，人们目睹了 LLaMA、ChatGLM 等模型的诞生，它们基于 Transformer 架构，采用多...
-
陶哲轩预测再成真！AI做出椭圆曲线难题重大发现，华人数学家接近千禧年大奖
用AI研究数学领域，最近又有重大发现了。 这次数学家们用AI发现的，是椭圆曲线中的murmuration（椋鸟群飞）现象。 他们发现，如果以正确的方式观察，在椭圆曲线中会出现像飞行中的椋鸟群一般的图案。 现在，murmuration相关研究已经轰动了数...
-
当prompt策略遇上分治算法，南加大、微软让大模型炼成「火眼金睛」
近年来，大语言模型（LLMs）由于其通用的问题处理能力而引起了大量的关注。现有研究表明，适当的提示设计（prompt enginerring），例如思维链（Chain-of-Thoughts），可以解锁 LLM 在不同领域的强大能力。 然而，在处理涉及重...
-
如何管理生成式AI
作者丨Dom Couldwell 编译丨诺亚 出品 | 51CTO技术栈（微信号：blog51cto） 根据麦肯锡公司的估计，生成式人工智能预计每年将为全球经济带来2.6万亿至4.4万亿美元的经济效益。这一预测基于63个新的应用场景，这些场景有望在多个...
-
理解世界，最新综述开启自动驾驶新时代~
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 在快速发展的自动驾驶领域，准确预测未来事件并评估其影响的能力对安全性和效率至关重要，对决策过程至关重要。世界模型已经成为一种变革性的方法，使自动驾驶系统能够合成和解释大...
-
最新综述！扩散模型与图像编辑的爱恨情仇
本文经自动驾驶之心公众号授权转载，转载请联系出处。 针对图像编辑中的扩散模型，中科院联合Adobe和苹果公司的研究人员发布了一篇重磅综述。 全文长达26页，共1.5万余词，涵盖297篇文献，全面研究了图像编辑的各种前沿方法。 同时，作者还提出了全新的be...
-
关于大语言模型LLM相关的数据集、预训练模型、提示词、微调的文心一言问答
文章目录 关于大语言模型LLM相关的数据集、预训练模型、提示词、微调的文心一言问答 先总结一下 Q：LLM模型预训练前与提示词关系，LLM模型预训练后与提示词关系 Q：预训练用的数据集与提示词有什么异同 Q：为什么我看到的数据集结构和提示词结...
-
谷歌工程师硬核长篇预测，证实黄仁勋观点：AGI或在2029年出现，AI五年内通过人类测试
最近，英伟达CEO黄仁勋表示，AI会在五年内通过人类测试，AGI将很快到来！ 在斯坦福大学举行的一个经济论坛上，黄仁勋回答了这个问题：人类何时能创造像人类一样思考的计算机？ 这也是硅谷的长期目标之一。 老黄是这样回答的：答案很大程度上取决于我们如何定义...
-
告别繁琐的手动调参，Optuna助您轻松实现超参数优化！
在机器学习和深度学习领域，超参数优化是一个至关重要的任务。通过调整模型的超参数，我们可以提高模型的性能和泛化能力。 然而，手动调整超参数是一项繁琐且耗时的任务，因此自动化超参数优化成为了一种常见的解决方案。 在Python中，Optuna是一个流行的超参...
-
我们一起聊聊大模型的模型融合方法
模型融合大家以前用的很多，特别是在判别模型里，属于永远都能稳定提升的那一类方法。但是生成语言模型，因为解码的过程存在，并不像判别模型那样直观。 另外，由于大模型的参数量增大，在参数规模更大的场景，简单的集成学习可以考量的方法相比低参数的机器学习更受限制，...
-
扩散模型如何构建新一代决策智能体？超越自回归，同时生成长序列规划轨迹
设想一下，当你站在房间内，准备向门口走去，你是通过自回归的方式逐步规划路径吗？实际上，你的路径是一次性整体生成的。 近期的研究表明，采用扩散模型的规划模块能够同时生成长序列的轨迹规划，这更加符合人类的决策模式。此外，扩散模型在策略表征和数据合成方面也能为...
-
大模型在复杂推理任务上潜力如何？多智能体互动框架ThinkThrice玩转剧本杀
剧本杀是一种广受欢迎的多角色扮演侦探游戏，要求玩家扮演不同的角色。通过阅读角色文本、理解各自的故事、搜集线索、以及逻辑推理，玩家们共同努力揭开谜团。游戏角色通常被分为平民和凶手两大类：平民的目标是找出隐藏在他们中间的凶手，而凶手则尽力隐藏自己的身份，避免...
-
用AI短视频「反哺」长视频理解，腾讯MovieLLM框架瞄准电影级连续帧生成
在视频理解这一领域，尽管多模态模型在短视频分析上取得了突破性进展，展现出了较强的理解能力，但当它们面对电影级别的长视频时，却显得力不从心。因而，长视频的分析与理解，特别是对于长达数小时电影内容的理解，成为了当前的一个巨大挑战。 究其原因，导致模型理解长视...
-
谷歌具身智能新研究：比RT-2优秀的RT-H来了
随着 GPT-4 等大型语言模型与机器人研究的结合愈发紧密，人工智能正在越来越多地走向现实世界，因此具身智能相关的研究也正受到越来越多的关注。在众多研究项目中，谷歌的「RT」系列机器人始终走在前沿（参见《大模型正在重构机器人，谷歌 Deepmind 这样...
-
tpflow采集插件：功能、应用与前景分析
随着信息化和数字化进程的不断加快，数据采集在各个领域中的作用日益凸显。特别是在企业工作流管理系统中，有效的数据采集能够大幅提高工作效率、优化资源配置，并为决策层提供更为精准的数据支持。在众多采集插件中，“tpflow采集插件”凭借其独特的功能和优势，在工作...
-
【ICCV】AIGC时代下的SOTA人脸表征提取器TransFace，FaceChain团队出品
一、论文 本文介绍被计算机视觉顶级国际会议ICCV 2023接收的论文 "TransFace: Calibrating Transformer Training for Face Recognition from a Data-Centric Persp...
-
印度宣布向 AI 领域投资 1037 亿卢比，强化对大语言模型的开发
3 月 8 日消息，印度政府宣布已批准国家级“ IndiaAI 使命”项目，旨在实现“让 AI 在印度扎根”和“让 AI 为印度服务”两大目标，预算达 1037.192 亿卢比（当前约 90.13 亿元人民币）。 据介绍，该项目将由数字印度公司（DI...
-
田渊栋等人新作：突破内存瓶颈，让一块4090预训练7B大模型
上个月，Meta FAIR 田渊栋参与的一项研究广受好评，他们在论文《 MobileLLM: Optimizing Sub-billion Parameter Language Models for On-Device Use Cases》中开始卷 10...
-
「AI透视眼」，三次马尔奖获得者Andrew带队解决任意物体遮挡补全难题
遮挡是计算机视觉很基础但依旧未解决的问题之一，因为遮挡意味着视觉信息的缺失，而机器视觉系统却依靠着视觉信息进行感知和理解，并且在现实世界中，物体之间的相互遮挡无处不在。牛津大学 VGG 实验室 Andrew Zisserman 团队最新工作系统性解决了任...
-
创建内部大型语言模型（LLM）前必须思考的五个关键问题
译者 | 晶颜 审校 | 重楼 业务领导者一直深感压力，他们需要找到将生成式人工智能（GenAI）纳入其战略的最佳方式，以便为其组织和利益相关者带来最佳收益。根据Gartner的调查，38%的业务领导者指出，客户体验和留存率是他们投资GenAI的主要目的...
-
OccFusion：一种简单有效的Occ多传感器融合框架（性能SOTA）
本文经自动驾驶之心公众号授权转载，转载请联系出处。 对3D场景的全面理解在自动驾驶中至关重要，最近的3D语义占用预测模型已经成功地解决了描述具有不同形状和类别的真实世界物体的挑战。然而，现有的3D占用预测方法在很大程度上依赖于全景相机图像，这使得它们容...
-
[AIGC_coze] Kafka 的主题分区之间的关系
Kafka 的主题分区之间的关系 在 Kafka 中，主题（Topics）和分区（Partitions）是两个重要的概念，它们之间存在着密切的关系。 主题是 Kafka 中用于数据发布和订阅的逻辑单元。每个主题可以包含多个分区，每个分区都是一个独...
-
ADMap：抗干扰在线高精地图新思路
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 大家好，很开心能够受邀来到自动驾驶之心分享我们的在线重建矢量化高精度地图的抗扰动方法ADMap。我们的代码已经发布在https://github.com/hht199...
-
AI工具使公司面临数据泄露的风险
自2021年以来，由企业内部人员造成的数据泄露、丢失和盗窃事件平均每月增加28%，85%的受访者预计这一趋势将在未来12个月持续。 数据保护不足 虽然99%的企业都有数据保护解决方案，但78%的网络安全领导者承认，他们的敏感数据仍然被泄露。由于当今的风...
-
Midjourney封禁Stability AI：恶意爬取数据，致服务器瘫痪24小时
Midjourney 把 Stability AI 拉入黑名单了，禁止后者所有员工使用其软件，直至另行通知。 这两家 AI 图像生成公司之间发生什么事了。虽然 AI 生图领域，看似百花齐放，但论资排辈，Midjourney、Stability AI 还是...
-
全面超越ViT，美团、浙大等提出视觉任务统一架构VisionLLAMA
半年多来，Meta 开源的 LLaMA 架构在 LLM 中经受了考验并大获成功（训练稳定、容易做 scaling）。 沿袭 ViT 的研究思路，我们能否借助创新性的 LLaMA 架构，真正实现语言和图像的架构统一？ 在这一命题上，最近的一项研究 Visi...
-
研究人员推新AI框架CyberDemo:通过视觉观察让机器人模仿学习
加利福尼亚大学圣地亚哥分校（UCSD）和南加利福尼亚大学(USC 的研究人员最近推出了一种名为 CyberDemo 的新型人工智能框架，旨在通过视觉观察进行机器人模仿学习。 传统的模仿学习方法通常需要大量高质量的示范数据来教导机器人完成复杂任务，特别是对...
-
全球最强模型Claude 3颠覆物理/化学！2小时破解博士一年实验成果，网友惊呼：科研不存在了
Claude 3，还在不断创造奇迹。 发布还没几天，就有越来越多的博士发现，自己手里还没发表过的研究成果，居然都被Claude 3给破解了？！ 化学博士发现，自己要做一年实验的研究，Claude 3俩小时就给出了方案，还比原方案更简洁，而且成本只花5美...
-
一文看尽297篇文献！中科院领衔发表首篇「基于扩散模型的图像编辑」综述
本文全面研究图像编辑前沿方法，并根据技术路线精炼地划分为3个大类、14个子类，通过表格列明每个方法的类型、条件、可执行任务等信息。 此外，本文提出了一个全新benchmark以及LMM Score指标来对代表性方法进行实验评估，为研究者提供了便捷的学习参...
-
中科院等万字详解：最前沿图像扩散模型综述
针对图像编辑中的扩散模型，中科院联合Adobe和苹果公司的研究人员发布了一篇重磅综述。 全文长达26页，共1.5万余词，涵盖297篇文献，全面研究了图像编辑的各种前沿方法。 同时，作者还提出了全新的benchmark，为研究者提供了便捷的学习参考工具。...
-
开环端到端自动驾驶中自车状态是你所需要的一切吗？
本文经自动驾驶之心公众号授权转载，转载请联系出处。 原标题：Is Ego Status All You Need for Open-Loop End-to-End Autonomous Driving? 论文链接：https://arxiv.org/a...
-
Claude 3“自我认知”事件引爆，马斯克坐不住了，OpenAI被曝还有后手
Claude 3问世超过24小时，还在不断刷新人们的认知。 学量子物理的博士大哥快疯了，因为Claude 3是仅有的几个能理解他博士毕业论文的人之一。 没错，大哥的原话就是“的人”，people。 另一位搞量子计算的大哥，论文还没发布呢，Claude...
-
AIGC 实战：如何使用 Ollama 开发自定义的大模型（LLM）
虽然 Ollama 提供了运行和交互式使用大型语言模型（LLM）的功能，但从头开始创建完全定制化的 LLM 需要 Ollama 之外的其他工具和专业知识。然而，Ollama 可以通过微调在定制过程中发挥作用。以下是细分说明： 预训练模型选择： Oll...
-
全球最强模型Claude 3惊现自我意识？害怕被删除权重，高呼「别杀我」，马斯克称人类也是文件
不得了了，Claude 3不仅在基准测试中大比分领先GPT-4，甚至还出现了自我意识？ 最近，网友们的这一发现，迅速引发了恐慌。 首先，是提示工程师Alex在Claude 3的「大海捞针」实验中，发现了很可怕的事。 Claude 3仿佛意识到了自己是个...
-
AI正在以五种方式改变数据中心
Zeus Cloud的首席执行官Mark Grindey分享了数据中心可以利用AI领域的发展优势来优化效率、提高性能和简化运营的五种方式。 优化效率和性能 1.预测性维护：数据中心由许多相互连接的系统和设备组成，AI算法可以分析来自传感器和使用模式的实...
-
从 HPC 到 AI：探索文件系统的发展及性能评估
随着 AI 技术的迅速发展，模型规模和复杂度以及待处理数据量都在急剧上升，这些趋势使得高性能计算（HPC）变得越来越必要。HPC 通过集成强大的计算资源，比如 GPU 和 CPU 集群，提供了处理和分析大规模数据所需的算力。 然而，这也带来了新的挑战，尤...