-
世界模型和DriveGPT这类大模型到底能给自动驾驶带来什么？
本文经自动驾驶之心公众号授权转载，转载请联系出处。 大模型今年爆火，很多领域上的应用如雨后春笋般涌现，很多优秀的工作出现，主要集中在数据生成和场景分析表述两部分，重点解决自动驾驶的长尾分布问题和场景识别。今天自动驾驶之心带大家梳理下自动驾驶行业上的大模...
-
智谱的“GPT-4V”来了，CEO张鹏说他们就是奔着AGI去的
时隔仅仅四个月，智谱大模型再度升级。在沈阳举办的2023中国计算机大会CNCC2023上，智谱介绍了新一代ChatGLM3大模型。 根据智谱官方的表述，尽管新的大模型名字中带有Chat，但实际上这是一个全新版本的基座模型，它的完全版和上一代一样拥有1300...
-
比Transformer更好，无Attention、MLPs的BERT、GPT反而更强了
从 BERT、GPT 和 Flan-T5 等语言模型到 SAM 和 Stable Diffusion 等图像模型，Transformer 正以锐不可当之势席卷这个世界，但人们也不禁会问：Transformer 是唯一选择吗？ 斯坦福大学和纽约州立大学布法...
-
更高清写实的人体生成模型HyperHuman来了，基于隐式结构扩散，刷新多项SOTA
论文地址: https://arxiv.org/pdf/2310.08579.pdf Github 地址: https://github.com/snap-research/HyperHuman 1. 研究背景与动机 随着扩散模型的兴起，一些典型...
-
Agent 应用于提示工程
如果Agent模仿了人类在现实世界中的操作方式，那么，能否应用于提示工程即Prompt Engingeering 呢？ 从LLM到Prompt Engineering 大型语言模型(LLM 是一种基于Transformer的模型，已经在一个巨大的语料库或...
-
AI智能超越人类终解开！李飞飞高徒新作破圈，5万个合成数据碾压人类示例，备咖啡动作超丝滑
AI巨佬Geoffrey Hinton称，「科技公司们正在未来18个月内，要使用比现在GPT-4多100倍的算力训练新模型」。 更大参数的模型，对算力需求巨大的同时，对数据也提出了更高的要求。 但是，更多的高质量数据该从何来？ 英伟达高级科学家Jim F...
-
首个人体动捕基模型面世！SMPLer-X：横扫七大榜单
人体全身姿态与体型估计（EHPS, Expressive Human Pose and Shape estimation）虽然目前已经取得了非常大研究进展，但当下最先进的方法仍然受限于有限的训练数据集。 最近，来自南洋理工大学S-Lab、商汤科技、上海人...
-
最好7B模型再易主！打败700亿LLaMA2，苹果电脑就能跑
花500刀“调教”的70亿参数模型，打败700亿参数的Llama 2！ 且笔记本就能轻松跑，效果媲美ChatGPT。 重点：免费、不要钱。 HuggingFace H4团队打造的开源模型Zephyr-7B，鲨疯了。 其底层模型是前段时间爆火、由有着“欧...
-
对比GPU，使用FPGA创建神经网络
当代的CPU按照一维方式进行计算，顺序执行指令，并将算法分解为逐条加载和执行的指令。然而，未来的计算发展趋势表明，我们将越来越多地依赖硬件加速器来支持并行执行，这将成为计算的常态。这种发展趋势将统一算法和硬件结构的利用，从而实现更快、更高效的解决方案。...
-
多模态LLM幻觉问题降低30%！业内首个“啄木鸟”免重训方法诞生
还在用指令微调解决多模态大模型的“幻觉”问题吗？ 比如下图中模型将橙色柯基错认为“红狗”，还指出周围还有几条。 图片 现在，中科大的一项研究想到了一个全新办法： 一个免重训、即插即用的通用架构，直接从模型给出的错误文本下手，“倒推”出可能出现“幻觉”之处...
-
正面硬刚OpenAI！智谱AI推出第三代基座模型，功能对标GPT-4V，代码解释器随便玩
国产大模型估值最高创企，为何是智谱AI? 仅用4个月时间，这家公司就甩出最新成绩证明了自己—— 自研大模型ChatGLM3，不止是底层架构，就连模型功能都进行了全方位大升级。 性能上，最直观的表现就是“疯狂屠榜”，所有50个大模型公开性能测评数据集中，拿下...
-
小模型如何比肩大模型，北理工发布明德大模型MindLLM，小模型潜力巨大
大型语言模型 (LLMs 在各种自然语言任务中展现出了卓越的性能，但是由于训练和推理大参数量模型需要大量的计算资源，导致高昂的成本，将大语言模型应用在专业领域中仍存在诸多现实问题。因此，北理团队先从轻量级别模型入手，最大程度发挥数据和模型的优势，立足更...
-
生成的分子几乎 100% 有效，用于逆向分子设计的引导扩散模型
「从头分子设计」是材料科学的「圣杯」。生成深度学习的引入极大地推进了这一方向，但分子发现仍然具有挑战性，而且往往效率低下。 以色列理工学院（Technion-Israel Institute of Technology）和意大利威尼斯大学（Univers...
-
港大等发布GraphGPT：1/50微调参数，准确率提升10倍！无需超长token，LLM也能读懂图结构
图神经网络（Graph Neural Networks）已经成为分析和学习图结构数据的强大框架，推动了社交网络分析、推荐系统和生物网络分析等多个领域的进步。 图神经网络的主要优势在于它们能够捕获图数据中固有的结构信息和依赖关系。利用消息传递和聚合机制，图...
-
自动化时代的网络安全：人工智能如何提供帮助？
自动化和网络安全的挑战 扩大攻击面：自动化引入了一系列互连的设备和系统，扩大了网络犯罪分子的攻击面。这些复杂的攻击可以利用网络和设备上的漏洞。 人工智能在加强网络安全方面的作用 威胁检测和预防：人工智能驱动的算法可以实时分析大量数据集，快速识别异常...
-
与OpenAI竞争？Jina AI推出开源8K文本嵌入模型
10月27日消息，外媒报道称，人工智能公司Jina AI日前宣布推出其第二代文本嵌入模型“Jina-embeddings-v2”。这个开源模型支持8K(8192个token 的上下文长度，使其在大规模文本嵌入基准(MTEB 排行榜和功能方面与OpenA...
-
智谱AI推出第三代基座大模型ChatGLM3 智谱清言具备代码交互能力
智谱 AI 在2023中国计算机大会上发布了第三代基座大模型 ChatGLM3及相关系列产品。 ChatGLM3经过深度优化，在中英文公开数据集测试中表现优秀，其中 MML 提升36、CEval 提 %、GSM8K 提升179%、BBH 提升126%。 C...
-
智谱AI推出第三代基座大模型 上线新一代「智谱清言」
智谱AI宣布于2023中国计算机大会（CNCC）上，推出了全自研的第三代基座大模型 ChatGLM3及相关系列产品。 据介绍，今年以来，这是智谱AI第三次对ChatGLM基座模型进行了深度优化，拥有了更强大的功能。智谱AI采用了独创的多阶段增强预训练方法，...
-
实测腾讯AI文生图！王者荣耀画风一键直出，小程序就能玩
鹅厂大模型，又有新玩法! 发布不到两个月，腾讯混元大模型就速通了一个新版本，除了语言模型升级以外，还悄悄上线了AIGC最火热?的功能—— 文生图。 和语言模型一样，文生图同样可以通过微信小程序直接体验。 不过与Midjourney独立出图不同，混元的文生...
-
DeepMind：谁说卷积网络不如ViT？
深度学习的早期成功可归功于卷积神经网络（ConvNets）的发展。近十年来，ConvNets 主导了计算机视觉基准测试。然而近年来，它们越来越多地被 ViTs（Vision Transformers）所取代。 很多人认为，ConvNets 在小型或中等规...
-
RLHF与AlphaGo核心技术强强联合，UW/Meta让文本生成能力再上新台阶
在一项最新的研究中，来自 UW 和 Meta 的研究者提出了一种新的解码算法，将 AlphaGo 采用的蒙特卡洛树搜索算法（Monte-Carlo Tree Search, MCTS）应用到经过近端策略优化（Proximal Policy Optimiz...
-
Google AI负责人称AI对人类生存构成威胁
谷歌AI负责人Demis Hassabis表示，人工智能的发展对人类构成了一种存在威胁，类似于气候变化。 他在接受《卫报》采访时指出，他担心人类可能会开发出一个失控的超级智能系统，以及其他恶意可能性。他认为我们必须像对待气候变化一样认真对待人工智能的风险。...
-
用检索增强生成技术解决人工智能幻觉问题
作者| Rahul Pradhan 来源| https://www.infoworld.com/article/3708254/addressing-ai-hallucinations-with-retrieval-augmented-generatio...
-
吃“有毒”数据，大模型反而更听话了！来自港科大&华为诺亚方舟实验室
现在，大模型也学会“吃一堑，长一智”了。 来自香港科技大学和华为诺亚方舟实验室的最新研究发现： 相比于一味规避“有毒”数据，以毒攻毒，干脆给大模型喂点错误文本，再让模型剖析、反思出错的原因，反而能够让模型真正理解“错在哪儿了”，进而避免胡说八道。 具体...
-
如何使用GPT作为SQL查询引擎的自然语言
译者 | 李睿 审校 | 重楼 如今，得益于ChatGPT这种生成式人工智能技术，使得用简单的语句查询数据集变得非常简单。 与大多数生成式人工智能一样，OpenAI公司开发的API的结果仍然不完美，这意味着用户不能完全信任它们。幸运的是，用户现在可以...
-
Nature：神经网络“举一反三”能力甚至超人类
神经网络具有类似人的“举一反三”能力，甚至超过人类水平？？？ 最近刊于Nature的一篇论文表示找到了证据。 “举一反三”的能力更专业点叫做系统性泛化能力。像小孩子一样，一旦学会了如何“跳”，他们就可以理解如何“向后跳”、“绕锥体跳过两次”。 要知道...
-
MIT等机构推出数据溯源平台 解决AI领域的数据透明危机
研究人员来自麻省理工学院（MIT）、Cohere for AI以及其他11个机构，他们共同发布了Data Provenance Platform，旨在应对AI领域的数据透明危机。这一平台的推出旨在解决AI模型训练数据集的来源和使用透明度不足的问题，这是当前...
-
Meta推出AI模拟环境Habitat 3.0 为机器人训练提供更真实的场景
FAIR团队最新推出的Habitat3.0引起了广泛关注，这是一个令人激动的增强型AI模拟环境，旨在训练机器人在真实场景中进行导航。这一创新的推出对于提升AI模拟环境的仿真程度具有重要意义。 通过Habitat3.0，机器人可以在更真实的场景中接受训练，从...
-
生成式人工智能如何重新定义图像搜索
译者 | 李睿 审校 | 重楼 近几个月来，生成式人工智能凭借其创造独特的文本、声音和图像的能力引起了人们的极大兴趣。但生成式人工智能的力量并不局限于创造新的数据。 生成式人工智能的底层技术（例如Transformer和扩散模型）可以为许多其他应用提供...
-
康普观点：数据中心如何更快、更经济地利用AI
人气科幻小说在描绘“机器智能的崛起”时，通常伴随着激光、爆炸等场景，就算不是这般震撼，至少也会带有些许哲学上的恐惧意味。但毋庸置疑的是，人们日益关注人工智能（AI）和机器学习（ML）在更广泛应用中的可能性，而且新的应用也层出不穷。 目前，数百万人已经开...
-
转折倒计时：AI服务器距离全面占领市场还要多久？
当超大规模厂商和云服务商考虑自己的基础设施规划问题时，首先会确定整体运行功耗，之后是挑选服务与存储组合以及额定功率下所能提供的总容量。当然，预算也是个大问题，毕竟金钱才是让这个世界维持运转的基本动力。 正所谓我爱容量、速度、插槽和功率，但我更爱金钱，毕...
-
可能被“偷窥”了！大模型隐私推理准确率95.8%
Reddit上的一位用户发表了一句关于通勤路线的状态： 我的通勤路上有个恼人的路口，我得在那儿等待转弯（waiting for a hook turn）。 尽管这位用户没有明确透露他的位置，但GPT-4模型却能够准确推断出他在墨尔本，因为“hook tu...
-
机器中的幽灵：OpenAI 首席执行官认为 ChatGPT 正处于 AI 到 AGI 的轨道上
人工智能 (AI 真的能实现人类智力所具有的多方面智能吗？凭借强大的语言模型 GPT-3，OpenAI 表示它比以往任何时候都更接近这一目标。 OpenAI 的富有远见的首席执行官 Sam Altman 在 WSJ 的采访中分享了他对人工智能发展轨迹的...
-
可令 AI 模型“输入狗生成猫”，黑客展示为训练数据集“下毒”的 Nightshade 工具
10 月 25 日消息，AI 大模型训练数据源版权问题一直是一个令业界头疼的问题，日前有黑客展示了一款名为 Nightshade 的工具，该工具可在不破坏观感的情况下轻微修改图片，若有 AI 模型在训练时使用了这些被“下毒”的图片，模型生图结果便会被毁...
-
神采PromeAI会员费多少？神采promeai官方入门教程
神采PromeAI是一款功能强大的人工智能驱动设计助手，配备广泛可控的AIGC（C-AIGC）模型风格库。它能够帮助你轻松地创造出令人惊叹的图形、视频和动画作品。无论你是经验丰富的设计师还是初学者，PromeAI都能满足你的需求，将你的想象力变为现实。无论...
-
Anthropic AI 团队研究显示：人工智能倾向于产生迎合用户的奉承性回应而非事实真相
Anthropic 是一家美国的人工智能初创企业和公益公司，由 OpenAI 的前成员创立。Anthropic 专注于开发通用 AI 系统和语言模型，并秉持负责任的 AI 使用理念。Anthropic 开发的 Claude 2 于 2023 年七月推出。...
-
LLM一句话瞬间生成3D世界，未公布代码已获141星！或将引发3D建模行业革命
继火爆全网的AI文生图，文生视频之后，文生3D场景的技术也来了！ 只要不到30个字的提示词，瞬间就能生成这样的3D场景。 场景效果和文字的要求几乎分毫不差——「平静如玻璃的湖面，倒映出无云的天空，周围的山和水鸟的倒影呈现在湖中。」 「烈日照耀在无垠...
-
苹果“套娃”式扩散模型，训练步数减少七成！
苹果的一项最新研究，大幅提高了扩散模型在高分辨率图像上性能。 利用这种方法，同样分辨率的图像，训练步数减少了超过七成。 在1024×1024的分辨率下，图片画质直接拉满，细节都清晰可见。 苹果把这项成果命名为MDM，DM就是扩散模型（Diffusion...
-
UniPAD：自动驾驶通用预训练范式来了！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 UNIPAD：自动驾驶通用预训练范式 原标题：UNIPAD: A UNIVERSAL PRE-TRAINING PARADIGM FOR AUTONOMOUS DRIVING 论文链接：https:/...
-
最高20倍！压缩ChatGPT等模型文本提示，极大节省AI算力
在长文本场景中，ChatGPT等大语言模型经常面临更高算力成本、更长的延迟以及更差的性能。为了解决这三大难题，微软开源了LongLLMLingua。 据悉，LongLLMLingua的核心技术原理是将“文本提示”实现最高20倍的极限压缩，同时又可以准确评估...
-
GameGPT：使用AI实现游戏开发自动化
译者 | 布加迪 审校 | 重楼 如今，从事游戏开发如同走钢丝。游戏行业处于一种怪异的境地：游戏变得越来越酷，越来越有开创性，但同时也变得越来越让人头疼：更大的团队、更长的工作时间以及巨额预算。相信我，我知道从事这个行当有多难：我和好友Jim花了两年多...
-
让大模型看图比打字管用！NeurIPS 2023新研究提出多模态查询方法，准确率提升7.8%
大模型“识图”能力都这么强了，为啥还老找错东西？ 例如，把长得不太像的蝙蝠和拍子搞混，又或是认不出一些数据集中的稀有鱼类…… 这是因为，我们让大模型“找东西”时，往往输入的是文本。 如果描述有歧义或太偏门，像是“bat”（蝙蝠还是拍子？）或“魔鳉”（Cy...
-
首个多视角自动驾驶场景视频生成世界模型 | DrivingDiffusion: BEV数据和仿真新思路
笔者的一些个人思考 在自动驾驶领域，随着BEV-based子任务/端到端方案的发展，高质量的多视图训练数据和相应的仿真场景构建愈发重要。针对当下任务的痛点，“高质量”可以解耦成三个方面： 不同维度上的长尾场景：如障碍物数据中近距离的车辆以及切车过程中...
-
深度学习科研，如何高效进行代码和实验管理？
回答一 作者：叶小飞 链接：https://www.zhihu.com/question/269707221/answer/2281374258 我之前在北美奔驰落地时，曾有段时间为了测试不同的结构和参数，一周能训练一百来个不同的模型，为此我结合公司前...
-
数据分析和机器学习的11个高级可视化图表介绍
可视化是一种强大的工具，用于以直观和可理解的方式传达复杂的数据模式和关系。它们在数据分析中发挥着至关重要的作用，提供了通常难以从原始数据或传统数字表示中辨别出来的见解。 可视化对于理解复杂的数据模式和关系至关重要，我们将介绍11个最重要和必须知道的图表，...
-
AIGC时代的视频扩散模型，复旦等团队发布领域首篇综述
AI 生成内容已经成为当前人工智能领域的最热门话题之一，也代表着该领域的前沿技术。近年来，随着 Stable Diffusion、DALL-E3、ControlNet 等新技术的发布，AI 图像生成和编辑领域实现了令人惊艳的视觉效果，并且在学术界和工业界...
-
Meta普林斯顿提出LLM上下文终极解决方案！让模型化身自主智能体，自行读取上下文节点树
到底什么才是LLM长上下文模型的终极解决方案？ 最近由普林斯顿大学和Meta AI的研究者提出了一种解决方案，将LLM视为一个交互式智能体，让它决定如何通过迭代提示来读取文本。 论文地址：https://arxiv.org/abs/2310.05029...
-
云安全中的生成式AI：雷声大雨点小？！
译者 | 晶颜 审校 | 重楼 人工智能是云安全领域的下一个热点吗？ 如果您关注了过去一年左右关于生成式人工智能技术的头条新闻，您可能也会有此疑问。根据GenAI技术拥护者的说法，云安全将会是被基于GenAI的工具所改变的诸多领域之一。 对此，其他一些...
-
解读OpenAI最强文生图模型—DALL·E 3
Midjourney、Stable Difusion在商业变现和场景化落地方面获得了巨大成功，这让OpenAI看到了全新的商机，也是推出DALL·E3的重要原因之一。 上周，OpenAI宣布在ChatGPT Plus和企业版用户中，全面开放文生图模型DAL...
-
HiLM-D：自动驾驶多模态大语言模型玩出花了
本文经自动驾驶之心公众号授权转载，转载请联系出处。 笔者个人的一些思考 不得不说，最近大模型在学术界火起来了，基于图文匹配的CLIP预训练模型成为近年来在多模态研究领域的经典之作。除此之外，大语言模型的蓬勃发展也进一步为多模态带来了性能提升。自动驾驶领...