-
马斯克xAI公布大模型详细进展，Grok只训练了2个月
近几日，马斯克的人工智能公司 xAI 公布了他们用来对标 OpenAI ChatGPT 的产品 ——Grok ，直接把网友的好奇心拉满。 和总是一本正经回答问题的 ChatGPT 不同，Grok 自带幽默和嘲讽技能。 就像下图所展示的，Grok 在被...
-
谷歌DeepMind力证：GPT-4终局是人类智慧总和！Transformer模型无法超越训练数据进行泛化
Transformer模型是否能够超越预训练数据范围，泛化出新的认知和能力，一直是学界争议已久的问题。 最近谷歌DeepMind的3位研究研究人员认为，要求模型在超出预训练数据范围之外泛化出解决新问题的能力，几乎是不可能的。 LLM的终局就是人类智慧总和...
-
元象XVERSE开源650亿参数通用大模型XVERSE-65B
元象XVERSE宣布 开源650亿参数高性能通用大模型XVERSE-65B，无条件免费商用。 XVERSE-65B 是由深圳元象科技开发的一种支持多语言的大型语言模型。它采用了 Transformer 网络结构，参数规模达到了650亿。 模型通过训练了2....
-
北大具身智能新成果：无需训练，听指令就能灵活走位
北京大学董豪团队具身导航最新成果来了： 无需额外建图和训练，只需说出导航指令，如： Walk forward across the room and walk through the panty followed by the kitchen. Stan...
-
国内最大开源模型发布，无条件免费商用！参数650亿，基于2.6万亿token训练
国内规模最大的开源大模型来了： 参数650亿、基于2.6-3.2万亿token训练。 排名仅次于“猎鹰”和“羊驼”，性能媲美GPT3.5，现在就能无条件免费商用。 它就是来自深圳元象公司的XVERSE。 根据算力、资源限制和具体任务需求的不同，我们能对...
-
Together AI发布RedPajama v2：包内30万亿token数据集，用于训练大型语言模型
Together AI最近发布了RedPajama v2，这是一个庞大的在线数据集，包含了30万亿token，成为目前公开可用的最大数据集之一，专门用于学习型机器学习系统的培训。 对于像Llama、Mistral、Falcon、MPT和RedPajama等...
-
全球首发！总结七十余种开源数据集，一览自动驾驶开源数据体系
本文经自动驾驶之心公众号授权转载，转载请联系出处。 基于数据驱动的各类深度学习模型任务，近年来随着数据集规模的不断扩大，性能逐渐被提升，国内外各大自动驾驶公司都在不断建立自己的数据库，以及数据闭环系统，期待数据的丰富能够解决下半场自动驾驶问题，那么如何...
-
ChatGPT新功能曝光！OpenAI首届开发者大会抢先看
OpenAI将于太平洋时间11月6日早上10点举办首届全球开发者大会（大约北京时间11月7日凌晨2点），与来自世界各地的开发者、企业、技术合作伙伴，分享OpenAI最新产品和技术趋势。 由于OpenAI的金字招牌太响，已经有不少人迫不及待地曝光其开发者大会...
-
什么是机器学习中的正则化？
1. 引言 在机器学习领域中，相关模型可能会在训练过程中变得过拟合和欠拟合。为了防止这种情况的发生，我们在机器学习中使用正则化操作来适当地让模型拟合在我们的测试集上。一般来说，正则化操作通过降低过拟合和欠拟合的可能性来帮助大家获得最佳模型。 在本文...
-
一篇学会大模型浪潮下的时间序列预测
今天跟大家聊一聊大模型在时间序列预测中的应用。随着大模型在NLP领域的发展，越来越多的工作尝试将大模型应用到时间序列预测领域中。这篇文章介绍了大模型应用到时间序列预测的主要方法，并汇总了近期相关的一些工作，帮助大家理解大模型时代时间序列预测的研究方法。...
-
大模型落地最后一公里：111页全面综述大模型评测
当前，大模型正凭借其强大的能力和无限的潜力引领着新一轮技术革命，众多科技巨头纷纷围绕大模型进行布局，进一步推动大模型不断向前发展。然而，尽管大模型能够协助我们完成各种任务，改变我们的生产和生活的方式，提高生产力，为我们带来便利，但大模型的发展也伴随着诸多...
-
人工智能进入强监管时代
以ChatGPT为代表的基于LLM(大语言模型 的生成式人工智能应用正风靡全球，各行各业都在争先恐后将其集成到前端和后端的各种系统中，与此同时生成式人工智能面临的安全风险也正随着其热度上升而凸显。 生成式人工智能自身正面临提示注入等多种攻击，很可能给企...
-
AI生图太诡异？马里兰&NYU合力解剖神经网络，CLIP模型神经元形似骷髅头
AI黑盒如何才能解？ 神经网络模型在训练的时，会有些ReLU节点「死亡」，也就是永远输出0，不再有用。 它们往往会被被删除或者忽略。 恰好赶上了模糊了生与死的界限的节日——万圣节，所以这是探索那些「死节点」的好时机。 对于大多数图像生成模型来说，会输出正...
-
科普神文，一次性讲透AI大模型的核心概念
图片 令牌，向量，嵌入，注意力，这些AI大模型名词是否一直让你感觉熟悉又陌生，如果答案肯定的话，那么朋友，今天这篇科普神文不容错过。我将结合大量示例及可视化的图形手段，为你由浅入深一次性讲透AI大模型的核心概念。 引言 随着科技公司及国际竞争的不断推进，...
-
大模型: 模型大了难在哪里？
大家好，我是Tim。 自从GPT模型诞生以来，其参数规模就在不停的扩大。但模型并非简单的直接变大，需要在数据、调度、并行计算、算法和机器资源上做相应的改变。 今天就来总结下，什么是大模型，模型变大的难在哪里以及对于CV/NLP或者搜推广场景上有什么应对策...
-
使用Ray创建高效的深度学习数据管道
用于训练深度学习模型的GPU功能强大但价格昂贵。为了有效利用GPU，开发者需要一个高效的数据管道，以便在GPU准备好计算下一个训练步骤时尽快将数据传输到GPU。使用Ray可以大大提高数据管道的效率。 1、训练数据管道的结构 首先考虑下面的模型训练伪代码。...
-
目前CIO们仍在谨慎地探索GenAI在企业中的应用价值
多数CIO已经开始探索GenAI，以确保企业跟上技术发展的趋势，但许多人发现，市场上的技术还没有达到理想的水平。米其林全球CIO Yves Caseau表示：“在对GitHub Copilot和ChatGPT进行了六个多月的试验后，GenAI的发展速度令...
-
姚班斯隆奖马腾宇正式宣布大模型创业
清华姚班校友兼斯坦福大学助理教授马腾宇宣布了一个引人注目的创业项目，名为Voyage，旨在提供卓越的嵌入模型。这个嵌入模型在MTEB数据集上表现超越OpenAI，成为SOTA。该项目的成功也得益于三位知名教授，包括斯坦福人工智能实验室主任Christoph...
-
独家 | GPT-4、Midjourney之外，谭平创业团队要造一个3D基础模型
前段时间，OpenAI 发布了文生图模型 DALL・E3，生成效果非常惊艳。比如，你可以让它一次画出几十个物体，然后再要求它把这些物体全部放到一个冲浪者的背上: 可以看到，DALL・E3不仅画出了足量的物体，就连冲浪者面对重压时的神情都刻画了出来。 但细心...
-
AI编程，详细比较GitHub Copilot对比Amazon CodeWhisperer
1、简介 GitHub Copilot和Amazon CodeWhisperer是采用人工智能技术驱动的编码助手，它们将自动完成编码功能提升到一个全新的水平。在最佳状态下，它们可以根据开发者提供的简短描述性文本编写功能完整、可运行的代码块。这可以让开发者...
-
通义千问2.0将带来重磅升级 通义千问app怎么注册下载安装
通义千问2.0将带来重磅升级，正式超越GPT-3.5，正在加速追赶GPT-4，成为业界的佼佼者。此次升级的核心在于其在性能上的巨大飞跃，不仅在复杂指令理解、文学创作、通用数学、知识记忆等方面有显著提升，还在幻觉抵御等能力上表现出色。 通义千问2.0将带来...
-
GPT-4、Midjourney之外，谭平创业团队要造一个3D基础模型
前段时间，OpenAI 发布了文生图模型 DALL・E 3，生成效果非常惊艳。比如，你可以让它一次画出几十个物体，然后再要求它把这些物体全部放到一个冲浪者的背上： 可以看到，DALL・E 3 不仅画出了足量的物体，就连冲浪者面对重压时的神情都刻画了...
-
Meta AI研究负责人倡导开源许可制度变革
Meta公司最近发布的大型语言模型Llama2备受争议，因其并未完全满足开源倡议的要求。尽管Llama2相对较为开放和免费，但在开源软件领域，一些人仍对该公司的开放性持有异议。 具体来说，Meta公司的许可协议使Llama2对许多人免费，但它仍然是有限的，...
-
ChatGPT、Llama-2等大模型，能推算出你的隐私数据！
ChatGPT等大语言模型的推理能力有多强大?通过你发过的帖子或部分隐私数据，就能推算出你的住址、年龄、性别、职业、收入等隐私数据。 瑞士联邦理工学院通过搜集并手工标注了包含520个Reddit（知名论坛）用户的个人资料真实数据集PersonalReddi...
-
生成式AI迫使Stack Overflow裁员28%
作者丨Anirban Ghoshal 编译丨诺亚 出品 | 51CTO技术栈（微信号：blog51cto） 面向开发人员的问答门户网站Stack Overflow将裁员近三分之一，取而代之的是生成式人工智能驱动的编程助手，比如微软的...
-
多模态大模型幻觉降低30%！中科大等提出首个幻觉修正架构「Woodpecker」啄木鸟
视觉幻觉是常见于多模态大语言模型（Multimodal Large Language Models, MLLMs）的一个典型问题。 简单来说就是：模型输出的描述与图片内容不相符。 下图中体现了两种幻觉，红色部分错误地描述了狗的颜色（属性幻觉），蓝色部分描...
-
Agent 应用于提示工程
如果Agent模仿了人类在现实世界中的操作方式，那么，能否应用于提示工程即Prompt Engingeering 呢？ 从LLM到Prompt Engineering 大型语言模型(LLM 是一种基于Transformer的模型，已经在一个巨大的语料库或...
-
AI智能超越人类终解开！李飞飞高徒新作破圈，5万个合成数据碾压人类示例，备咖啡动作超丝滑
AI巨佬Geoffrey Hinton称，「科技公司们正在未来18个月内，要使用比现在GPT-4多100倍的算力训练新模型」。 更大参数的模型，对算力需求巨大的同时，对数据也提出了更高的要求。 但是，更多的高质量数据该从何来？ 英伟达高级科学家Jim F...
-
首个人体动捕基模型面世！SMPLer-X：横扫七大榜单
人体全身姿态与体型估计（EHPS, Expressive Human Pose and Shape estimation）虽然目前已经取得了非常大研究进展，但当下最先进的方法仍然受限于有限的训练数据集。 最近，来自南洋理工大学S-Lab、商汤科技、上海人...
-
最好7B模型再易主！打败700亿LLaMA2，苹果电脑就能跑
花500刀“调教”的70亿参数模型，打败700亿参数的Llama 2！ 且笔记本就能轻松跑，效果媲美ChatGPT。 重点：免费、不要钱。 HuggingFace H4团队打造的开源模型Zephyr-7B，鲨疯了。 其底层模型是前段时间爆火、由有着“欧...
-
小模型如何比肩大模型，北理工发布明德大模型MindLLM，小模型潜力巨大
大型语言模型 (LLMs 在各种自然语言任务中展现出了卓越的性能，但是由于训练和推理大参数量模型需要大量的计算资源，导致高昂的成本，将大语言模型应用在专业领域中仍存在诸多现实问题。因此，北理团队先从轻量级别模型入手，最大程度发挥数据和模型的优势，立足更...
-
Google 承诺向 OpenAI 竞争对手人工智能初创公司 Anthropic 投资 20 亿美元
据 CNBC 确认，Google 已同意向 Anthropic 投资高达 20 亿美元，该公司是由前 OpenAI 执行官创立的人工智能初创企业。 该投资承诺包括预付 5 亿美元的现金注入，以及额外的 15 亿美元将随着时间的推移投入。Anthropic...
-
智谱AI推出第三代基座大模型 上线新一代「智谱清言」
智谱AI宣布于2023中国计算机大会（CNCC）上，推出了全自研的第三代基座大模型 ChatGLM3及相关系列产品。 据介绍，今年以来，这是智谱AI第三次对ChatGLM基座模型进行了深度优化，拥有了更强大的功能。智谱AI采用了独创的多阶段增强预训练方法，...
-
实测腾讯AI文生图！王者荣耀画风一键直出，小程序就能玩
鹅厂大模型，又有新玩法! 发布不到两个月，腾讯混元大模型就速通了一个新版本，除了语言模型升级以外，还悄悄上线了AIGC最火热?的功能—— 文生图。 和语言模型一样，文生图同样可以通过微信小程序直接体验。 不过与Midjourney独立出图不同，混元的文生...
-
Google AI负责人称AI对人类生存构成威胁
谷歌AI负责人Demis Hassabis表示，人工智能的发展对人类构成了一种存在威胁，类似于气候变化。 他在接受《卫报》采访时指出，他担心人类可能会开发出一个失控的超级智能系统，以及其他恶意可能性。他认为我们必须像对待气候变化一样认真对待人工智能的风险。...
-
Bing AI图片生成器拒绝生成女性的逼真图像，称其“不安全”
微软的Bing AI Image Creator最近引起了关注，因为它似乎拒绝生成逼真的女性图像，声称这些图像不符合其内容政策。这一现象引发了许多讨论，特别是关于AI系统如何处理性别相关问题。 一位名为 u/Arceist_Justin 的用户要求Bing...
-
用检索增强生成技术解决人工智能幻觉问题
作者| Rahul Pradhan 来源| https://www.infoworld.com/article/3708254/addressing-ai-hallucinations-with-retrieval-augmented-generatio...
-
吃“有毒”数据，大模型反而更听话了！来自港科大&华为诺亚方舟实验室
现在，大模型也学会“吃一堑，长一智”了。 来自香港科技大学和华为诺亚方舟实验室的最新研究发现： 相比于一味规避“有毒”数据，以毒攻毒，干脆给大模型喂点错误文本，再让模型剖析、反思出错的原因，反而能够让模型真正理解“错在哪儿了”，进而避免胡说八道。 具体...
-
腾讯混元大模型再进化，文生图能力重磅上线，这里是一手实测
2023年，大模型的落地按下加速键，文生图便是最火热的应用方向之一。 自从 Stable Diffusion 诞生以来，海内外的文生图大模型不断涌现，一时有「神仙打架」之感。每一次技术迭代，都带来了模型生成效果和速度的飞速提升。 就在今天，腾讯混元大模型也...
-
Nature：神经网络“举一反三”能力甚至超人类
神经网络具有类似人的“举一反三”能力，甚至超过人类水平？？？ 最近刊于Nature的一篇论文表示找到了证据。 “举一反三”的能力更专业点叫做系统性泛化能力。像小孩子一样，一旦学会了如何“跳”，他们就可以理解如何“向后跳”、“绕锥体跳过两次”。 要知道...
-
MIT等机构推出数据溯源平台 解决AI领域的数据透明危机
研究人员来自麻省理工学院（MIT）、Cohere for AI以及其他11个机构，他们共同发布了Data Provenance Platform，旨在应对AI领域的数据透明危机。这一平台的推出旨在解决AI模型训练数据集的来源和使用透明度不足的问题，这是当前...
-
Nightshade 工具助力创作者保护版权 对抗 AI 训练数据的滥用
随着人工智能（AI）技术的快速发展，其训练数据的获取和使用变得日益重要，但也出现了滥用现象。为了抵御这种滥用，一款名为「Nightshade」的新工具应运而生，为创作者提供了一种保护他们创意作品不被无授权用于 AI 模型训练的方法。 Nightshade...
-
机器中的幽灵：OpenAI 首席执行官认为 ChatGPT 正处于 AI 到 AGI 的轨道上
人工智能 (AI 真的能实现人类智力所具有的多方面智能吗？凭借强大的语言模型 GPT-3，OpenAI 表示它比以往任何时候都更接近这一目标。 OpenAI 的富有远见的首席执行官 Sam Altman 在 WSJ 的采访中分享了他对人工智能发展轨迹的...
-
可令 AI 模型“输入狗生成猫”，黑客展示为训练数据集“下毒”的 Nightshade 工具
10 月 25 日消息，AI 大模型训练数据源版权问题一直是一个令业界头疼的问题，日前有黑客展示了一款名为 Nightshade 的工具，该工具可在不破坏观感的情况下轻微修改图片，若有 AI 模型在训练时使用了这些被“下毒”的图片，模型生图结果便会被毁...
-
神采PromeAI会员费多少？神采promeai官方入门教程
神采PromeAI是一款功能强大的人工智能驱动设计助手，配备广泛可控的AIGC（C-AIGC）模型风格库。它能够帮助你轻松地创造出令人惊叹的图形、视频和动画作品。无论你是经验丰富的设计师还是初学者，PromeAI都能满足你的需求，将你的想象力变为现实。无论...
-
研究显示:ChatGPT可能会被诱骗生成恶意代码
近日，英国谢菲尔德大学的研究人员发表的一项研究揭示了一项令人担忧的发现:人工智能（AI）工具，如ChatGPT，可以被操纵，用于生成恶意代码，从而可能用于发动网络攻击。 该研究是由谢菲尔德大学计算机科学系的学者进行的，首次证明了Text-to-SQL系统的...
-
苹果“套娃”式扩散模型，训练步数减少七成！
苹果的一项最新研究，大幅提高了扩散模型在高分辨率图像上性能。 利用这种方法，同样分辨率的图像，训练步数减少了超过七成。 在1024×1024的分辨率下，图片画质直接拉满，细节都清晰可见。 苹果把这项成果命名为MDM，DM就是扩散模型（Diffusion...
-
ChatGPT与DALL·E 3之间的行业「黑话」被人发现了
上个月底，OpenAI 发布了最新图像生成器 DALL・E 3，除了炸裂的生成效果外，最大看点是其与 ChatGPT 的集成。 DALL・E 3 构建在 ChatGPT 之上，用 ChatGPT 来创建、拓展和优化 prompt。这样一来，用户无需在 p...
-
首个多视角自动驾驶场景视频生成世界模型 | DrivingDiffusion: BEV数据和仿真新思路
笔者的一些个人思考 在自动驾驶领域，随着BEV-based子任务/端到端方案的发展，高质量的多视图训练数据和相应的仿真场景构建愈发重要。针对当下任务的痛点，“高质量”可以解耦成三个方面： 不同维度上的长尾场景：如障碍物数据中近距离的车辆以及切车过程中...
-
50张图“毒倒”Stable Diffusion，汽车和牛都分不清了
艺术家对AI侵权的反击来了—— 在画作里“投毒”，AI用了就会“中毒”出故障。 投毒工具由芝加哥大学团队打造，名为Nightshade，可以对画中像素添加隐形更改。 被下毒的画一旦被非法抓取成为训练数据被AI吃掉，模型就会生成混乱。 甚至还可能会破坏DA...