-
【多模态】13、Vision-Language 模型在视觉任务中的调研
文章目录 一、简介 二、基础知识 2.1 视觉任务的训练策略 2.2 VLM 基础 2.2.1 网络结构 2.2.2 预训练目标函数 2.2.3 评估和下游任务 2.3 数据集 三、迁移学习 3.1 使用 prompt tunin...
-
不分割成token，直接从字节中高效学习，Mamba原来还能这样用
在定义语言模型时，通常会使用一种基本分词方法，把句子分为词（word）、子词（subword）或字符（character）。其中，子词分词法一直是最受欢迎的选择，因为它在训练效率和处理词汇表外单词的能力之间实现了自然的折中。然而，一些研究指出了子词分词法...
-
决战拜年之巅！你能经受住AI七大姑八大姨的灵魂拷问吗？
快过年了，准备好面对亲戚的“灵魂拷问”了吗? 就在不少人都为此犯愁之时，一款非常应景的大模型游戏突然蹿红，各种群里玩疯了。 《决战·拜年之巅》，给你一个提前和AI七大姑八大姨们演练的宝贵机会。 还没进门，就发现全家族亲戚已经围坐在一起聊的火热，话题的中心...
-
图领域首个通用框架来了！入选ICLR'24 Spotlight，任意数据集、分类问题都可搞定
能不能有一种通用的图模型—— 它既能够根据分子结构预测毒性，又能够给出社交网络的朋友推荐？ 或者既能预测不同作者的论文引用，还可以发现基因网络中的人类衰老机制？ 你还真别说，被ICLR 2024接收为Spotlight的“One for All（OFA）...
-
像人类一样在批评中学习成长，1317条评语让LLaMA2胜率飙升30倍
现有的大模型对齐方法包括基于示例的监督微调（SFT）和基于分数反馈的强化学习（RLHF）。然而，分数只能反应当前回复的好坏程度，并不能明确指出模型的不足之处。相较之下，我们人类通常是从语言反馈中学习并调整自己的行为模式。就像审稿意见不仅仅是一个分数，还包...
-
年龄两岁，教龄一年半：婴儿AI训练师登上Science
在公开采访中，图灵奖得主 Yann LeCun 多次提到，现在的 AI 模型和人类婴儿相比，学习效率实在是太低了。那么，如果让一个 AI 模型去学习婴儿头戴摄像头拍到的东西，它能学到什么？ 最近，Science 杂志上的一篇论文进行了初步尝试。研究发现，...
-
课题立项申请 智能写作
大家好，今天来聊聊课题立项申请 智能写作，希望能给大家提供一点参考。 以下是针对论文重复率高的情况，提供一些修改建议和技巧，可以借助此类工具： 课题立项申请：从研究背景到实施方案 在学术界和科研领域，课题立项申请是每个研究者必须面对的重要环节。一...
-
华科大发布多模态大模型新基准 覆盖五大任务
近期，华中科技大学等机构发布了一项关于多模态大模型（LMMs）的全面评估新基准，旨在解决多模态大模型性能评估的问题。这项研究涉及了14个主流多模态大模型，包括谷歌Gemini、OpenAI GPT-4V等，覆盖了五大任务、27个数据集。然而，由于多模态大模...
-
UCLA华人提出全新自我对弈机制！LLM自己训自己，效果碾压GPT-4专家指导
合成数据已经成为了大语言模型进化之路上最重要的一块基石了。 在去年底，有网友扒出前OpenAI首席科学家Ilya曾经在很多场合表示过，LLM的发展不存在数据瓶颈，合成数据可以解决大部分的问题。 图片 英伟达高级科学家Jim Fan在看了最近的一批论文后也...
-
维普论文查重降重 ai写作
大家好，今天来聊聊维普论文查重降重 ai写作，希望能给大家提供一点参考。 以下是针对论文重复率高的情况，提供一些修改建议和技巧，可以借助此类工具： 维普论文查重降重指南 作为一名网站编辑，我深知论文查重的重要性。对于许多学者和研究者来说，论文的查...
-
赶超Gemini Pro，提升推理、OCR能力的LLaVA-1.6太强了
去年 4 月，威斯康星大学麦迪逊分校、微软研究院和哥伦比亚大学研究者共同发布了 LLaVA（Large Language and Vision Assistant）。尽管 LLaVA 是用一个小的多模态指令数据集训练的，却在一些样本上展示了与 GPT-4...
-
无注意力大模型Eagle7B：基于RWKV，推理成本降低10-100 倍
无注意力大模型Eagle7B：基于RWKV，推理成本降低10-100 倍 在 AI 赛道中，与动辄上千亿参数的模型相比，最近，小模型开始受到大家的青睐。比如法国 AI 初创公司发布的 Mistral-7B 模型，其在每个基准测试中，都优于 Llama 2...
-
人类和AI的决策协作：决策问题的表述、解释和评价
在人工智能、数据可视化等领域，如何利用信息显示来辅助人类做出更好的决策，是一个重要的研究目标。什么是一个决策问题，以及如何设计一个能够有效评估人类决策的实验，没有一个明确的共识。在这篇文章中，我将为您解读一篇最新的论文，它提出了一个基于统计决策理论和信息...
-
Mistral-Medium意外泄露 神秘新模型“Miqu”击败GPT-4之外的所有大模型
近期AI社区掀起了一场关于Mistral-Medium模型的讨论，该模型意外泄露并与一个名为"Miqu"的新模型有关。Miqu在EQ-Bench基准上的表现引起关注，直接击败除GPT-4之外的所有大模型，得分接近Mistral-Medium。 开源地址:...
-
Mistral-Medium意外泄露？冲上榜单的这个神秘模型让AI社区讨论爆了
「我现在 100% 确信 Miqu 与 Perplexity Labs 上的 Mistral-Medium 是同一个模型。」 近日，一则关于「Mistral-Medium 模型泄露」的消息引起了大家的关注。 泄露传闻与一个名为「Miqu」的新模型有关，在...
-
伯克利开源高质量大型机器人操控基准，面对复杂自主操控任务不再犯难
随着人工智能和机器人技术的迅速发展，功能操控（Functional Manipulation）在机器人学中的重要性愈加突出。传统的基准测试已无法满足目前机器人对复杂操控任务的需求，呼吁新的操控基准（Functional Manipulation Ben...
-
论文润色会泄露吗 智能写作
大家好，今天来聊聊论文润色会泄露吗 智能写作，希望能给大家提供一点参考。 以下是针对论文重复率高的情况，提供一些修改建议和技巧，可以借助此类工具： 标题：论文润色会泄露吗――保护学术隐私与安全的探讨 一、引言 在学术研究中，...
-
360AI搜索体验入口 智能AI问答引擎知识查询在线使用地址
360AI搜索是 360 集团推出的新一代AI搜索引擎，通过语义理解、知识图谱等技术，可以准确理解用户的搜索意图，主动提问补全信息，从海量网页中深度提取相关内容，最终给出结构清晰、全面准确的答案，大大提升了搜索的便捷性和准确性。 点击前往360AI搜索体...
-
大模型也能切片，微软SliceGPT让LLAMA-2计算效率大增
大型语言模型（LLM）通常拥有数十亿的参数，用了数万亿 token 的数据进行训练，这样的模型训练、部署成本都非常高。因此，人们经常用各种模型压缩技术来减少它们的计算需求。 一般来讲，这些模型压缩技术可以分为四类：蒸馏、张量分解（包括低秩因式分解）、剪枝...
-
萤火跑模型 | 高性能 Stable Diffusion 助力高质量 AI 绘图
Stable Diffusion AI 绘画最近成功破圈，成了炙手可热的热门话题。DALLE，GLIDE，Stable Diffusion 等基于扩散机制的生成模型让 AI 作图发生质变，让人们看到了“AI...
-
被大V推荐的AI论文，被引量会翻倍？两位推特博主5年推文背后影响揭秘
经常在 X 平台（推特）上浏览 AI 论文的研究者应该都很熟悉两位博主：AK (@_akhaliq 和 Aran Komatsuzaki (@arankomatsuzaki 。他们每天都会精选一些论文进行展示，方便大家重点阅读。数据显示，AK 在 X...
-
重塑3D生成核心理论：VAST、港大、清华用「零」训练数据生成了3D模型
无需任何训练数据，只需对着模型描述一句话，如「一个做作业的香蕉人」： 或是「一只戴着 VR 眼镜的猫」： 就能生成符合描述的带有高质量纹理贴图的 3D 场景。不仅如此，还能对已有的 3D 模型进行精细化贴图。 这是港大与清华大学联合 3D 生成明星...
-
CMU华人18万打造高能机器人，完爆斯坦福炒虾机器人！全自主操作，1小时学会开12种门
比斯坦福炒虾机器人还厉害的机器人来了！ 最近，CMU的研究者只花费2.5万美元，就打造出一个在开放世界中可以自适应移动操作铰接对象的机器人。 论文地址：https://arxiv.org/abs/2401.14403 厉害之处就在于，它是完全自主完成操作...
-
更适合中文LMM体质的基准CMMMU来了：超过30个细分学科，12K专家级题目
近期，随着多模态大模型（LMM） 的能力不断进步，评估 LMM 性能的需求也日益增长。与此同时，在中文环境下评估 LMM 的高级知识和推理能力的重要性更加突出。 在这一背景下，M-A-P 开源社区、港科大、滑铁卢大学、零一万物等联合推出了面向中文大规模多...
-
全球代码质量骤降，罪魁祸首竟是AI！1.53亿行代码深度分析报告出炉
AI正在使全球的代码质量下降！ 最近，GitClear发布的一项调查报告显示，用AI写代码，会让代码的质量和可维护性不断下降。 这引起了全网热烈讨论： 「借助AI提供商，您可以将代码生成速度提高50%（即使是您不理解或无法编写的代码），但代价是代码的质...
-
Grok犯傻自曝抄袭，ChatGPT拱火，马斯克被“插刀”！看生成式AI如何吞噬互联网
整理丨诺亚 马斯克旗下AI公司xAI推出的首款聊天机器人Grok号称“百无禁忌”，也正是这个无禁忌AI面世不久，就给马斯克捅了个大篓子！ 一名安全测试员 Jax Winterbourne 上个月在推特上发布了一张 Grok 拒绝查询的屏幕截图，内容显...
-
论文润色降重多少钱 智能写作
大家好，今天来聊聊论文润色降重多少钱 智能写作，希望能给大家提供一点参考。 以下是针对论文重复率高的情况，提供一些修改建议和技巧，可以借助此类工具： 标题：论文润色降重多少钱――了解市场行情与选择合适的润色服务 一、引言 在...
-
论文隐藏字符降重 智能写作
大家好，今天来聊聊论文隐藏字符降重 智能写作，希望能给大家提供一点参考。 以下是针对论文重复率高的情况，提供一些修改建议和技巧，可以借助此类工具： 论文隐藏字符降重 在论文降重的过程中，隐藏字符降重是一种常用的技巧。通过在文本中插入一些特殊符号或...
-
推翻Transformer奠基之作疑被拒收，ICLR评审遭质疑！网友大呼黑幕，LeCun自曝类似经历
去年12月，CMU和普林斯顿的2位研究者发布了Mamba架构，瞬间引起AI社区震动！ 结果，这篇被众人看好有望「颠覆Transformer霸权」的论文，今天竟曝出疑似被顶会拒收？！ 今早，康奈尔大学副教授Sasha Rush最先发现，这篇有望成为奠基之作...
-
顶流Mamba竟遭ICLR拒稿，学者集体破防变小丑，LeCun都看不下去了
一项ICLR拒稿结果让AI研究者集体破防，纷纷刷起小丑符号。 争议论文为Transformer架构挑战者Mamba，开创了大模型的一个新流派。发布两个月不到，后续研究MoE版本、多模态版本等都已跟上。 但面对ICRL给出的结果，康奈尔副教授Alexand...
-
stable diffusion 百宝书
文章目录 0. 环境搭建 0.1 Windows 0.1.1 git环境安装 0.1.2 python 环境搭建 0.1.2.1 配置pip国内镜像源 0.1.3 stable diffusion环境搭建 0.1.3.1 远程访问Stab...
-
拳打Gen-2脚踢Pika，谷歌爆肝7个月祭出AI视频大模型，首提时空架构，时长史诗级延长
爆肝7个月，谷歌祭出了AI视频大模型Lumiere，直接改变了游戏规则!全新架构让视频时长和一致性全面飞升，时长直接碾压Gen-2和Pika。 AI视频赛道上，谷歌又再次放出王炸级更新! 这个名为Google Lumiere的模型，是个大规模视频扩散模...
-
【云上探索实验室】使用 Amazon Bedrock 体验构建Stable Diffusion-文本生成图像生成式 AI 应用
生成式人工智能（AI）正以惊人的速度蓬勃发展，不断推动着科技创新的边界。在前不久的re:Invent 2023大会上，Selipsky为我们重点介绍了全托管式生成式 AI 服务 Amazon Bedrock，并表示Amazon Bedrock 极大地降低了...
-
研究: AI代替打工人成本太高，只有23% 视觉工作可替代
根据 MIT 计算机科学与人工智能实验室的研究，人工智能对打工人的淘汰速度可能比人们想象中的要慢得多。这是因为对于企业来说，视觉 AI 实在是太贵了。在绝大多数情况下，人力成本要比采用自动化更便宜。 图源备注：图片由AI生成，图片授权服务商Midjour...
-
全世界机器人共用一个大脑，谷歌DeepMind已经完成了第一步
过去一年，生成式人工智能发展的核心关键词，就是「大」。 人们逐渐接受了强化学习先驱 Rich Sutton 充分利用算力「大力出奇迹」的思潮，庞大的数据量是 AI 模型展现出惊人智慧的核心原因。数据规模越大、质量越高、标注越细，模型就能了解到更全面的世界...
-
2023 ACM Fellow颁给图灵三巨头！清华马维英、微软高剑峰、上交大陈海波等14位华人当选
2023 ACM Fellow揭榜了！ 刚刚，美国计算机协会（Association for Computing Machinery）正式宣布了，2023年当选ACM Fellow的68位成员。 值得一提的是，今年图灵奖三巨头、万维网之父纷纷入选。 新晋...
-
MIT新研究：打工人不用担心被AI淘汰！成本巨贵，视觉工作只有23%可替代
人工智能会抢走我们的工作吗？如果你每天都看硅谷高管谈论着当今尖端的AI技术，可能会觉得答案是肯定的，并且会很快发生。 不过，刚刚MIT计算机科学与人工智能实验室（CSAIL）最近的一项研究，可以让我们可以松一口气了：至少视觉AI还无法替代太多人类。 论...
-
拳打Gen-2脚踢Pika，谷歌爆肝7个月祭出AI视频大模型！首提时空架构，时长史诗级延长
AI视频赛道上，谷歌又再次放出王炸级更新！ 这个名为Google Lumiere的模型，是个大规模视频扩散模型，彻底改变了AI视频的游戏规则。 跟其他模型不同，Lumiere凭借最先进的时空U-Net架构，在一次一致的通道中生成整个视频。 具体来说，现有...
-
「think step by step」还不够，让模型「think more steps」更有用
如今，大型语言模型（LLM）及其高级提示策略的出现，标志着对语言模型的研究取得了重大进展，尤其是在经典的 NLP 任务中。这其中一个关键的创新是思维链（CoT）提示技术，该技术因其在多步骤问题解决中的能力而闻名。这项技术遵循了人类的顺序推理，在各种挑战中...
-
AI4Science还是伪命题吗？两年后workshop组织者重新审视AI4Science
2021年，一群热血青年提出了要把AI4Science（AI for Science）带入机器学习顶会NeurIPS。 什么？AI4Science是一门学科吗？是不是靠着AI蹭热点？各种质疑声接踵而来。 这些质疑和不解也反映在了第一届AI4Science...
-
多智能体系统的合作之道：对MAS不确定性、社会机制与强化学习的探索
多智能体系统（MAS）是由多个自主智能体组成的系统，它们可以相互交互和协作，以完成一些共同或个人的目标。多智能体系统在许多领域都有广泛的应用，如机器人、交通、电力、社交网络等。但是如何促进智能体之间的合作行为一直是这一领域的难题，特别是在激励机制不确定的...
-
大模型推理速度飙升3.6倍，「美杜莎」论文来了，贾扬清：最优雅加速推理方案之一
如你我所知，在大型语言模型（LLM）的运行逻辑中，随着规模大小的增加，语言生成的质量会随着提高。不过，这也导致了推理延迟的增加，从而对实际应用构成了重大挑战。 从系统角度来看，LLM 推理主要受内存限制，主要延迟瓶颈源于加速器的内存带宽而非算术计算。这一...
-
买个机器人端茶倒水有希望了？Meta、纽约大学造了一个OK-Robot
「xx，去把电视柜上的遥控器帮我拿过来。」在一个家庭环境中，很多家庭成员都不免被支使干这种活儿。甚至有时候，宠物狗也难以幸免。但人总有支使不动的时候，宠物狗也并不一定都能听懂。帮人类干活儿的终极梦想还是寄托在机器人身上。 最近，纽约大学、Meta 研发出...
-
画个框、输入文字，面包即刻出现：AI开始在3D场景「无中生有」了
现在，通过文本提示和一个2D 边界框，我们就能在3D 场景中生成对象。 看到下面这张图了没?一开始，盘子里是没有东西的，但当你在托盘上画个框，然后在文本框中输入文本「在托盘上添加意大利面包」，魔法就出现了:一个看起来美味可口的面包就出现在你的眼前。 房间...
-
AI作画的背后是怎么一步步实现的？一文详解AI作画算法原理+性能评测
前言 “AI作画依赖于多模态预训练，实际上各类作画AI模型早已存在，之所以近期作品质量提升很多，可能是因为以前预训练没有受到重视，还达不到媲美人类的程度，但随着数据量、训练量的增多，最终达到了现在呈现的效果。”远在AI作画还没有爆火之前，深度学习就已经...
-
Yann LeCun：生成模型不适合处理视频，AI 理解视频得在抽象空间中进行预测
根据图灵奖得主、Meta 首席 AI 科学家在世界经济论坛上的讲话，生成模型不适合处理视频，AI得在抽象空间中进行预测。在互联网文本数据即将枯竭之际，很多 AI 研究者将目光转向了视频。但如何让 AI 理解视频数据成了新的难题。 斯坦福大学教授指出了理解因...
-
剧透GPT-5，物色芯片厂，2024年的Sam Altman已经火力全开，只因不敢停下来
尽管如今的AI圈花样层出、新闻满天，但OpenAI的新动向仍然一直是人们最关注的话题之一。 最近， OpenAI首席执行官 Sam Altman就在参加达沃斯论坛时高调表示，公司目前的首要任务就是推出下一代大型语言模型，可能被称为GPT-5。 他还剧透了一...
-
Yann LeCun：生成模型不适合处理视频，AI得在抽象空间中进行预测
在互联网文本数据即将枯竭之际，很多 AI 研究者将目光转向了视频。但如何让 AI 理解视频数据成了新的难题。 在 2024 世界经济论坛的一次会谈中，图灵奖得主、Meta 首席 AI 科学家 Yann LeCun 被问到了这个问题。他认为，虽然这个问题还...
-
无需训练实现价值观实时动态对齐：上交开源价值观对齐方法OPO，闭源与开源大模型均适用
随着人工智能技术的发展，以 GPT-4 为代表的大语言模型依靠其强大的能力正在对社会产生深远的影响。与此同时，大模型本身的安全性问题也变得尤为重要。如何确保大语言模型可以和人类的价值、真实的意图相一致，防止模型被滥用、输出有害的信息，这是大模型安全治理的...
-
纪念碑谷式错觉图像都被「看穿」，港大、TikTok的Depth Anything火了
人类有两只眼睛来估计视觉环境的深度信息，但机器人和 VR 头社等设备却往往没有这样的「配置」，往往只能靠单个摄像头或单张图像来估计深度。这个任务也被称为单目深度估计（MDE）。 近日，一种可有效利用大规模无标注图像的新 MDE 模型 Depth Any...