-
14 项任务测下来，GPT4V、Gemini等多模态大模型竟都没什么视觉感知能力？
2023-2024年，以 GPT-4V、Gemini、Claude、LLaVA 为代表的多模态大模型（Multimodal LLMs）已经在文本和图像等多模态内容处理方面表现出了空前的能力，成为技术新浪潮。 然而，对于这些模型的评测多集中于语言上的任务，...
-
当「软件研发」遇上 AI 大模型
作者：陈鑫（神秀） 大家好，我是通义灵码的产品技术负责人陈鑫。过去有八年时间，我都是在阿里集团做研发效能，即研发工具相关的工作。 我们从 2015 年开始做一站式 DevOps 平台，然后打造了云效，也就是将 DevOps 平台实现云化。到了 2023...
-
AlphaGo核心算法增强，7B模型数学能力直逼GPT-4，阿里大模型新研究火了
把AlphaGo的核心算法用在大模型上，“高考”成绩直接提升了20多分。 在MATH数据集上，甚至让7B模型得分超过了GPT-4。 一项来自阿里的新研究引发关注： 研究人员用蒙特卡洛树搜索（MCTS）给大语言模型来了把性能增强，无需人工标注解题步骤，也能...
-
清华首个AI医院小镇来了！AI医生自进化击败人类专家，数天诊完1万名患者
斯坦福AI小镇曾火遍了全网，25个智能体生活交友，堪称现实版的「西部世界」。 而现在，AI「医院小镇」也来了！ 最近，来自清华团队的研究人员开发了一个名为「Agent Hospital」的模拟医院。 论文地址：https://arxiv.org/pdf...
-
Agent Hospital：一个先进的虚拟AI医院模拟平台
Agent Hospital是一个创新的虚拟AI医院平台，它通过模拟医院中的所有真实医疗流程，为医疗教育和临床决策提供了一个高效的训练和研究环境。该平台涵盖了从疾病发生到治疗与康复的整个医疗过程，包括分诊、挂号、咨询、检查、诊断、治疗和随访等关键环节。...
-
OpenAI的图像检测系统识别DALL-E 3生成的AI图像准确率达98%
随着人工智能模型在创建自己的图像方面变得越来越出色，我们也需要提高对这类图像的检测能力。因此，OpenAI已经开发了一个程序，用于检测图像是否由人工智能生成。 图源备注：图片由AI生成，图片授权服务商Midjourney 该系统在识别图像是否由 DALL...
-
爆火后反转？「一夜干掉MLP」的KAN：其实我也是MLP
多层感知器（MLP），也被称为全连接前馈神经网络，是当今深度学习模型的基础构建块。MLP 的重要性无论怎样强调都不为过，因为它们是机器学习中用于逼近非线性函数的默认方法。 但是最近，来自 MIT 等机构的研究者提出了一种非常有潜力的替代方法 ——KAN。...
-
LeCun转发，AI让失语者重新说话！纽约大学发布全新「神经-语音」解码器
脑机接口（BCI）在科研和应用领域的进展在近期屡屡获得广泛的关注，大家通常都对脑机接口的应用前景有着广泛的畅享。 比如，由于神经系统的缺陷造成的失语症不仅严重阻碍患者的日常生活，还可能限制他们的职业发展和社交活动。随着深度学习和脑机接口技术的迅猛发展，...
-
MLP一夜被干掉！MIT加州理工等革命性KAN破记录，发现数学定理碾压DeepMind
一夜之间，机器学习范式要变天了！ 当今，统治深度学习领域的基础架构便是，多层感知器（MLP）——将激活函数放置在神经元上。 那么，除此之外，我们是否还有新的路线可走？ 就在今天，来自MIT、加州理工、东北大学等机构的团队重磅发布了，全新的神经网络结构...
-
58行代码把Llama 3扩展到100万上下文，任何微调版都适用
堂堂开源之王Llama 3，原版上下文窗口居然只有……8k，让到嘴边的一句“真香”又咽回去了。 在32k起步，100k寻常的今天，这是故意要给开源社区留做贡献的空间吗？ 开源社区当然不会放过这个机会： 现在只需58行代码，任何Llama 3 70b的微调...
-
微软发布AI天气预测模型 能精准预报未来30天天气
微软Start团队近日宣布，他们开发出了一种全新的数据驱动AI天气预测模型，该模型能够准确预测未来30天的天气情况。这一研究成果不仅在预报准确率上取得了显著提升，同时在计算效率上也实现了巨大突破。 论文地址:https://arxiv.org/pdf/2...
-
AI学会隐藏思维暗中推理！不依赖人类经验解决复杂任务，更黑箱了
AI做数学题，真正的思考居然是暗中“心算”的? 纽约大学团队新研究发现，即使不让AI写步骤，全用无意义的“……”代替，在一些复杂任务上的表现也能大幅提升! 一作Jacab Pfau表示:只要花费算力生成额外token就能带来优势，具体选择了什么token无...
-
终于有人调查了小模型过拟合：三分之二都有数据污染，微软Phi-3、Mixtral 8x22B被点名
当前最火的大模型，竟然三分之二都存在过拟合问题？ 刚刚出炉的一项研究，让领域内的许多研究者有点意外。 提高大型语言模型的推理能力是当前研究的最重要方向之一，而在这类任务中，近期发布的很多小模型看起来表现不错，比如微软 Phi-3、Mistral 8x2...
-
苹果推出理解、转化模型ReALM，性能超GPT-4
苹果的研究人员推出了一种创新模型ReALM，可将参考解析问题转化为语言建模问题，能极大提升AI助手处理很多描述复杂或模糊不清的内容。 例如，我们网购时选好了橘子、鸭梨、苹果、橘子汽水、洗发水、短袖、拖鞋等物品，然后告诉AI助手只结算水果。这时传统的AI助手...
-
模型量化与量化在LLM中的应用 ｜ 得物技术
【图片出处：Knowledge Distillation: A survey,2021,p2】 剪枝则是通过靠剪除模型中不重要的权重从而给模型“瘦身”，提高模型的推理效率，为了保证模型的能力，通常剪枝过程也需要伴随着模型基于训练数据的微调。根据剪除权重的...
-
通过学习曲线识别过拟合和欠拟合
本文将介绍如何通过学习曲线来有效识别机器学习模型中的过拟合和欠拟合。 欠拟合和过拟合 1、过拟合 如果一个模型对数据进行了过度训练，以至于它从中学习了噪声，那么这个模型就被称为过拟合。过拟合模型非常完美地学习了每一个例子，所以它会错误地分类一个看不见的...
-
大语言模型对汽车行业的影响和实践探索
汽车行业作为技术创新的重要领域，正迅速采纳大语言模型，如 GPT 系列，以推动行业的数字化转型。这些模型在提升车载智能系统的交互体验、优化客户服务、加速产品开发及市场营销策略方面展现出巨大潜力。通过具体应用案例分析，接下来我们一起揭示大语言模型如何为汽...
-
癌症早筛，这回轮到中国AI表演了
中国AI，再次吸引大洋彼岸关注。 日前，斯坦福大学发布了《2024年AI指数报告》，透露2023年美国人工智能投资额为672亿美元，是中国的约8.7倍;其中，阿里达摩院（湖畔实验室）医疗AI凭借在大规模胰腺癌早筛上的突破，成为唯一来自中国科技公司的AI亮点...
-
一文解决任何机器学习问题！
前言 数据挖掘大神Abhishek Thakur，很多数据挖掘kaggler对他都非常熟悉，他在 Linkedin 发表了一篇名为Approaching (Almost Any Machine Learning Problem(几乎解决任何机器学习...
-
苹果卷开源大模型，公开代码、权重、数据集、训练全过程，OpenELM亮相
要说 ChatGPT 拉开了大模型竞赛的序幕，那么 Meta 开源 Llama 系列模型则掀起了开源领域的热潮。在这当中，苹果似乎掀起的水花不是很大。 不过，苹果最新放出的论文，我们看到其在开源领域做出的贡献。 近日，苹果发布了 OpenELM，共四种变...
-
ChatGPT能预测未来特定事件，准确率高达97%
贝勒大学经济学院的Pham Hoang Van和Scott Cunningham两位教授，基于OpenAI的GPT-3.5、GPT-4深度研究了大模型对事情的预测能力。 研究人员使用了直接预测和未来叙述（Future Narrative）两种提示方法，进行...
-
集体智慧：LLM预测能力与人群可相互媲美
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 现在，AI系统的预测准确率达到甚至超过了人群。 在不断发展的人工智能（AI）领域，语言模型已取得了重大进展，实现了曾经被认为人类认知...
-
Llama 3每秒输出800个token逼宫openAI！下周奥特曼生日或放出GPT-5？
【新智元导读】Llama3的开源，或将催生数十亿美元新产业。发布不到一周的时间，全网各种测试微调都开启了。甚至，Llama3在Groq上的输出速度实现了每秒800个token。 Llama3诞生之后便艳压群雄，开源界已无「模」能敌。 甚至，让网友为Open...
-
EMNLP 2023｜利用LLM合成数据训练模型有哪些坑？
大家好，我是HxShine 今天我们将介绍EMNLP2023的一篇大模型（LLMs）生成文本分类任务合成数据的文章，标题是《Synthetic Data Generation with Large Language Models for Text Cla...
-
让玩家全程掌控游戏：自然语言指令驱动的游戏引擎到来了
对于每一位热爱打游戏的人而言，都曾经想过这样一个问题，「这游戏要是我来做就好了！」 可惜的是，游戏开发有很高的门槛，需要专业的编程技巧。 近日，来自上海交大的团队开展了一个名为「Instruction-Driven Game Engine, IDGE」的...
-
OpenAI提供新的微调和定制选项
微调在构建有价值的人工智能工具中起着至关重要的作用。这种使用更有针对性的数据集精炼预训练模型的过程可以使用户大大增加模型对专业内容的理解，允许用户为特定任务的模型增加现成知识。 虽然这个过程可能需要时间，但与从头开始训练模型相比，它的成本效益通常要高三...
-
Anthropic Claude 3 Opus基础模型在Amazon Bedrock上正式可用
北京——2024年4月17日 亚马逊云科技宣布，在Amazon Bedrock上正式推出来自Anthropic的Claude 3 Opus模型，该模型是Claude 3家族中最智能的模型，在高度复杂的任务上表现卓越，并拥有惊人的流畅性和类似人类的理解能力...
-
InternLM2官网体验入口 中文AI聊天机器人模型使用地址
InternLM2是一个面向中文和英文的大型多语言预训练语言模型。它具有语言理解、自然语言生成、多模式推理、代码理解等强大的能力。模型采用Transformer架构并进行海量数据的预训练，在长文本理解、对话、数学运算等多个方向上都达到了业界领先水平。该系列...
-
7B超越百亿级，北大开源aiXcoder-7B最强代码大模型，企业部署最佳选择
当下，大语言模型集成至编程领域、完成代码生成与补全任务成为重要趋势。业界已经出现了一批引人瞩目的代码大模型，比如 OpenAI 的 CodeX、谷歌 DeepMind 的 AlphaCode、HuggingFace 的 StarCoder，帮助程序员更迅捷...
-
抱抱脸Open了OpenAI的秘密武器，网易参与复现
OpenAI的秘密武器、ChatGPT背后功臣RLHF，被开源了。 来自Hugging Face、加拿大蒙特利尔Mila研究所、网易伏羲AI Lab的研究人员从零开始复现了OpenAI的RLHF pipeline，罗列了25个关键实施细节。 最终成功展示...
-
揭秘AI幻觉：GPT-4V存在视觉编码漏洞，清华联合NUS提出LLaVA-UHD
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ GPT-4V 的推出引爆了多模态大模型的研究。GPT-4V 在包括多模态问答、推理、交互在内的多个领域都展现了出色的能力，成为如今最领先...
-
斯坦福团队大模型Octopus v2火了：手机就能运行 准确性超越GPT-4
近日，斯坦福大学研究人员发布的 Octopus v2模型引起了开发者社区的极大关注，其20亿参数的模型一夜下载量超过2k。 这一模型可以在智能手机、汽车、个人电脑等端侧设备上运行，并在准确性和延迟方面表现超越了 GPT-4，同时将上下文长度减少了95%。...
-
超越GPT-4，斯坦福团队手机可跑的大模型火了，一夜下载量超2k
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 在大模型落地应用的过程中，端侧 AI 是非常重要的一个方向。 近日，斯坦福大学研究人员推出的 Octopus v2 火了，受到了开发者社...
-
斯坦福推可以在手机端跑的大模型 Octopusv2超越GPT-4一夜爆火
斯坦福大学的研究团队近日推出了一款名为Octopusv2的新型人工智能模型，这款模型以其在端侧设备上的强大运行能力而受到广泛关注。 Octopusv2是一款拥有20亿参数的开源语言模型，专为在Android设备上运行而设计，同时也适用于汽车、个人电脑等其他...
-
快手强化学习与多任务推荐
一、Two-Stage Constrained Actor-Critic for Short Video Recommendation 第一篇工作是快手自研的，主要针对的是带约束的多任务场景。 1. 短视频多任务推荐场景 这篇工作主要针对的是短视频的一...
-
Transformer引领AI百花齐放：从算法创新到产业应用，一文读懂人工智能的未来
一、引言 近年来，人工智能技术取得了举世瞩目的成果，其中，自然语言处理（NLP）和计算机视觉等领域的研究尤为突出。在这些领域，一种名为Transformer的模型逐渐成为研究热点，以其为核心的创新成果层出不穷。本文将从Transformer的原理、应用和...
-
普林斯顿首个「开源」AI程序员进场 基于GPT-4，可自动修复bug
普林斯顿大学最近推出了一款名为SWE-agent的AI程序员，这是世界上首个开源的AI程序员，它基于GPT-4技术，能够在GitHub仓库中自动修复bug。这个智能体-计算机接口（ACI）的诞生，标志着AI在软件工程领域的应用迈出了重要一步。 SWE-ag...
-
还得是抖音，字节推出竖屏视频理解数据集，入选CVPR2024
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 短视频在当下社交媒体逐渐成为主导的视频格式。传统视频处理技术和研究一般都专注于横屏视频的理解和解析，而竖屏视频因其拍摄手法和内容重点不同...
-
推荐：优秀JS开源人脸检测识别项目
人脸检测识别技术已经是一个比较成熟且应用广泛的技术。而目前最为广泛的互联网应用语言非JS莫属，在Web前端实现人脸检测识别相比后端的人脸识别有优势也有弱势，优势包括：减少网络交互、实时识别，大大缩短了用户等待时间，提高了用户体验；弱势是：受到模型大小限制...
-
神经矩阵：数字进化的新生命形式
译者 | 李睿 审校 | 重楼 随着人工智能技术的快速发展，有些人害怕机器人的崛起，有些人担心人工智能将会接管世界。但是人们需要了解人工智能的未来发展，以及电子生命形式将会如何诞生。 本文不仅介绍电子生命形式将如何诞生，而且还将详细描述神经矩阵的关键元...
-
阿里1号AI「员工」上岗，007写代码助攻大厂程序员！炸掉祖传屎山代码，Java丝滑改Python
就在刚刚，阿里云一口气宣布两个重磅消息： - 内部全面推行AI编程； - 「通义灵码」正式入职成为程序员的AI助理。 虽然最近AI程序员可以说是科技圈的顶流，AI编程工具作为程序员的外挂，并不是什么新鲜事。 但阿里云这次官方宣布全员使用AI，堪称一次突破...
-
黄学东分享：Zoom AI如何正确地「碾压GPT-4」
去年底，从微软离职加入Zoom的华人AI大佬黄学东以Zoom CTO的身份发表了一篇技术博客，介绍了Zoom推出的联邦AI技术—— 差异化地利用不同成本的AI工具，让能力强成本高的AI完成难度大的任务；成本低能力弱的AI完成简单的任务，从而在完成质量和G...
-
“大海捞针”out！“数星星”成测长文本能力更精准方法，来自鹅厂
大模型长文本能力测试，又有新方法了！ 腾讯MLPD实验室，用全新开源的“数星星”方法替代了传统的“大海捞针”测试。 相比之下，新方法更注重对模型处理长依赖关系能力的考察，对模型的评估更加全面精准。 利用这种方法，研究人员对GPT-4和国内知名的Kimi...
-
教育领域大模型技术与应用
苏喻博士，高级工程师，合肥人工智能研究院副研究员，原科大讯飞AI 教育研究院副院长，中国科学技术大学博士后，安徽省青少年信息学教育专委会秘书长，CCF 大专委-通讯委员，合肥市 D 类人才。苏喻博士一直在智慧教育方向深耕，聚焦于青少年编程。面对数据稀疏...
-
苹果研究人员称其设备端模型 ReALM 性能优于 GPT-4，可大幅提升 Siri 智能程度
IT之家 4 月 2 日消息，虽然目前 Siri 可以尝试描述信息中的图像，但效果并不稳定。不过，苹果公司并没有放弃人工智能领域的探索。在最近的一篇研究论文中，苹果的人工智能团队描述了一种可以显著提升 Siri 智能的模型，而且他们认为这个名为 ReA...
-
数据要素价值创新2023年度示范案例发布 蚂蚁数科FAIR入选
3月29日，由新一代信息技术产业研究院、赛迪未来产业研究中心共同主办，中国电子学会区块链分会、至顶科技联合承办的“2024未来信息技术大会暨首届数据要素创新发展论坛”在北京举行。会上，《数据要素价值创新2023年度示范案例》正式发布，蚂蚁数科隐私增强型数据...
-
python与机器学习日记——文心一言对话记录节选保存
——个人学习用，不适用于大佬——— 虽然以前学过一点python，在Jupiter里练过几行，但都忘记了。今年在朋友的帮助下，下载了pycharm打算好好学习一番，医学小白大战python机器学习。 看了两章西瓜书，先都别管，读取文件试试：一言哥说得先...
-
RAG 修炼手册｜RAG 敲响丧钟？大模型长上下文是否意味着向量检索不再重要
Gemini 发布后，由于其在处理长上下文方面表现出色，行业不乏“RAG 已死”的声音。RAG 到底有没有被杀死？向量数据库的还是 AI 应用开发者的最佳拍档吗？本文将一起探讨。 01.Gemini 发布后 AIGC 的迭代速度正以指数级的速度增长。G...
-
Claude 3再次登顶！化学专业一骑绝尘，全面碾压GPT-4
Claude 3的诞生又一次震惊了全世界。 Claude 3 Opus，Claude 3中最智能的模型，在大多数常见的人工智能系统评估基准测试中表现优异，包括本科水平专家知识（MMLU）、研究生水平专家推理（GPQA）、基础数学（GSM8K）等。 图片...
-
谷歌推出”自我发现“框架，极大增强GPT-4等大模型推理能力
随着ChatGPT的出现，大语言模型在生成连贯文本和遵循指令方面获得了巨大技术突破。然后在推理和解决复杂内容方面，面临内容不准确、安全等难题。 谷歌Deepmind和南加州大学的研究人员提出了“SELF-DISCOVER”。这是一种用于大语言模型的通用框架...