-
CVPR2024|Diffusion模型轻量化与计算效率优化
前言 做算法应该都有顶会梦吧，发不了顶会只能刷一刷顶会了哈哈，向顶会大佬学习 扩散模型的训练和推理都需要巨大的计算成本（显卡不足做DDPM的下游任务实在是太难受了），所以本文整理汇总了部分CVPR2024中关于扩散模型的轻量化与计算效率优化 的相关论文...
-
轨迹优化 | 基于ESDF的共轭梯度优化算法(附ROS C++/Python仿真)
目录 0 专栏介绍 1 数值优化：共轭梯度法 2 基于共轭梯度法的轨迹优化 2.1 障碍约束函数 2.2 曲率约束函数 2.3 平滑约束函数 3 算法仿真 3.1 ROS C++...
-
AIGC实践｜探索用AI实现小游戏开发全流程
前言： 在上一篇中，我们已经深入探讨了AI工具在动态绘本创作中的应用，体验了AI在创意内容生成上的魅力。本篇文章将带领大家进入一个全新的探索领域——游戏开发。 本文将详细介绍如何利用AI工具探索实现游戏开发的全过程，从概念构思、角色设计到画面生成、音效...
-
从14核CPU到AI游戏，浅析Arm新架构的更多细节
前段时间，我们三易生活已经给大家分析过Arm最新一代的CPU和GPU架构设计，不过当时的资料主要还是来源于官方博客文章，以及面向大众公布的相关信息。 考虑到这些资料的宣传目的，它们通常并不会讲得特别详细，特别是在一些技术细节、研发背景等方面往往会比较为缺...
-
为Stable Diffusion模型瘦身并达到SOTA！LAPTOP-Diff：剪枝蒸馏新高度（OPPO）
文章链接：https://arxiv.org/pdf/2404.11098 在AIGC时代，对低成本甚至设备端应用扩散模型的需求日益增加。在压缩Stable Diffusion模型（SDM）方面，提出了几种方法，其中大多数利用手工设计的层移除方法来获得更...
-
你所不知道的机器学习五大学派
机器学习是人工智能的重要分支，它赋予计算机从数据中学习的能力，并能够在无需明确编程的情况下改进自身性能。机器学习在各个领域都有着广泛的应用，从图像识别和自然语言处理到推荐系统和欺诈检测，它正在改变我们的生活方式。机器学习领域存在着多种不同的方法和理论，其...
-
不影响输出质量还能追踪溯源，「大模型无偏水印」入选ICLR 2024 Spotlight
本文通讯作者为马里兰大学计算机系的博士生胡正冕，其导师为 Heng Huang。他的主要研究方向是采样与机器学习理论，曾在ICML、NeurIPS、ICLR等顶级会议上发表多篇论文。邮箱: huzhengmian@gmail.com 随着大语言模型（LL...
-
YOLOv10来啦！真正实时端到端目标检测
本文经自动驾驶之心公众号授权转载，转载请联系出处。 过去几年里，YOLOs因在计算成本和检测性能之间实现有效平衡而成为实时目标检测领域的主流范式。研究人员针对YOLOs的结构设计、优化目标、数据增强策略等进行了深入探索，并取得了显著进展。然而，对非极大...
-
模型量化与量化在LLM中的应用 ｜ 得物技术
【图片出处：Knowledge Distillation: A survey,2021,p2】 剪枝则是通过靠剪除模型中不重要的权重从而给模型“瘦身”，提高模型的推理效率，为了保证模型的能力，通常剪枝过程也需要伴随着模型基于训练数据的微调。根据剪除权重的...
-
OpenAI Preparedness团队首席Aleksander Madry：机器学习模型的内部计算如何将输入转化为预测？
考虑一个标准的ResNet50模型，该模型经过训练用于图像分类任务。我们是否能够理解这个模型中的卷积滤波器如何将输入图像转换为其预测的标签？或者，GPT-3中的注意力头如何contribute到下一个标记的预测？理解这些模型组件——包括滤波器或头等架构...
-
综述！深度模型融合（LLM/基础模型/联邦学习/微调等）
23年9月国防科大、京东和北理工的论文“Deep Model Fusion: A Survey”。 深度模型融合/合并是一种新兴技术，它将多个深度学习模型的参数或预测合并为一个模型。它结合了不同模型的能力来弥补单个模型的偏差和错误，以获得更好的性能。然而...
-
等等我还没上车！LLM赋能端到端全新范式LeGo-Drive，车速拉满
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者个人理解 这篇论文介绍了一种名为LeGo-Drive的基于视觉语言模型的闭环端到端自动驾驶方法。该方法通过预测目标位置和可微分优化器规划轨迹，实现了从导航指令到目标位置的端到端闭...
-
Labview数据采集--基于AMC和队列的生产者和消费者编程模式
Labview生产者和消费者模式 Labview数据采集常用思路–基于AMC和队列的生产者和消费者编程模式 基于队列与AMC操作的数据采集编程思路。 *本文提供AMC等相关插件安装包 本文详细介绍了在数据采集和工业控制中常用的Labvie...
-
LLocalSearch官网体验入口 局部搜索优化AI工具使用地址
LLocalSearch是一个开源项目，它提供了一种基于局部搜索的优化方法。这种方法可以在一定区域内搜索最优解，广泛应用于组合优化、调度问题和其他需要寻找最佳解决方案的场景。 点击前往LLocalSearch官网体验入口 需求人群： LLocalSear...
-
快手强化学习与多任务推荐
一、Two-Stage Constrained Actor-Critic for Short Video Recommendation 第一篇工作是快手自研的，主要针对的是带约束的多任务场景。 1. 短视频多任务推荐场景 这篇工作主要针对的是短视频的一...
-
我的领导马斯克：痛恨开会，不要非技术中层，推崇裁员
马斯克称得上是个“魔鬼老板”这事儿，已经出了名了。 现在，他的老部下卡帕西（Andrej Karpathy）又在最新访谈中“锤”了他一把（doge）： 我不得不恳求他允许我招人。 他（马斯克）总是默认要裁掉员工。 喜欢裁人之外，在这场红杉组织的AI A...
-
AI模型训练：强化算法与进化算法
强化学习算法(RL 和进化算法(EA 都属于机器学习领域的子集，但它们在解决问题的方法和思想上有所不同。 强化学习算法： 强化是一种机器学习范式，它主要关注的是智能体(agent 在与环境进行交互的过程中，通过尝试和错误来学习最优的行为策略，以使其在某...
-
最全总结！机器学习优化算法！
机器学习的最优化算法是用于找到最佳模型参数，以最小化预测误差的算法。这些算法通过迭代地调整模型参数，以不断改进模型的性能。 本文系统地介绍了优化算法，基本脉络是从优化的基础知识，到各种优化算法原理的介绍及代码示例，最后放上各种算法的对比及实践经验总结!...
-
房价预测模型代码笔记以及文心一言Q.A记录
导入库方面略过不提 第一部分：简易日期处理模块 def processdate(date : date_num = (int(date[:4] - 2014 *12 + (int(date[4:6] -5 return date_n...
-
告别繁琐的手动调参，Optuna助您轻松实现超参数优化！
在机器学习和深度学习领域，超参数优化是一个至关重要的任务。通过调整模型的超参数，我们可以提高模型的性能和泛化能力。 然而，手动调整超参数是一项繁琐且耗时的任务，因此自动化超参数优化成为了一种常见的解决方案。 在Python中，Optuna是一个流行的超参...
-
基于Discuz!平台实现采集缩略图与附件上传功能深度解析
在互联网高速发展的当下，各种信息汇集成海，用户对于内容的渴求与日俱增。Discuz!，作为一款有着广泛应用和良好口碑的论坛软件系统，为用户提供了强大而丰富的信息交流与管理功能。其中，缩略图与附件上传是论坛运营中不可或缺的两个要素，对于增强用户互动和提高信息...
-
未来十年AI的最大发展趋势
穆斯塔法·苏莱曼在他的优秀著作《即将到来的浪潮》中指出，从内燃机到互联网，每一波由技术驱动的变革都在更短的时间内给社会带来了革命性的变化。因此，我认为我们不需要等待30年或者20年，AI就会应用于生活的方方面面。 在接下来的十年中，很多事情都会发生变化...
-
深度学习的未来：趋势和新兴技术
深度学习是人工智能(AI 的一个子集，持续推动技术进步，塑造机器感知、分析和响应数据的方式。本文将探索将在未来几年重新定义人工智能格局的最新趋势和新兴技术。 模型规模指数增长 以GPT-3等模型为例，越来越大的神经网络模型的趋势展示了对更复杂、更强大的...
-
AIGC：使用变分自编码器VAE实现MINIST手写数字生成
1 变分自编码器介绍 变分自编码器（Variational Autoencoders，VAE）是一种生成模型，用于学习数据的分布并生成与输入数据相似的新样本。它是一种自编码器（Autoencoder）的扩展，自编码器是一种用于将输入数据压缩为低维表示并再...
-
【读点论文】A Survey on Generative Diffusion Model，AIGC时代的新宠儿，从原理推导到工程应用，在视觉，自然语言，语音等领域大展拳脚
A Survey on Generative Diffusion Model Abstract 由于深度潜在表示，深度学习在生成任务中显示出良好的潜力。生成模型是一类可以根据某些隐含参数随机生成观测值的模型。近年来，扩散模型以其强大的生成能力成...
-
基于文心一言千帆API和gradio实现大模型多伦对话web应用
随着人工智能技术的不断发展，大模型多轮对话系统在web应用中越来越受到关注。文心一言千帆API和gradio工具为此提供了强大的支持。本文将介绍如何利用这两个工具，快速实现大模型多轮对话的web应用。 一、文心一言千帆API介绍 文心一言千帆API是一个...
-
AI4Science还是伪命题吗？两年后workshop组织者重新审视AI4Science
2021年，一群热血青年提出了要把AI4Science（AI for Science）带入机器学习顶会NeurIPS。 什么？AI4Science是一门学科吗？是不是靠着AI蹭热点？各种质疑声接踵而来。 这些质疑和不解也反映在了第一届AI4Science...
-
AI游戏设计的半年度复盘；大模型+智能音箱再起波澜；昇思大模型技术公开课第2期；出海注册经验分享；如何使用LoRA微调Llama 2 | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? 进步or毁灭：Nature 调研显示 1600+ 科学家对AI的割裂态度 国际顶级期刊 Nature 最近一项调研很有意思，全球 1600 多名科...
-
番外篇Diffusion&Stable Diffusion扩散模型与稳定扩散模型
文章目录 Diffusion&Stable Diffusion扩散模型与稳定扩散模型 摘要 Abstract Diffusion Model扩散模型 Forward Diffusion Process正向扩散过程 噪声图像的分布...
-
【LLM】微调LLM：LoRA 还是全参数？Llama 2 的深入分析
?大家好，我是Sonhhxg_柒，希望你看完之后，能对你有所帮助，不足请指正！共同学习交流? ?个人主页－Sonhhxg_柒的博客_CSDN博客 ? ?欢迎各位→点赞? + 收藏⭐️ + 留言? ?系列专栏 - 机器学习【ML】 自然语言...
-
何为交互感知？全面回顾自动驾驶中的社会交互动态模型与决策前沿！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 交互感知自动驾驶（IAAD）是一个迅速发展的研究领域，专注于开发能够与人类道路使用者安全、高效交互的自动驾驶车辆。这是一项具有挑战性的任务，因为它要求自动驾驶车辆能够理...
-
量子人工智能研究中的挑战与机遇
量子计算和人工智能的融合催生了量子人工智能，这是一个具有巨大前景和潜力的研究前沿。随着研究人员深入这一未知领域，遇到了一系列独特的挑战和机遇，这些挑战和机遇决定了进步的轨迹。本文将探索量子人工智能研究的动态格局，研究研究人员面临的障碍以及随着其推动传统计...
-
量子人工智能的实践：现实世界的应用和用例
量子人工智能的实践：现实世界的应用和用例 优化问题 量子计算机的关键优势之一在于，其比经典计算机更有效地处理优化问题的能力。物流、金融和制造业等行业每天都在努力应对复杂的优化挑战。量子人工智能算法可以为路线优化、投资组合管理和供应链物流等问题找到最...
-
华为诺亚的盘古Agent来了，让智能体学会结构化推理
自 AI 诞生以来，开发能够解决和适应复杂工作的多任务智能体（Agent）一直是个重要的目标。 AI 智能体对于许多应用至关重要，研究者通常用强化学习方法通过环境交互来培养智能体的决策技能。基于模型和无模型的深度强化学习方法都已取得了广为人们所知的成就，...
-
10条行之有效的实践途径，将ChatGPT融入开发
在不断变化的技术领域中，ChatGPT及其AI聊天机器人的同类产品正在引领潮流，获得全球的关注。这类产品正在通过提供被认为不可实现的独特价值主张，重新塑造行业格局。对于软件开发人员来说，这些机器人提供了无限的可能性。本文介绍开发人员如何利用AI聊天机器人...
-
四分钟成功复现诺奖！CMU开发GPT-4化学家，自主编码操控机器人颠覆化学研究登Nature
ChatGPT大模型爆火这一年，没想到竟颠覆了整个化学领域。 先是谷歌DeepMind的AI工具GNoME成功预测出200万种晶体结构，随后微软推出的MatterGen，大大加速了设计所需材料特性的速度。 今天，CMU和Emerald Cloud Lab...
-
戴尔CTO预测量子计算和生成式AI将在未来五年内实现交汇
在最新的一次在线圆桌会议中，戴尔技术的全球首席技术官约翰·罗斯表示，人工智能将推动其他新兴技术在先进硬件、边缘设备和网络安全领域协同发展，从而促进业务转型。他强调，量子计算和生成式人工智能将在未来五年内实现交汇，成为创新的驱动力。 罗斯指出，在2024年...
-
【人工智能】AI写作能力大比拼：《人工智能的数学基础》写下这本书的目录。
文心一言：《人工智能的数学基础》写下这本书的目录。 《人工智能的数学基础》 第一章 人工智能与数学基础 1.1 人工智能简介 1.2 数学在人工智能中的作用 1.3 本书内容概述 第二章 线性代数基础 2.1 向量与矩阵 2.2 行列式与...
-
比「让我们一步一步思考」这句咒语还管用，提示工程正在被改进
大型语言模型（LLM）已经是许多自然语言处理任务的强大工具，只要能给出正确的提示。然而，由于模型的敏感性，找到最优提示通常需要进行大量手动尝试和试错努力。此外，一旦将初始提示部署到生产环境中，可能会出现意想不到的边缘情况，需要更多轮的手动调整来进一步完善...
-
一文搞懂 AI Agents 的不同类型
Hello folks，我是 Luga，今天我们继续来聊一下人工智能（AI）生态领域相关的技术 - AI Agents（AI 代理） ，本文将聚焦在针对不同类型的 AI Agents 技术进行解析，使得大家能够了解不同 AI Agents 实现机制以及所...
-
DeepMind推出OPRO技术，可优化ChatGPT提示
在最新的AI研究报道中，Google DeepMind推出了一项名为“优化通过提示（OPRO）”的技术，将大型语言模型(LLM 作为其自身提示的优化器。该方法旨在通过自然语言描述问题，指导LLM生成和改进解决方案，从而提高提示性能。 OPRO的工作方式相对...
-
马毅、沈向洋联手，首届CPAL开奖！16人获新星奖，华人学者占据半壁江山
就在昨天，首届CPAL简约学术会议，正式公布了新星奖获奖者名单！ CPAL专注于解决机器学习、信号处理、优化等领域中普遍存在的简约、低维结构问题，并探索低维结构在智能硬件与系统、交叉科学和工程等新兴方向的应用。 创办这个会议的出发点，就是将其设计为一个...
-
自动驾驶系统中相机相对地面的在线标定
本文经自动驾驶之心公众号授权转载，转载请联系出处。 文章：Online Camera-to-ground Calibration for Autonomous Driving 作者：Binbin Li, Xinyu Du, Yao Hu, Hao Yu...
-
强化学习与多任务推荐
一、短视频推荐两阶段约束强化学习算法 首先介绍的一项快手自研的 WWW 2023 Research Track 工作，主要解决短视频推荐场景下的带约束多目标优化问题。 在短视频推荐单列场景中，用户通过上下滑形式和系统进行交互，观看多个视频。用户对每个...