-
LLM巫师，代码预训练是魔杖！UIUC华人团队揭秘代码数据三大好处
大模型时代的语言模型（LLM）不仅在尺寸上变得更大了，而且训练数据也同时包含了自然语言和形式语言（代码）。 作为人类和计算机之间的媒介，代码可以将高级目标转换为可执行的中间步骤，具有语法标准、逻辑一致、抽象和模块化的特点。 最近，来自伊利诺伊大学香槟分校...
-
Llama 2: Open Foundation and Fine-Tuned Chat Models
文章目录 TL;DR Introduction 背景 本文方案 实现方式 预训练 预训练数据 训练细节 训练硬件支持 预训练碳足迹 微调 SFT SFT 训练细节 RLHF 人类偏好数据收集 奖励模型 迭代式微调（RLHF） 拒...
-
Stable Diffusion训练Lora模型
以下内容参考:https://www.bilibili.com/video/BV1Qk4y1E7nv/?spm_id_from=333.337.search-card.all.click&vd_source=3969f30b089463e19db0...
-
训练自己的个性化Stable diffusion模型，LORA
一、背景 需要训练自己的LORA模型 二、分析 1、有sd-webui有训练插件功能 2、有单独的LORA训练开源web界面 两个开源训练界面 1、秋叶写的SD-Trainer https://github.com/Akegarasu/l...
-
chatglm2-2b+sdxl1.0+langchain打造私有AIGC（五）
一、实现目标 上篇文章写完LLM的Agent之后，流程应该是进入到了SDXL的“文生图”“图生图”阶段了 目标很明确，使用SDXL为ChatGLM生成的内容进行配图，说明：大部分使用SD模型的大神都是使用SD模型配套的开源WebUI，因为我主打一个...
-
生成式人工智能中的BYOK（BringYourOwnKey）是一把双刃剑
原文作者 | Emmanuel Ajala 自带密钥（BYOK）——一个保证可定制和可控的概念在不断发展的人工智能（AI）世界中脱颖而出。 虽然BYOK经常在云计算和安全领域讨论，但本文深入将探讨其在生成式人工智能领域的应用。 与开发人员使用算法的...
-
AI打造“魔法博物馆”，五分钟完成一件“3D展品”
注意看，这是一家“魔法博物馆”，陈列的展品琳琅满目，甚至还有机甲套装…… 魔法镜子、水晶法杖……也是一应俱全，仿佛真的进入了魔法世界。 没错，这个“博物馆”里的“展品”全都是由AI打造的，而且一件只需要五分钟。 来自南洋理工大学、上海AI实验室等机构...
-
FTC调查微软、OpenAI等五大AI公司大规模生成式AI交易
联邦贸易委员会（FTC）在生成 AI 领域进行了首次重要的竞争行为调查，对五家顶级生成 AI 技术开发者展开了调查。 该机构今天向亚马逊、微软、OpenAI、Anthropic 和 Alphabet 发出了6（b） 令，要求这些公司提供有关最近数十亿美元的...
-
拳打Gen-2脚踢Pika，谷歌爆肝7个月祭出AI视频大模型，首提时空架构，时长史诗级延长
爆肝7个月，谷歌祭出了AI视频大模型Lumiere，直接改变了游戏规则!全新架构让视频时长和一致性全面飞升，时长直接碾压Gen-2和Pika。 AI视频赛道上，谷歌又再次放出王炸级更新! 这个名为Google Lumiere的模型，是个大规模视频扩散模...
-
【云上探索实验室】使用 Amazon Bedrock 体验构建Stable Diffusion-文本生成图像生成式 AI 应用
生成式人工智能（AI）正以惊人的速度蓬勃发展，不断推动着科技创新的边界。在前不久的re:Invent 2023大会上，Selipsky为我们重点介绍了全托管式生成式 AI 服务 Amazon Bedrock，并表示Amazon Bedrock 极大地降低了...
-
超级逼真人脸生成，Stable Diffusion的3个关键技巧
大家好，你是否曾想过，为什么别人可以使用AI图像生成技术生成如此逼真的人脸，而自己的尝试却充满了错误和瑕疵，让人一眼看出是假的。尝试过调整提示和设置，但似乎仍无法与他人的质量相匹配。 本文将带大家了解使用Stable Diffusion生成超逼真人脸的3...
-
一周AIGC丨Meta 发布新一代开源大模型 Llama 2，大模型裁员潮不远了？
人们把Meta发布免费可商用版本 Llama 2比作“安卓时刻”，OpenAI护城河似乎一下子荡然无存，整个大模型市场格局面临巨变。据媒体报道，在以往，中国大模型公司可以靠商业授权赚钱利润，随着Llama 2开始允许商用，中国大模型公司的这一优...
-
全世界机器人共用一个大脑，谷歌DeepMind已经完成了第一步
过去一年，生成式人工智能发展的核心关键词，就是「大」。 人们逐渐接受了强化学习先驱 Rich Sutton 充分利用算力「大力出奇迹」的思潮，庞大的数据量是 AI 模型展现出惊人智慧的核心原因。数据规模越大、质量越高、标注越细，模型就能了解到更全面的世界...
-
2023 ACM Fellow颁给图灵三巨头！清华马维英、微软高剑峰、上交大陈海波等14位华人当选
2023 ACM Fellow揭榜了！ 刚刚，美国计算机协会（Association for Computing Machinery）正式宣布了，2023年当选ACM Fellow的68位成员。 值得一提的是，今年图灵奖三巨头、万维网之父纷纷入选。 新晋...
-
拳打Gen-2脚踢Pika，谷歌爆肝7个月祭出AI视频大模型！首提时空架构，时长史诗级延长
AI视频赛道上，谷歌又再次放出王炸级更新！ 这个名为Google Lumiere的模型，是个大规模视频扩散模型，彻底改变了AI视频的游戏规则。 跟其他模型不同，Lumiere凭借最先进的时空U-Net架构，在一次一致的通道中生成整个视频。 具体来说，现有...
-
AI4Science还是伪命题吗？两年后workshop组织者重新审视AI4Science
2021年，一群热血青年提出了要把AI4Science（AI for Science）带入机器学习顶会NeurIPS。 什么？AI4Science是一门学科吗？是不是靠着AI蹭热点？各种质疑声接踵而来。 这些质疑和不解也反映在了第一届AI4Science...
-
RadOcc：通过渲染辅助蒸馏学习跨模态Occupancy知识
原标题：Radocc: Learning Cross-Modality Occupancy Knowledge through Rendering Assisted Distillation 论文链接：https://arxiv.org/pdf/2312...
-
Stable Diffusion系列（三）：网络分类与选择
文章目录 网络分类 模型 基座模型 衍生模型 二次元模型 2.5D模型 写实风格模型 名称解读 VAE Lora 嵌入 文件放置 界面使用 网络分类 当使用SD webui绘图时，为了提升绘图质量，可以多种网络混合使用，可...
-
英伟达Jim Fan最新TED演讲上线：AI下一个前沿是「基础智能体」！
「AI的下一个前沿将是『基础智能体』（Foundation Agent）——一个掌握广泛技能，控制许多身体，并能够泛化到多个环境中的单一算法」。 等了三个月，英伟达高级科学家Jim Fan在TED AI 2023上的演讲视频终于上线了。 视频中，Jim...
-
大模型推理速度飙升3.6倍，「美杜莎」论文来了，贾扬清：最优雅加速推理方案之一
如你我所知，在大型语言模型（LLM）的运行逻辑中，随着规模大小的增加，语言生成的质量会随着提高。不过，这也导致了推理延迟的增加，从而对实际应用构成了重大挑战。 从系统角度来看，LLM 推理主要受内存限制，主要延迟瓶颈源于加速器的内存带宽而非算术计算。这一...
-
首个通用双向Adapter多模态目标追踪方法BAT，入选AAAI 2024
目标跟踪是计算机视觉的一项基础视觉任务，由于计算机视觉的快速发展，单模态 (RGB 目标跟踪近年来取得了重大进展。考虑到单一成像传感器的局限性，我们需要引入多模态图像 (RGB、红外等 来弥补这一缺陷，以实现复杂环境下全天候目标跟踪。 然而，现有的多...
-
华盛顿大学推高效大模型调优方法“代理调优”
华盛顿大学推出更高效的大模型调优方法“代理调优”，该方法通过对比小型调整模型和未调整模型的预测结果来引导基础模型的预测，实现对模型的调优而无需接触模型的内部权重。 随着ChatGPT等生成式AI产品的发展，基础模型的参数不断增加，因此进行权重调优需要耗费大...
-
迈向分割的大一统！OMG-Seg：一个模型搞定所有分割任务
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者个人思考 图像分割已经从单任务分割走到了语义分割、实例分割、全景分割三种分割任务的统一；大模型以及多模态的发展又带来了文本和图像统一，使得跨模态端到端成为可能；追求更高级、更全面...
-
stable diffusion模型评价框架
GhostReview:全球第一套AI绘画ckpt评测框架代码 - 知乎大家好，我是_GhostInShell_，是全球AI绘画模型网站Civitai的All Time Highest Rated (全球历史最高评价 第二名的GhostMix的作者。在上...
-
DeepSeek 发布全新开源大模型，数学推理能力超越 LLaMA-2
自从 LLaMA 被提出以来，开源大型语言模型（LLM）的快速发展就引起了广泛研究关注，随后的一些研究就主要集中于训练固定大小和高质量的模型，但这往往忽略了对 LLM 缩放规律的深入探索。 开源 LLM 的缩放研究可以促使 LLM 提高性能和拓展应用领域...
-
2024年人工智能领域十大预测
2023年人工智能领域如果只能筛选一个关键词的话，恐怕非“大模型”莫属。大模型的发展在过去一年中，让各行各业发生了天翻地覆的变化，有企业因大模型而新生，有企业因大模型而消亡。企业的变迁跟技术迭代息息相关，而大模型就是新一代人工智能技术下的产物，大模型已经...
-
纪念碑谷式错觉图像都被「看穿」，港大、TikTok的Depth Anything火了
人类有两只眼睛来估计视觉环境的深度信息，但机器人和 VR 头社等设备却往往没有这样的「配置」，往往只能靠单个摄像头或单张图像来估计深度。这个任务也被称为单目深度估计（MDE）。 近日，一种可有效利用大规模无标注图像的新 MDE 模型 Depth Any...
-
OpenAI 竞争对手 Cohere 正在洽谈融资 10 亿美元
据英国《金融时报》报道，OpenAI 的竞争对手 Cohere 正在洽谈筹集最多10亿美元的资金。 随着人工智能竞赛的升温，这将是这家加拿大初创公司有史以来获得的最大一笔资金。Cohere 迄今为止已完成四次融资，最后一次融资是在2023年6月，这家初创公...
-
画个圈就能搜索，谷歌Gemini Pro植入旗舰，开启手机AI大战
近日，三星在加利福尼亚州圣何塞隆重发布了最新的Galaxy S24系列手机，AI要素拉满!网友一片热情，纷纷实测 AI要素满满三星新旗舰，竟被抱怨一半功能都不太好用! 近日，在加利福尼亚州圣何塞举行的Galaxy Unpacked活动中，三星推出了最新的G...
-
【AIGC】AnimateDiff:无需定制化微调的动画化个性化的文生图模型
前言 Animatediff是一个有效的框架将文本到图像模型扩展到动画生成器中，无需针对特定模型进行调整。只要在大型视频数据集中学习到运动先验知识。AnimateDiff就可以插入到个性化的文生图模型中，与Civitai和Huggingface的文生图...
-
Code Llama: Open Foundation Models for Code
本文是LLM系列文章，针对《Code Llama: Open Foundation Models for Code》的翻译。 Code Llama：代码的开放基础模型 摘要 1 引言 2 Code Llama：专业化Llama2用于代码 3...
-
人工智能实战：Stable Diffusion技术分享
背景 Stable Diffusion是计算机图形学和可视化领域中的一项重要技术。在这篇分 享中 ，我们将深入探讨稳定扩散的原理、关键要素和实施步骤 ，通过了解Stable Diffusion的流程化 ，我们可以提升自身的设计能力和创造力 ，为公司 和个...
-
AIGC（生成式AI）试用 17 -- 续2，生成式AI是什么
还是培训资料中的内容，重读一遍。 列举内容，尝试理解的多那么一点点。 1. 生成式AI 生成式AI定义 - Generative AI, GenAI - 一种人工智能技术 - 对已经数据分类、预测 - 生成新的内容，包括文本、图像、音...
-
[AI绘图教程]stable-diffusion webui加载模型与插件. 实战AI绘画
之前讲了stable diffusion webui搭建,这里主要介绍使用方法以及模型,扩展等. 模型下载 主要下载网址 HuggingFace：Stable Diffusion、ControlNet的官方仓库。 Civitai：里面多是Lo...
-
清华、小米、华为、 vivo、理想等多机构联合综述，首提个人LLM智能体、划分5级智能水平
嘿 Siri、你好小娜、小爱同学、小艺小艺、OK Google、小布小布…… 想必这些唤醒词中至少有一个曾被你的嘴发出并成功呼唤出了一个能给你导航、讲笑话、添加日程、设置闹钟、拨打电话的智能个人助理（IPA）。可以说 IPA 已经成了现代智能手机不可或缺...
-
视觉Mamba模型的Swin时刻，中国科学院、华为等推出VMamba
Transformer 在大模型领域的地位可谓是难以撼动。不过，这个AI 大模型的主流架构在模型规模的扩展和需要处理的序列变长后，局限性也愈发凸显了。Mamba的出现，正在强力改变着这一切。它优秀的性能立刻引爆了AI圈。 上周四， Vision Mamb...
-
2024年，开源AI潜力更大？
开源（OS）正在驱动生成式 AI 的创新。得益于像 GitHub 和 Hugging Face 等学术研究平台，我们得以见证 AI 技术的蓬勃发展。但值得注意的是，OpenAI、Anthropic 等越来越多的科技公司选择不公开模型的代码和权重。 指责大...
-
AI绘画创作，训练Lora模型绘制你心中的童年爱豆漫画
从零开始，教你如何塑造完美动漫人物Lora模型 1.整合包下载 首先是去秋叶大佬那里下载一键训练包，这样我们的训练就相当简单，解压包以后先更新，后启动。 秋叶大神百度网盘包：百度网盘 请输入提取码 提取码：p8uy 秋叶...
-
GPT-5，奥特曼最新剧透
GPT-5的消息越来越藏不住了，连OpenAI CEO奥特曼都不再遮遮掩掩—— 开始在各种公开场合频繁造势，不断挑动科技圈的神经。 在达沃斯经济论坛，奥特曼一共参加了4-5场活动，透露的关键信息包括： 如果GPT-4目前解决了人类任务的10%，GPT-...
-
Agent触摸汉堡辨冷热，首次拥有类人感官！UCLA等发布3D多模态交互具身智能大模型
具身智能，是大模型未来应用的一个重要方向。 现在，大模型加持下的智能体，能够参与3D环境，不仅有了听觉视觉，还有了触觉等多种感官能力。 卧室里有什么物体，一眼辨认。 听到门铃响了，LLM便会告诉你家里来客人了。 大模型加持的NPC，在触摸桌子的香蕉后，...
-
李飞飞、吴恩达开年对话：AI 寒冬、2024新突破、智能体、企业AI
在人工智能发展史上，2023 已经成为非常值得纪念的一年。在这一年，OpenAI 引领的 AI 大模型浪潮席卷了整个科技领域，把实用的 AI 工具送到了每个人手里。但与此同时，人工智能的发展也引起了广泛的讨论和争议，尤其在其商业应用和未来发展前景方面。...
-
Stability AI杀回来了：视频生成新Demo效果惊人，网友：一致性超群
Stable Diffusion要王者归来了？ Stability AI CEO Emad Mostaque最新推文，四段视频引人无数遐想。 不少网友怀疑，这是Stable Video Diffusion新版本的演示Demo。 因为从效果上看，不管是...
-
AI绘画软件Stable Diffusion模型/Lora/VAE文件存放位置
型下载说明（下载模型后输入对应参数即可生成） 建议直接去civitai.com找模型，如果无法找到可以在幕后模型区找也可以去， 下载好后放入对应的文件夹。进入127.0.0.1:7680 左上角刷新即可看到新的模型。 模型种类 大模型 大模型...
-
英伟达新对话QA模型准确度超GPT-4，却遭吐槽：无权重代码意义不大
昨天，Meta、纽约大学的研究者用「自我奖励方法」，让大模型自己生成自己的微调数据，从而在 Llama 2 70B 的迭代微调后超越了 GPT-4。今天，英伟达的全新对话 QA 模型「ChatQA-70B」在不使用任何 GPT 模型数据的情况下，在 10...
-
AIGC｜手把手教你进行ChatGLM模型部署实践
一、背景介绍 模型部署基本步骤分为模型选择、模型部署、运行，如果需要在特定的场景下定制化模型，则还需要进行数据集的选择、数据集格式转换、微调。 根据上述的步骤本教程选取如下的开源模型、数据集，来对医疗场景下进行定制化模型部署。当然模型部署对G...
-
【前沿技术杂谈：智能对话的未来】深入比较ChatGPT与文心一言
【前沿技术杂谈：智能对话的未来】深入比较ChatGPT与文心一言 引言 主体 智能回复 语言准确性 知识库丰富度 深入分析：ChatGPT与文心一言的技术对比 技术架构和算法 数据处理和隐私 用户界面和体验 应用场景分析 未来展望 技...
-
GPT-4V惨败！CV大神谢赛宁新作：V*重磅「视觉搜索」算法让LLM理解力逼近人类
Sam Altman最近在世界经济论坛上发言，称达到人类级别的AI很快就会降临。 但是，正如LeCun一直以来所言，如今的AI连猫狗都不如。现在看来的确如此。 GPT-4V、LLaVA等多模态模型图像理解力足以让人惊叹。但是，它们并非真的能够做的面面俱到。...
-
快速上手！LLaMa-Factory最新微调实践，轻松实现专属大模型
1.为什么要对Yuan2.0做微调？ Yuan2.0（https://huggingface.co/IEITYuan）是浪潮信息发布的新一代基础语言大模型，该模型拥有优异的数学、代码能力。自发布以来，Yuan2.0已经受到了业界广泛的关注。当前Yua...
-
用通俗易懂的方式讲解大模型：一个强大的 LLM 微调工具 LLaMA Factory
LLM（大语言模型）微调一直都是老大难问题，不仅因为微调需要大量的计算资源，而且微调的方法也很多，要去尝试每种方法的效果，需要安装大量的第三方库和依赖，甚至要接入一些框架，可能在还没开始微调就已经因为环境配置而放弃了。 今天我们来介绍一个可以帮助大家快速...
-
stable diffusion(1): webui的本地部署(windows)
一、前言 是的，现在是202308月份了，网上已经有很多打包好的工具，或者直接进一个web就能用SD的功能，但是我们作为程序员，就应该去躺坑，这样做也是为了能够有更多自主操作的空间。 像其他AI一样，先出结果才是王道，所以先不直接搞SD源码或者命令行，...