-
基于MindSpore的llama微调在OpenI平台上运行
基于MindSpore的llama微调在OpenI平台上运行 克隆预训练模型 克隆chatglm-6b代码仓，下载分布式的模型文件 git lfs install git clone https://huggingface.co/openlm-...
-
whisper
Robust Speech Recognition via Large-Scale Weak Supervision 介绍 大规模弱监督的训练。先前的方法都是通过大量的无监督学习训练（无监督的数据容易收集，所以通过大量无监督的学习可以训练出一个质量...
-
关于生成式语言大模型的一些工程思考 paddlenlp & chatglm & llama
生成式语言大模型，随着chatgpt的爆火，市场上涌现出一批高质量的生成式语言大模型的项目。近期百度飞桨自然语言处理项目paddlenlp发布了2.6版本。更新了以下特性：全面支持主流开源大模型Bloom, ChatGLM, GLM, Llama, OPT...
-
Anthropic发布新方法 通过提示降低生成式AI偏见
人工智能公司Anthropic最近发布了一项方法，旨在通过提示工程减少公司使用的大型语言模型（LLMs）输出中的歧视。该公司在一份文件中详细介绍了一种评估方法，指导公司如何通过优化提示降低模型输出的歧视性。该文件为开发人员和决策者提供了了解LLMs生成答案...
-
使用 GPT-4 和 Midjourney 建构Tiktok故事
您准备好探索生成AI的奇妙世界，创作出富有吸引力的故事并配以引人入胜的插图了吗？根据我最近使用GPT-4和Midjourney的体验，我成功地使用YiVal构建了一个端到端的叙事，GPT-4用来生成大规模的故事，同时Midjourney创建令人惊叹的插图。...
-
AI Native工程化：百度App AI互动技术实践
作者 | GodStart 导读 随着AI浪潮的兴起，越来越多的应用都在利用大模型重构业务形态，在设计和优化Prompt的过程中，我们发现整个Prompt测评和优化周期非常长，因此，我们提出了一种Prompt生成、评估与迭代的一体化解决方案，...
-
Gemini AI免费测试入口在哪 谷歌Gemini软件怎么样
谷歌Gemini AI是一款由谷歌人工智能部门开发的大型语言模型（LLM）。它是在一个包含文本、代码、音频、图像和视频的庞大数据集上训练的。Gemini AI可以用于各种任务，包括自然语言处理(NLP 、机器翻译、代码生成、创意写作和问题回答。Google...
-
生成式人工智能如何改变数据中心的要求
什么是数据中心，我们如何使用它?更具体地说，数据中心有哪些不同类型，它们为使用它们的企业提供哪些不同的用途? 这些问题看似简单，但要得出令人满意的答案却出人意料地困难。就在过去一年左右的时间里，我们看到越来越强大的大型语言模型(LLM 正在支持新的生成...
-
我的大模型观：我眼中的LLM
文章目录 大模型是有智能的。 也许，大模型是一场骗局？ 从头训练or微调 我想象中的大模型架构 大厂的大模型 中小厂和个人开发该何去何从？ 今年，大模型火的一塌糊涂。最近几个月paper with code上，前几名的论文几乎都是生成模...
-
【达摩院OpenVI】AIGC技术在图像超分上的创新应用
团队模型、论文、博文、直播合集，点击此处浏览 一、背景 近10年来，深度学习技术得到了长足进步，在图像增强领域取得了显著的成果，尤其是以GAN为代表的生成式模型在图像复原、老片修复，图像超分辨率等方面大放异彩。图像超分辨率是视频增强方面，用...
-
【大模型AIGC系列课程 3-7】领域&私域对话数据收集与生成
重磅推荐专栏： 《大模型AIGC》；《课程大纲》本专栏致力于探索和讨论当今最前沿的技术趋势和应用领域，包括但不限于ChatGPT和Stable Diffusion等。我们将深入研究大型模型的开发和应用，以及与之相关的人工智能生成内容（AIGC）技术。通过深...
-
Video-LLaMA An Instruction-tuned Audio-Visual Language Model for Video Understanding 用于视频理解的指令调谐视听语言
1.摘要 我们提出了一个多模态框架Video-LLaMA1，它使大型语言模型(LLM 能够理解视频中的视觉和听觉内容。视频-来自冻结的预训练视频和音频编码器和冻结的LLM的美洲驼引导跨模式训练。不像以前的工作，补充线性最小二乘法只处理视觉或听觉信号...
-
开发者笑疯了！ LLaMa惊天泄露引爆ChatGPT平替狂潮，开源LLM领域变天
来源: 新智源 微信号：AI-era Meta的LLaMA模型开源，让文本大模型迎来了Stable Diffustion时刻。谁都没想 谁能想到，一次意外的LLaMA泄漏，竟点燃了开源LLM领域最大的创新火花。 一系列表现出色的Chat...
-
AIGC（生成式AI）试用 15 -- 小结
断断续续的尝试在实际的工作使用中理解和测试AIGC，运用会越来越多、越来越广范，但也是时候做个小结了。 没有太用热火的ChatGPT，只是拿了日常最容易用到的CSDN创作助手（每周写文章总是看到）和文心一言（没了谷歌只能百度），毕竟天天工作...
-
「Animate Anyone」官网体验入口 AI动画角色软件app免费下载地址
Animate Anyone是一款利用扩散模型从静态图像生成角色视频的工具。该软件通过驱动信号将静态图像转换为动画，为角色动画提供了一个专门的新框架。那么，想要体验Animate Anyone吗？下面就给大家带来Animate Anyone官网体验入口和免...
-
AI图片编辑神器Anydoor：开启图片编辑的任意门 图片主体随意移动
随着数字时代图像编辑的飞速发展，来自香港大学、阿里巴巴和蚂蚁集团的新成果AnyDoor为图片编辑开辟了一扇全新的时代之门。 这是一项基于扩散技术的创新，具有将目标物体以和谐的方式传送到用户指定位置的神奇能力。与传统模型需要为每个物体调整参数不同，AnyDo...
-
使用 PyTorch FSDP 微调 Llama 2 70B
引言 通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accelerate 和 TRL 库。我们还将展示如何在 SL...
-
开创全新通用3D大模型，VAST将3D生成带入「秒级」时代
生成式 AI 在3D 领域在很长一段时间内都在等待自己的「ChatGPT」时刻。 传统3D 建模涉及游戏、影视、建筑等多个行业，普遍依赖专业人员手动操作，生产周期短则几天，多则以月为单位，单个3D 模型的创建成本至少需要几千元。生成式 AI 技术在2D 图...
-
together.ai让AI模型训练快9倍，获NVIDIA参投1.025亿美元A轮融资
目前获得融资最多的两家大模型创业公司是OpenAI和Anthropic，而这两家公司最大的投资者分别是微软和亚马逊，他们投资的很大一部分不是资金，而是等值的云计算资源。这其实也就把这两家顶尖的闭源大模型公司“绑上了”科技巨头的“战车”。 在闭源大模型之外，...
-
LLM-项目详解-Chinese-LLaMA-AIpaca（一）：LLM+LoRa微调加速技术原理及基于PEFT的动手实践：一些思考和mt0-large+lora完整案例
如何花费较少的算力成本来进行微调训练，十分重要，当前关于LLaMA、Alpaca、Instruct微调、LoRa微调等多个概念大家讲的很多，最近也在学习，也看到几个有趣的话题（主要参考于（https://github.com/ymcui/Chinese-L...
-
【AI绘图 丨 Stable_diffusion 系列教程四】— Window 环境 | Stable Diffusion入门教程 及安装（全篇）
?腾小云导读 最近，AI图像生成引人注目，它能够根据文字描述生成精美图像，这极大地改变了人们的图像创作方式。Stable Diffusion作为一款高性能模型，它生成的图像质量更高、运行速度更快、消耗的资源以及内存占用更小，是AI图像生成领域的里...
-
全面合作：传媒业巨头与OpenAI寻求共赢
12月13日，OpenAI与欧洲最大的数字出版公司施普林格Axel Springer宣布战略合作。这是继媒体联盟一再发起抵制AI厂商的抗议以来，首例传媒巨头与AI厂商从版权、技术及商业模式上的全方位战略合作。 本文梳理了此次合作带给新闻业的重要意义，与合作...
-
ChatGPT抢走了数据！编程语言排行榜，没法做了！
撰稿 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） 提及编程语言排行榜，很多人都能想到Tiobe、RedMonk、Stack Overflow等，基本上它们更新的频率也相对固定。但最近，这家号称编程语言榜单天花板的RedMonk似...
-
Gemini Pro还不如GPT-3.5，CMU深入对比研究：保证公平透明可重复
谷歌Gemini实力到底如何？卡耐基梅隆大学来了场专业客观第三方比较。 为保证公平，所有模型使用相同的提示和生成参数，并且提供可重复的代码和完全透明的结果。 不会像谷歌官方发布会那样，用CoT@32对比5-shot了。 一句话结果：Gemini Pr...
-
研究发现，GPT 和其他 AI 模型无法分析 SEC 备案文件
一家名为 Patronus AI 的初创公司的研究人员发现，大型语言模型在分析美国证券交易委员会（SEC）备案文件时经常无法正确回答问题。即使是表现最佳的人工智能模型配置 OpenAI 的 GPT-4-Turbo，当给予几乎整个备案文件的阅读能力和相关问题...
-
关于num_steps_all = len(train_loader) // configs.gradient_accumulation_steps * configs.epochs的理解，文心一言
当然可以，我会尽量用简单的语言来解释这行代码。 这行代码计算的是在整个训练过程中，模型参数会更新的总次数。 len(train_loader ：这表示你的训练数据被分成了多少份（或称为“批次”）。想象一下你有100张纸，每张纸上写了一些训练数据，那...
-
薅羊毛！阿里云免费GPU云主机畅玩AI绘画，免费领取阿里云v100显卡搭建AI绘画利器Stable Diffusion
❝ AI绘画利器Stable Diffusion,因为对电脑显卡，磁盘，内存等都有一些限制，导致大部分人望而止步，所以小编今天教大家免费领取阿里云的免费显卡服务器，免费试用3个月，以方便各位快速学习与使用。 ❞ 领取免费的GPU计算...
-
【小沐学Python】Python实现语音识别（Whisper）
文章目录 1、简介 1.1 whisper简介 1.2 whisper模型 2、安装 2.1 whisper 2.2 pytorch 2.3 ffmpeg 3、测试 3.1 命令测试 3.2 代码测试：识别声音文件 3.3 代码测试：...
-
摸底谷歌Gemini：CMU全面测评，Gemini Pro不敌GPT 3.5 Turbo
前段时间，谷歌发布了对标 OpenAI GPT 模型的竞品 ——Gemini。这个大模型共有三个版本 ——Ultra（能力最强）、Pro 和 Nano。研究团队公布的测试结果显示，Ultra 版本在许多任务中优于 GPT4，而 Pro 版本与 GPT-3...
-
CVPR 2023 | 可控文生图/定制化文生图领域论文详解 AI作画增强版
可控文生图/定制化文生图 1、DreamBooth: Fine Tuning Text-to-Image Diffusion Models for Subject-Driven Generation DreamBooth是一种新的文本到图像扩散模型...
-
斯坦福大学研究生开发名为PIGEON的AI模型 仅通过几张照片找到你的位置
斯坦福大学的研究生们开发了一款名为 PIGEON 的应用程序，可以仅仅通过查看 Google 街景图像或其他图像来确定具体位置，其准确率令人印象深刻。 根据预印本论文的数据，PIGEON 可以以92%的准确率预测所拍摄国家，并且在40%的猜测中可以将位置定...
-
大语言模型训练数据常见的4种处理方法
本文分享自华为云社区《浅谈如何处理大语言模型训练数据之一常见的数据处理方法》，作者： 码上开花_Lancer。 大语言模型训练需要数万亿的各类型数据。如何构造海量“高质量”数据对于大语言模型的训练具有至关重要的作用。虽然，截止到2023 年9 月为止，还...
-
实时湖仓技术选型，企业如何借实时湖仓赢在“数据驱动”时代
在之前三期的实时湖仓系列文章中，我们从业务侧、产品侧、应用侧等几个方向，为大家介绍了实时湖仓方方面面的内容，包括实时湖仓对于企业数字化布局的重要性以及如何进行实时湖仓的落地实践等。 本文将从纯技术的角度，为大家解析实时湖仓的存储原理以及生态选型，为企业建...
-
PillarNeSt：如何进一步提升基于Pillar的3D目标检测性能？
写在前面 && 笔者的个人理解 目前在自动驾驶领域中，一辆自驾汽车会配备多种传感器，如：激光雷达传感器采集点云数据、相机传感器采集图像数据等。由于激光雷达传感器可以更加准确的获取待检测物体的几何和位置信息，所以基于点云的感知算法模型在快速...
-
逆天！真实可控、可拓展，自动驾驶仿真平台LightSim上新
最近，来自 Waabi AI、多伦多大学、滑铁卢大学和麻省理工的研究者们在 NeurIPS 2023 上提出了一种全新的自动驾驶光照仿真平台 LightSim。研究者们提出了从真实数据中生成配对的光照训练数据的方法，解决了数据缺失和模型迁移损失的问题。L...
-
AIGC实战——条件生成对抗网络(Conditional Generative Adversarial Net, CGAN)
AIGC实战——条件生成对抗网络 0. 前言 1. CGAN架构 2. 模型训练 3. CGAN 分析 小结 系列链接 0. 前言 我们已经学习了如何构建生成对抗网络 (Generative Adversarial Net, GA...
-
每个开发人员都应该知道的六个生成式AI框架和工具
译者 | 晶颜 审校 | 重楼 在快速发展的技术领域，生成式人工智能是一股革命性的力量，它改变了开发人员处理复杂问题和创新的方式。本文深入探讨了生成式AI的世界，揭示了对每个开发人员都必不可少的框架和工具。 LangChain LangChain由H...
-
数据治理与大模型一体化实践
降本增效方面，以机器学习团队的构成为例，滴普科技Deepexi产品线总裁柏海峰介绍道：“传统机器学习或者说小模型的技术落地，对人才的要求很高，但企业往往没有意识到这个问题。具体来说，一般需要构建一个综合性的团队即数据科学团队，团队中需要数据开发工程师、...
-
[AIGC ~大数据] 深入理解Hadoop、HDFS、Hive和Spark：Java大师的大数据研究之旅
作为一位Java大师，我始终追求着技术的边界，最近我将目光聚焦在大数据领域。在这个充满机遇和挑战的领域中，我深入研究了Hadoop、HDFS、Hive和Spark等关键技术。本篇博客将从"是什么"、"为什么"和"怎么办"三个角度，系统地介绍这些技术。...
-
用生物脑机制启发持续学习，让智能系统适者生存，清华朱军等团队研究登Nature子刊封面
在开放、高动态和演化环境中的学习能力是生物智能的核心要素之一，也是人类以及大多数动物在「适者生存」的自然选择过程中形成的重要优势。目前传统机器学习范式是在静态和封闭的数据集上学习到一个模型，并假设其应用环境和之前训练数据的属性相同，因而无法适应动态开放环...
-
【网安AIGC专题10.11】①代码大模型的应用：检测、修复②其安全性研究：模型窃取攻击（API和网页接口） 数据窃取攻击 对抗攻击（用途：漏洞隐藏） 后门攻击（加触发器+标签翻转）
代码大模型的应用及其安全性研究 写在最前面 一些想法 大型模型输出格式不受控制的解决方法 大模型介绍 （很有意思）GPT 模型家族的发展 Chatgpt 优点 缺点 GPT4 其他模型 补充：self-instruct合成数据 Cod...
-
Gemini自曝文心一言牵出重大难题，全球陷入高质量数据荒？2024年或将枯竭
谷歌Gemini，又出丑闻了！ 昨天上午，网友们激动地奔走相告：Gemini承认自己是用文心一言训练中文语料的。 国外大模型用中国模型产生的中文语料训练，这听起来就是个段子，结果段子竟然成现实了，简直魔幻。 微博大V「阑夕」夜亲自下场，在Poe网站上实...
-
OpenAI官宣全新安全团队：模型危险分四级，董事会有权决定是否发布
今天，OpenAI连发多条推特，隆重宣布了自己的「准备框架」（Preparedness Framework）。 在经历了各种大大小小的风波之后，OpenAI终于把人工智能的安全问题摆到了台面上。 这套框架的目的，就是监控和管理越来越强的大模型。 防止哪天...
-
丹麦 AI 模型预测死亡率准确度超保险公司，引发被滥用担忧
12 月 19 日消息，丹麦科技大学的苏尼・莱曼・乔根森及其团队开发了一款强大的人工智能模型，可以根据个人数据预测死亡率，准确度远超现有的任何模型，甚至包括保险业使用的模型。研究人员表示，该模型能提前预警健康和社会问题，也需要警惕其被大型企业滥用。 乔...
-
大语言模型之四-LlaMA-2从模型到应用
最近开源大语言模型LlaMA-2火出圈，从huggingface的Open LLM Leaderboard开源大语言模型排行榜可以看到LlaMA-2还是非常有潜力的开源商用大语言模型之一，相比InstructGPT，LlaMA-2在数据质量、培训技术、能力...
-
谷歌AI提出视觉语言模型PixelLLM:能够进行细粒度定位和视觉语言对齐
谷歌AI研究团队与加州大学圣迭戈分校的研究人员合作，提出了一种名为PixelLLM的智能模型，旨在解决大型语言模型在细粒度定位和视觉-语言对齐方面的挑战。这一模型的提出受到了人类自然行为的启发，尤其是婴儿描述其视觉环境的方式，包括手势、指向和命名。 Pix...
-
Hugging Face 首席执行官希望实现人工智能民主：将 AI 的力量集中在少数人手中是有风险的
Hugging Face 的首席执行官 Clément Delangue 对大型科技公司像商业专利一样保留机器学习代码的做法持反对态度。相反，他正在努力构建一个世界，在这个世界中，每个开发者或初创公司都可以自由访问人工智能模型，并有效地帮助 AI 实现开源...
-
AIGC参数量节节攀升，对存储带来的挑战如何解决？
引言 近期，AIGC 相关产品如同雨后春笋一般不断涌现。但在技术层面，大家普遍的关注点更多集中在性能方面，却经常忽略了存储对推理和训练效率的影响，以及 AIGC 内容可能带来的合规风险。我们特邀腾讯云存储的产品负责人 崔剑老师和益企研究院创始人、腾讯云 ...
-
华人团队用大模型实现“读心术”：大脑活动直接变文字
NeurIPS收录的一项新研究，让大模型也学会“读心术”了！ 通过学习脑电波数据，模型成功地把受试者的脑电图信号翻译成了文本。 而且整个过程不需要大型设备，只要一块特制的“头巾”就能实现。 这项成果名为DeWave，能在不通过侵入式设备和MRI的情况下...
-
基于 NNCF 和 Optimum 面向 Intel CPU 对 Stable Diffusion 优化
基于隐空间的扩散模型 (Latent Diffusion Model ，是解决文本到图片生成问题上的颠覆者。Stable Diffusion 是最著名的一例，广泛应用在商业和工业。Stable Diffusion 的想法简单且有效: 从噪声向量开始，多次去...