-
大模型微调非得依赖人类数据吗？DeepMind：用带反馈的自训练更好
如你我所见，大语言模型（LLM）正在改变深度学习的格局，在生成人类质量的文本和解决各种语言任务方面展现出了卓越的能力。虽然业界通过对人类收集的数据进行监督微调进一步提升了在具体任务上的性能，但获取高质量人类数据却面临着重大瓶颈。这对于要解决复杂问题的任务...
-
AI绘画是什么？怎样提高AI绘画技巧
大家好，我是网媒智星，今天跟大家探讨一下AI绘画是什么？怎样才能提高AI绘画技巧的问题。 随着人工智能技术的迅速发展，AI绘画已成为一项具有前瞻性的技术。在过去几年中，涌现出了许多功能强大的人工智能绘画工具，这些工具利用机器学习和计算机视觉技术，...
-
LLM微调（四）| 微调Llama 2实现Text-to-SQL，并使用LlamaIndex在数据库上进行推理
Llama 2是开源LLM发展的一个巨大里程碑。最大模型及其经过微调的变体位居Hugging Face Open LLM排行榜（https://huggingface.co/spaces/HuggingFaceH4/open_llm_lea...
-
Python+AI实现AI绘画
? 运行环境：Python ? 撰写作者：左手の明天 ? 精选专栏：《python》 ? 推荐专栏：《算法研究》 ?#### 防伪水印——左手の明天 ####? ? 大家好???，我是左手の明天！好久不见? ?今天分享py...
-
人工智能会改变旧建筑的能源效率吗？
从智能建筑的角度来看，人工智能正被整合到许多面向居住者的技术中，以帮助改善建筑物和校园的安全、健康和功能。更重要和更关键的是，将人工智能和机器学习(ML 相结合，以监测和分析能源和碳的使用情况。 虽然“智能”电气、照明和暖通空调系统已经存在了一段时间，...
-
AI视野：必应推出GPT-4Turbo模型；抖音测试“AI搜”功能；小红书内测AI聊天机器人；OpenAI计划新一轮融资
????大模型动态 必应推出GPT-4Turbo模型 微软推出Bing Chat的最新模型，GPT-4Turbo，为用户提供更准确和最新的信息。目前仅限部分用户试用，使用方法需通过检查资格确认。 阿里团队推新AI模型I2VGen-XL 视频合成领域迎来...
-
LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention
Paper name LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention Paper Reading Note Paper URL: htt...
-
一文看懂ChatGPT对美国企业带来了哪些影响
ChatGPT 自问世以来，一直在 AI 技术创新领域扮演着改变游戏规则的角色。美国是全球 ChatGPT 用户中最多的国家，占总数的15%。ChatGPT 在美国的企业中的使用就像是一把魔杖，快速改变着各行各业。 目前，公司正在探索如何使用 AI，尤其是...
-
港联证券|万亿级AIGC赛道或迎有序监管
近段时间，连续有国内外科技巨子涌入万亿级AIGC（生成式AI）赛道，A股商场上AIGC、ChatGPT等人工智能相关概念也是继续火热。但与此同时，安全隐患也如冰山一角逐渐露出。多国政府正在考虑加强对其监管，AIGC在全球范围内正在进入强监管时代。在强监管之...
-
Copilot：AI自动写代码，人工智能究竟还能取代什么？
Copilot：AI自动写代码，人工智能究竟还能取代什么？ 前言 在AI绘画掀起一阵热潮之后，AI写代码又逐渐进入了我们的视野，似乎这一步我们还没想到就迅速到来了，难道说AI在取代画家之后，还要取代程序员吗？相信我们都曾幻想过这一天，在编写那些...
-
GPT系列训练与部署——GPT2环境配置与模型训练
本文为博主原创文章，未经博主允许不得转载。 本文为专栏《Python从零开始进行AIGC大模型训练与推理》系列文章，地址为“https://blog.csdn.net/suiyingy/article/details/13...
-
最强英文开源模型LLaMA架构探秘，从原理到源码
导读：LLaMA 65B是由Meta AI（原Facebook AI）发布并宣布开源的真正意义上的千亿级别大语言模型，发布之初（2023年2月24日）曾引起不小的轰动。LLaMA的横空出世，更像是模型大战中一个搅局者。虽然它的效果（performance）...
-
一分钟叫你怎样AI绘画 Vega Ai
先看效果图： 是不是也想自己去创造这样的图片呢，注意已经不需要自己画了！！ Vega AI 简介 Vega AI是一款能够 文字生成图片、根据图片+文字进行生成图片、条件生成图片 、根据多张图片训练出自己的风格，在风格广场选择他人制作的...
-
LLaMA系列模型
1.LLama 1.1 简介 Open and Efficient Foundation Language Models (Open但没完全Open的LLaMA 2023年2月，Meta（原Facebook）推出了LLaMA大模型，使用了1.4...
-
关于生成式语言大模型的一些工程思考 paddlenlp & chatglm & llama
生成式语言大模型，随着chatgpt的爆火，市场上涌现出一批高质量的生成式语言大模型的项目。近期百度飞桨自然语言处理项目paddlenlp发布了2.6版本。更新了以下特性：全面支持主流开源大模型Bloom, ChatGLM, GLM, Llama, OPT...
-
Anthropic发布新方法 通过提示降低生成式AI偏见
人工智能公司Anthropic最近发布了一项方法，旨在通过提示工程减少公司使用的大型语言模型（LLMs）输出中的歧视。该公司在一份文件中详细介绍了一种评估方法，指导公司如何通过优化提示降低模型输出的歧视性。该文件为开发人员和决策者提供了了解LLMs生成答案...
-
23年生成式AI全球投资超360亿！开发者预测2024年LLM应用进入大爆发
2023年11月30日，ChatGPT庆祝了它的生日，Similarweb发布了下面这张精美的信息图来纪念这一时刻。 从ChatGPT诞生，到2023年5月，它的访问量一直在迅速增长，峰值达到了每月18亿次的访问量。 随后，客流量在6月有所下降，但自9...
-
Copilot 简介 背景,优势与快速开始
Copilot 简介: 背景,优势与上手 Copilot是什么 Copilot是一个人工智能代码生成器，由OpenAI和GitHub合作开发，可以根据用户提供的代码输入和上下文，自动生成相应的代码，帮助开发人员提高效率。Copilot利用机器学习技...
-
一分钟图情论文：《AIGC驱动的智慧图书馆转型：框架、路径与挑战》
一分钟图情论文：《AIGC驱动的智慧图书馆转型：框架、路径与挑战》 AIGC（Artificial Intelligence Generated Content）是一种全新的生产方式，利用人工智能技术自动生成文本、图片、语音、视频甚至虚拟现实等各种形式...
-
【达摩院OpenVI】AIGC技术在图像超分上的创新应用
团队模型、论文、博文、直播合集，点击此处浏览 一、背景 近10年来，深度学习技术得到了长足进步，在图像增强领域取得了显著的成果，尤其是以GAN为代表的生成式模型在图像复原、老片修复，图像超分辨率等方面大放异彩。图像超分辨率是视频增强方面，用...
-
Video-LLaMA An Instruction-tuned Audio-Visual Language Model for Video Understanding 用于视频理解的指令调谐视听语言
1.摘要 我们提出了一个多模态框架Video-LLaMA1，它使大型语言模型(LLM 能够理解视频中的视觉和听觉内容。视频-来自冻结的预训练视频和音频编码器和冻结的LLM的美洲驼引导跨模式训练。不像以前的工作，补充线性最小二乘法只处理视觉或听觉信号...
-
开发者笑疯了！ LLaMa惊天泄露引爆ChatGPT平替狂潮，开源LLM领域变天
来源: 新智源 微信号：AI-era Meta的LLaMA模型开源，让文本大模型迎来了Stable Diffustion时刻。谁都没想 谁能想到，一次意外的LLaMA泄漏，竟点燃了开源LLM领域最大的创新火花。 一系列表现出色的Chat...
-
AIGC（生成式AI）试用 15 -- 小结
断断续续的尝试在实际的工作使用中理解和测试AIGC，运用会越来越多、越来越广范，但也是时候做个小结了。 没有太用热火的ChatGPT，只是拿了日常最容易用到的CSDN创作助手（每周写文章总是看到）和文心一言（没了谷歌只能百度），毕竟天天工作...
-
「Animate Anyone」官网体验入口 AI动画角色软件app免费下载地址
Animate Anyone是一款利用扩散模型从静态图像生成角色视频的工具。该软件通过驱动信号将静态图像转换为动画，为角色动画提供了一个专门的新框架。那么，想要体验Animate Anyone吗？下面就给大家带来Animate Anyone官网体验入口和免...
-
开创全新通用3D大模型，VAST将3D生成带入「秒级」时代
生成式 AI 在3D 领域在很长一段时间内都在等待自己的「ChatGPT」时刻。 传统3D 建模涉及游戏、影视、建筑等多个行业，普遍依赖专业人员手动操作，生产周期短则几天，多则以月为单位，单个3D 模型的创建成本至少需要几千元。生成式 AI 技术在2D 图...
-
关于num_steps_all = len(train_loader) // configs.gradient_accumulation_steps * configs.epochs的理解，文心一言
当然可以，我会尽量用简单的语言来解释这行代码。 这行代码计算的是在整个训练过程中，模型参数会更新的总次数。 len(train_loader ：这表示你的训练数据被分成了多少份（或称为“批次”）。想象一下你有100张纸，每张纸上写了一些训练数据，那...
-
CVPR 2023 | 可控文生图/定制化文生图领域论文详解 AI作画增强版
可控文生图/定制化文生图 1、DreamBooth: Fine Tuning Text-to-Image Diffusion Models for Subject-Driven Generation DreamBooth是一种新的文本到图像扩散模型...
-
大语言模型训练数据常见的4种处理方法
本文分享自华为云社区《浅谈如何处理大语言模型训练数据之一常见的数据处理方法》，作者： 码上开花_Lancer。 大语言模型训练需要数万亿的各类型数据。如何构造海量“高质量”数据对于大语言模型的训练具有至关重要的作用。虽然，截止到2023 年9 月为止，还...
-
逆天！真实可控、可拓展，自动驾驶仿真平台LightSim上新
最近，来自 Waabi AI、多伦多大学、滑铁卢大学和麻省理工的研究者们在 NeurIPS 2023 上提出了一种全新的自动驾驶光照仿真平台 LightSim。研究者们提出了从真实数据中生成配对的光照训练数据的方法，解决了数据缺失和模型迁移损失的问题。L...
-
数据治理与大模型一体化实践
降本增效方面，以机器学习团队的构成为例，滴普科技Deepexi产品线总裁柏海峰介绍道：“传统机器学习或者说小模型的技术落地，对人才的要求很高，但企业往往没有意识到这个问题。具体来说，一般需要构建一个综合性的团队即数据科学团队，团队中需要数据开发工程师、...
-
用生物脑机制启发持续学习，让智能系统适者生存，清华朱军等团队研究登Nature子刊封面
在开放、高动态和演化环境中的学习能力是生物智能的核心要素之一，也是人类以及大多数动物在「适者生存」的自然选择过程中形成的重要优势。目前传统机器学习范式是在静态和封闭的数据集上学习到一个模型，并假设其应用环境和之前训练数据的属性相同，因而无法适应动态开放环...
-
Gemini自曝文心一言牵出重大难题，全球陷入高质量数据荒？2024年或将枯竭
谷歌Gemini，又出丑闻了！ 昨天上午，网友们激动地奔走相告：Gemini承认自己是用文心一言训练中文语料的。 国外大模型用中国模型产生的中文语料训练，这听起来就是个段子，结果段子竟然成现实了，简直魔幻。 微博大V「阑夕」夜亲自下场，在Poe网站上实...
-
大语言模型之四-LlaMA-2从模型到应用
最近开源大语言模型LlaMA-2火出圈，从huggingface的Open LLM Leaderboard开源大语言模型排行榜可以看到LlaMA-2还是非常有潜力的开源商用大语言模型之一，相比InstructGPT，LlaMA-2在数据质量、培训技术、能力...
-
最新GPT-4.5疑似泄露！更强多模态，支持3D，价格飙6倍
大家对于 OpenAI产品的关注讨论热度，似乎从没下来过。最近，网上更是传得沸沸扬扬：最新版本的GPT-4. 5 好像神不知鬼不觉偷偷上线了！ 根据Reddit网站OpenAI版块的爆料帖子， GPT-4. 5 被描述为“OpenAI 最先进的一款模型”，...
-
越来越像人类的AI，提前过起「圣诞节」
ChatGPT，居然会偷懒? 在许多文学作品的描述中，AI都是不知疲倦、不用休息，可以007工作的超级工具，而强大的人工智能甚至可以像人类一样自主思考、拥有情感。虽然目前的AI模型，还远不及科幻电影中的强人工智能，但是表现也远超以前的“人工智障”。 有意思...
-
AIGC参数量节节攀升，对存储带来的挑战如何解决？
引言 近期，AIGC 相关产品如同雨后春笋一般不断涌现。但在技术层面，大家普遍的关注点更多集中在性能方面，却经常忽略了存储对推理和训练效率的影响，以及 AIGC 内容可能带来的合规风险。我们特邀腾讯云存储的产品负责人 崔剑老师和益企研究院创始人、腾讯云 ...
-
什么是超级人工智能？
在不断发展的技术领域，一个概念的出现既令人着迷又令人担忧——超级人工智能（超级AI）。 本文旨在通过理解超级人工智能的起源、能力、道德考虑以及对社会的潜在影响，深入探讨超级人工智能的内涵。 人工智能的演变 要了解超级人工智能，必须追根溯源人工智能。传统...
-
ChatGPT构建离不开PyTorch，LeCun言论引热议，模型厂商不开放权重原来为此
这两天，有关开源的话题又火了起来。有人表示，「没有开源，AI 将一无所有，继续保持 AI 开放。」这个观点得到了很多人的赞同，其中包括图灵奖得主、Meta 首席科学家 Yann LeCun。 想象一下，如果工业界的 AI 研究实验室仍然封闭、没有开源代码...
-
基于 NNCF 和 Optimum 面向 Intel CPU 对 Stable Diffusion 优化
基于隐空间的扩散模型 (Latent Diffusion Model ，是解决文本到图片生成问题上的颠覆者。Stable Diffusion 是最著名的一例，广泛应用在商业和工业。Stable Diffusion 的想法简单且有效: 从噪声向量开始，多次去...
-
OpenAI 的超级对齐团队在做什么
今年11月17日，OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman 在首席科学家伊利亚·苏茨克韦尔 (Ilya Sutskever 的政变下被罢免，但三天后复职。不到一个月，OpenAI 宣布一切恢复正常，而这一切导火索是团队内部的有...
-
Gemini自曝中文用百度文心一言训练，网友看呆：大公司互薅羊毛？？
谷歌Gemini中文语料疑似来自文心一言??? 先是有读者向我们爆料: 在谷歌Vertex AI平台使用该模型进行中文对话时，Gemini-Pro直接表示自己是百度语言大模型。 很快，有微博大V@阑夕夜也发博称: 在Poe平台上对Gemini-Pro进行...
-
大语言模型微调数据竞赛，天翼云斩获冠军！
近日，天池FT-Data Ranker竞赛落下帷幕，天翼云智能边缘事业部AI团队（后称天翼云AI团队）凭借在大语言模型（LLM）训练数据增强方面的卓越研究，荣获大语言模型微调数据竞赛——7B模型赛道冠军。 FT-Data Ranker竞赛是一场面向大语...
-
字节自研大模型，却因用ChatGPT被封号惹争议？官方回应了
上周末，有外媒报道称，字节跳动在使用 OpenAI 技术开发自有大语言模型时，因违反 OpenAI 服务条款从而遭账号禁用。 据 The Verge 报道，字节跳动内部正在研发的大语言模型项目名为「种子计划」（Project Seed）。 由于训练大模型...
-
【LLM】大语言模型学习之LLAMA 2：Open Foundation and Fine-Tuned Chat Model
大语言模型学习之LLAMA 2：Open Foundation and Fine-Tuned Chat Model 快速了解 预训练 预训练模型评估 微调 有监督微调（SFT） 人...
-
突发！OpenAI封禁字节跳动账户！内部爆料滥用GPT生成内容
整理丨诺亚 外媒The Verge于北京时间今日凌晨报道，在生成式AI的疯狂竞赛中，字节跳动一直在秘密利用OpenAI的技术“走捷径”，直指字节跳动在中国使用GPT生成的数据来训练自己的大模型，违反了微软和OpenAI的开发者许可。不久后，OpenAI...
-
大模型那么火，教你一键Modelarts玩转开源LlaMA(羊驼)大模型
图1.1 GPT-2 模型结构 关于训练集，其来源都是公开数据集，无任何定制数据集，保证了其工作与开源兼容和可复现。整个训练数据集在 token 化之后大约包含 1.4T 的 token。其中，LLaMA-65B 和 LLaMA-33B 是在 1.4万亿...
-
字节跳动澄清“OpenAI服务被禁”: 未来几天将再次全面排查
近日，有外媒报道称，字节跳动在使用OpenAI技术开发自己的大语言模型，违反了OpenAI服务条款，导致被OpenAI封禁账户。 对此，字节跳动相关负责人对外界回应表示，公司在使用OpenAI相关服务时，强调要遵守其使用条款。 负责人介绍，今年年初，当技...
-
AIGC专题报告：ChatGPT纪要分享
今天分享的AIGC系列深度研究报告：《AIGC专题报告：ChatGPT纪要分享》。 （报告出品方：久谦中台） 报告共计：135页 OpenAI 高管解密 ChatGPT ¶ GPT-3 是一种大型语言模型，被训练用来在给定上下文中预测下...
-
尊嘟假嘟？2023年人工智能行业新诞生10家独角兽，AIGC竟占近一半
今年的 AIGC 持续热了一年，从王慧文等大佬的入局，到百度发布「文心一言」，各大巨头纷纷发布大模型产品，切实地给中国人工智能赛道的融资添了一把浓烈的火。 回顾这即将过去的一整年，虽然 2023 年投融资整体行业遇冷，各种坏消息不断，但总体而言，AI 行...
-
论文遭首届ICLR拒稿、代码被过度优化，word2vec作者Tomas Mikolov分享背后的故事
几天前，NeurIPS 2023 公布了获奖论文，其中时间检验奖颁给了十年前的 NeurIPS 论文「Distributed Representations of Words and Phrases and their Compositionality」...