-
人工智能和数据中心：为什么人工智能如此需要资源
到2023年底，对生成式人工智能将需要多少能源的任何预测都是不准确的。例如，头条新闻倾向于猜测“人工智能需要5倍、10倍、30倍的电力”和“足够运行10万户家庭的电力”等。与此同时，数据中心新闻等专业出版物的报道称，每机架的功率密度将上升到50kW或1...
-
NUS尤洋团队开发扩散模型p-diff 像Sora一样直接打入AI底层
新加坡国立大学尤洋教授团队联合其他机构开发的p-diff扩散模型在AI领域引起热议。这项模型能以44倍的速度生成神经网络参数，得到了深度学习领域的重要人物LeCun的点赞。该模型的研发结合了自编码器的设计，通过正向和反向过程学习参数的分布，生成高质量的神经...
-
出门问问开放大模型“序列猴子”开源数据集
出门问问宣布，将向公众开放其超大规模语言模型“序列猴子”的部分训练数据集，命名为“序列猴子开源数据集1.0”。 序列猴子，作为出门问问的核心技术之一，具备强大的通用表示与推理能力，已在问答系统、自然语言处理、机器翻译、文本摘要等多个领域展现出其卓越的性能，...
-
打入AI底层！NUS尤洋团队用扩散模型构建神经网络参数，LeCun点赞
扩散模型，迎来了一项重大新应用—— 像Sora生成视频一样，给神经网络生成参数，直接打入了AI的底层！ 这就是新加坡国立大学尤洋教授团队联合UCB、Meta AI实验室等机构最新开源的研究成果。 具体来说，研究团队提出了一种用于生成神经网络参数的扩散模...
-
人工智能、机器学习、深度学习，到底是个啥？
说到近些年的火热名词，“人工智能”必须榜上有名。随着去年ChatGPT爆火出圈，“AI（Artificial Intelligence，人工智能）”屡次霸屏热搜榜，并被英国词典出版商柯林斯评为2023年的年度词。 除了“人工智能”，我们还经常听到“机器学...
-
谷歌AI视频再出王炸！全能通用视觉编码器VideoPrism，性能刷新30项SOTA
AI视频模型Sora爆火之后，Meta、谷歌等大厂纷纷下场做研究，追赶OpenAI的步伐。 最近，来自谷歌团队的研究人员提出了一种通用视频编码器——VideoPrism。 它能够通过单一冻结模型，处理各种视频理解任务。 图片 论文地址：https://a...
-
补齐Transformer规划短板，田渊栋团队的Searchformer火了
最近几年，基于 Transformer 的架构在多种任务上都表现卓越，吸引了世界的瞩目。使用这类架构搭配大量数据，得到的大型语言模型（LLM）等模型可以很好地泛化用于真实世界用例。 尽管有如此成功，但基于 Transformer 的架构和 LLM 依然难...
-
GPT-4正接管人类数据专家！先验知识让LLM大胆预测，准确率堪比传统方式
在数据科学中，AI研究员经常面临处理不完整数据集的挑战。 然而，许多已有的算法根本无法处理「不完整」的数据序列。 传统上，数据科学家会求助于专家，利用他们的专业知识来填补空白，然而这一过程既耗时，却又不实用。 如果AI可以接管专家的角色，又会如何呢？ 近...
-
谷歌Gemini生图功能紧急关闭，口碑一夜塌房，Yann LeCun：我早就知道
去年年底，谷歌 Gemini 震撼了业界，它是谷歌「最大、最有能力和最通用」的 AI 系统，号称第一个原生多模态大模型，能力超越 GPT-4，也被认为是谷歌反击微软和 OpenAI 的强大工具。 对此，在 2 月 8 日，谷歌还把自家对标 ChatGPT...
-
AI写作工具的深度探索：揭秘疑似度之谜
大家好，今天来聊聊AI写作工具的深度探索：揭秘疑似度之谜，希望能给大家提供一点参考。 以下是针对论文重复率高的情况，提供一些修改建议和技巧，可以借助此类工具： 标题：AI写作工具的深度探索：揭秘疑似度之谜 在数字化时代的浪潮中，AI写作工具逐渐成...
-
AIGC基础：大型语言模型 (LLM) 为什么使用向量数据库，嵌入(Embeddings)又是什么？
嵌入： 它是指什么？嵌入是将数据（例如文本、图像或代码）转换为高维向量的数值表示。这些向量捕捉了数据点之间的语义含义和关系。可以将其理解为将复杂数据翻译成 LLM 可以理解的语言。 为什么有用？原始数据之间的相似性反映在高维空间中对应向量之间的距离上。...
-
OpenAI推出文本到视频AI生成器Sora
OpenAI推出了Sora，加入了文本到视频的人工智能内容生成竞赛。Sora可以根据用户的提示生成长达一分钟的视频。 该公司展示了几段用Sora制作的令人印象深刻的视频，包括一名女子走在东京的街道上，以及淘金热时代加利福尼亚的历史镜头。 目前推出的是面...
-
EgoGen官网体验入口 微软AI合成数据生成自我感知工具使用指南
EgoGen是一个用于生成以自我为中心的合成数据的系统，它能够模拟头戴设备（HMDs）的相机装置，并从相机佩戴者的视角渲染多种传感器数据。该系统提供了丰富的多模态数据和准确的注释，适用于自我感知任务。 点击前往EgoGen官网体验入口 谁可以从EgoGe...
-
Stable Diffusion原理详解
Stable Diffusion原理详解 最近AI图像生成异常火爆，听说鹅厂都开始用AI图像生成做前期设定了，小厂更是直接用AI替代了原画师的岗位。这一张张丰富细腻、风格各异、以假乱真的AI生成图像，背后离不开Stable Diffusion算法。 S...
-
AIGC内容分享(五十九)：拐点时刻？AIGC时代的新闻业
目录 前言 大洗牌：新闻业的三重变革 涌现：AIGC正掀起一场 “供给侧改革”之外： 达克摩斯之剑： AIGC时代 结语： 前言 一阵生成式人工智能(AIGC 的旋风，正在席卷众多领域。 2022年底，OpenAI发布自然语言对话...
-
Llama 2论文详解
摘要 Llama 2是一组经过预训练和微调的大语言模型，参数规模从70亿到700亿不等，其中，Llama 2-Chat是针对对话用例进行优化的微调模型。在大多数基准测试中优于开源chat模型，在人类评估中表现出色，特别是在有用性和安全性方面。因此，Lla...
-
使用Stable Diffusion完成绘图
2.2 使用Stable Diffusion完成绘图 Stable diffusion 由于其开源特性，发展极为迅猛，可以说很多效果超过了 Midjourney 也完全不过分，知识系统十分庞杂，他是有两个公司运营研发，WebUI和sd的ckpt文件都...
-
模型融合、混合专家、更小的LLM，几篇论文看懂2024年LLM发展方向
在过去的 2023 年中，大型语言模型（LLM）在潜力和复杂性方面都获得了飞速的发展。展望 2024 年的开源和研究进展，似乎我们即将进入一个可喜的新阶段：在不增大模型规模的前提下让模型变得更好，甚至让模型变得更小。 现在，2024 年的第一个月已经过去...
-
LLaMA 2 和 QianWen-14B
阿里云通义千问14B模型开源！性能超越Llama2等同等尺寸模型 - 科技新闻 - EDA365电子论坛网 LLaMA 2 的硬件要求： LLaMA 2 系列模型有不同的参数量版本，如7B、13B和70B等。对于不同大小的模型，其硬件需求也有所不同。以...
-
网络安全中的机器学习：挑战与比较
在数字互联时代，机器学习(ML 在网络安全防御中的作用已变得不可或缺。机器学习算法能够识别大量数据集中的模式和异常，为预防和减轻网络威胁提供了一条有前景的途径。然而，在乐观的情绪中，也存在着许多必须解决的挑战，才能在网络安全领域有效地利用机器学习。...
-
全球最强开源大模型一夜易主！谷歌Gemma 7B碾压Llama 2 13B，重燃开源之战
一声炸雷深夜炸响，谷歌居然也开源LLM了？！ 这次，重磅开源的Gemma有2B和7B两种规模，并且采用了与Gemini相同的研究和技术构建。 有了Gemini同源技术的加持，Gemma不仅在相同的规模下实现SOTA的性能。 而且更令人印象深刻的是，还...
-
爆火Sora的背后 | 聊聊什么是world models！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 随着媒体狂炒Sora，OpenAI的介绍材料中称Sora是 “world simulator”，世界模型这个词又进入视野，但很少有文章来介绍世界模型。这里回顾一下什么是世界模型，以及讨论Sora是不是...
-
【AIGC】警惕大模型的原创性稀释
目录 一、学习素材重复引用的隐患 二、涉及到的问题 三、缓解的办法 四、进一步的技术干预 味同嚼蜡。 如果大模型的学习素材，反复被使用，拉出来又吃回去，如此往复，会怎么样？ 我在前面已经讨论过了，有大模型A接了大模型B，来训练自己的数据...
-
论文aigc总体疑似度多少正常
在学术研究领域，论文的真实性和原创性始终受到高度关注。其中，AIGC（Artificial Intelligence Generated Content，人工智能生成内容）的疑似度评估尤为重要。那么，论文AIGC的疑似度多少才算是正常呢？本文将从七个方面进...
-
第三章：AIGC框架和应用场景
1.背景介绍 人工智能(AI 和机器学习(ML 技术在过去几年中取得了显著的进展，为许多领域带来了革命性的改变。自动化图像生成(AIGC 是一种使用AI和ML技术自动生成高质量图像的方法。AIGC框架可以应用于许多场景，例如生成艺术作品、设计、广...
-
生成式AI智能体之间的秘密串通：一场隐藏的危机，你准备好了吗？
大型语言模型（LLM）的能力增强，开辟了一组通信生成AI智能体解决联合任务的应用程序。这对未经授权的信息共享或其他不必要的智能体协调形式带来了隐私和安全挑战。现代隐写技术可能会使这种动态难以检测。通过借鉴人工智能和安全文献中的相关概念，全面正式化了生成人...
-
大语言模型之LlaMA系列-LlaMA 2及LlaMA_chat(下)
多转一致性的系统消息 - System Message for Multi-Turn Consistency 在对话设置中，某些指示应适用于所有对话轮次。 例如，简洁地响应，或"充当"某个公众人物。当我们向Llama 2-Chat提供此类指示时，后...
-
都在搞端到端，试问端到端自动驾驶的基石到底是什么？
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 基础模型的出现彻底改变了自然语言处理和计算机视觉领域，为其在自动驾驶（AD）中的应用铺平了道路。这项调查对40多篇研究论文进行了全面回顾，展示了基础模型在增强AD中的...
-
使用AIGC技术提高AI系统效率
1.背景介绍 在AI领域，提高系统效率是一个重要的目标。一种有效的方法是使用人工智能生成(AIGC 技术。在本文中，我们将探讨AIGC技术的背景、核心概念、算法原理、最佳实践、应用场景、工具和资源推荐，以及未来发展趋势和挑战。 1. 背景介绍...
-
Karpathy新视频又火了：从头构建GPT Tokenizer
技术大神卡帕西离职OpenAI以后，营业可谓相当积极啊。 这不，前脚新项目刚上线，后脚全新的教学视频又给大伙整出来了： 这次，是手把手教咱构建一个GPT Tokenizer（分词器），还是熟悉的时长（足足2小时13分钟）。 Ps. 上次讲课还是俩月前的...
-
被字节辟谣的中文版Sora，究竟厉害在哪里？
撰稿 | 云昭 出品 | 51CTO技术栈（微信号：blog51cto） 近日，市场有消息称，在Sora引爆文生视频赛道之前，国内的字节跳动也推出了一款新型视频模型Boximator，与Gen-2、Pink1.0等既有模型相比，Boximator的独特...
-
详解面向 Java 开发人员的机器学习案例
译者 | 陈峻 审校 | 重楼 自去年以来，诸如ChatGPT 和 Bard之类的大语言模型已将机器学习提升到了一种现象级的地位。开发人员使用它们在辅助编程方面不断探索了从图像生成到疾病检测等领域的应用案例。 鉴于全球各大科技公司都在加大针对机器学习的...
-
【AIGC】大语言模型
大型语言模型，也叫大语言模型、大模型（Large Language Model，LLM；Large Language Models，LLMs） 什么是大型语言模型 大型语言模型（LLM）是指具有数千亿（甚至更多）参数的语言模型，它们是通过在大规模文本数...
-
为什么人工智能应该开源？
在当今快速发展的数字时代，人工智能几乎处于所有行业革命性创新的前沿。从医疗保健、教育到娱乐，人工智能的变革性影响是显而易见的。 什么是开源人工智能? 开源人工智能是人工智能软件和工具，其源代码开放并向公众开放。开发人员、研究人员和其他感兴趣的各方可以访...
-
超四分之一企业禁止员工使用生成式人工智能
根据思科2024年数据隐私基准研究，超过四分之一(27% 的组织出于隐私和数据安全风险的考虑，暂时禁止在员工中使用生成式人工智能。 大多数组织还对此类工具实施了控制。近三分之二(63% 的受访者对可以输入的数据进行了限制，61%的受访者对员工可以使用哪...
-
大模型幻觉的起因、评估及落地场景下基于知识图谱的缓解策略探索
针对大模型落地应用的问题，当前行业内普遍的做法是利用大模型进行问答，但在实际应用中，这种方法往往效果不佳，很多问题的答案并不具有实际参考价值。作为算法人员，我们需要深入了解问题的来源，对于大模型产生的幻觉问题，我们需要明确其定义，是主观的还是客观的，并探...
-
Sora不懂物理世界，翻车神图全网爆笑！LeCun马斯克DeepMind大佬激辩世界模型
大火的Sora，让许多动画、影视行业的人大为恐慌。 不过，今天网上广为流传的这张图，让大家倒是放心了不少。 可以看到，在这个视频中，玻璃杯碎裂的方式十分诡异—— 它被抬到半空中时，桌子上就忽然出现了一滩平整的红色玻璃，随后玻璃杯被摔到桌子上，和这滩玻璃融...
-
RNN模型挑战Transformer霸权！1%成本性能比肩Mistral-7B，支持100+种语言全球最多
在大模型内卷的同时，Transformer的地位也接连受到挑战。 近日，RWKV发布了Eagle 7B模型，基于最新的RWKV-v5架构。 Eagle 7B在多语言基准测试中，击败了所有的同级别模型，在单独的英语测试中，也和表现最好的模型基本打平。 同时...
-
AIGC专题：AIGC产业链近况更新
今天分享的是AIGC系列深度研究报告：《AIGC专题：AIGC产业链近况更新》。 （报告出品方：国联证券） 报告共计：19页 AIGC 正反馈持续加强 依托于强大的算力基础设施和海量的通用数据，经过训练和不断调优打造出了 AIGC 大模型，到中...
-
美国商标局确认：OpenAI 无法申请 “GPT” 商标
OpenAI 是一家开发 AI 工具和聊天机器人的公司，但其 ChatGPT 制作者可能无法拥有该技术的商标。美国专利商标局（PTO）拒绝让由 Sam Altman 领导的 OpenAI 公司注册 GPT(生成式预训练转换器 作为商标的申请。 该公司在与...
-
马斯克：特斯拉早已掌握视频生成技术 更胜过OpenAI
快科技2月19日消息，据媒体报道，OpenAI发布的首个文生视频模型Sora最近热度十分高，用户通过一句话，就能生成长达1分钟的高清视频。 特斯拉CEO埃隆马斯克在社交媒体平台X上发帖，吹捧了自家模拟现实和视频生成技术是最好的”。 马斯克称，特斯拉在一年前...
-
Nomic AI 发布首个完全开源的长文本嵌入模型，超越 OpenAI Ada-002在各项基准测试中的表现
在自然语言处理（NLP）领域不断发展的背景下，理解和处理广泛的文本内容至关重要。最近的一些进展显著提升了语言模型的能力，特别是通过文本嵌入的发展。这些嵌入成为许多应用的基础，包括大型语言模型(LLMs 的检索增强生成和语义搜索。它们将句子或文档转换为低维向...
-
使用LlamaIndex和ChatGPT的无代码检索增强生成（RAG）
检索增强生成(RAG 是使用大型语言模型(LLM 的关键工具。RAG使LLM能够将外部文档合并到它们的响应中，从而更紧密地与用户需求保持一致。这个功能在传统上使用LLM犹豫不决的领域尤其有益，尤其是在事实很重要的时候。 自从ChatGPT和类似的LLM推...
-
训不动Mixtral，要不试试LLaMA-MoE？
深度学习自然语言处理 原创作者：cola 随着各种各样增强版LLaMA的出现，Mixture-of-Expert(MoE 类模型越来越受大家关注。而LLaMA-MoE正是基于LLaMA系列和SlimPajama的MoE模型。它显著的一个好处...
-
近期关于AIGC方面的学习笔记和思路整理
LLM 对于LLM，我现在重点关注在这几个方面： 开源且可私有化部署的代码生成模型： 因为大部分软件企业对于安全都很重视，文档、数据、代码一般都会尽量避免被泄露。所以很难使用类似Copilot或者OpenAI的Bito这种需要连到互联网上的服务。如果...
-
Copilot vs. ChatGPT: 探秘数字助手的神奇世界
欢迎来到这场Copilot和ChatGPT的奇妙对比之旅！在数字化的世界中，程序员和普通用户都受益于这两位强大的数字助手。本文将深入挖掘Copilot和ChatGPT的不同之处，解开它们神奇的工作原理，以及如何在工作和学习中最好地利用它们。 Copil...
-
Stable Diffusion原理详解（附代码实现）
一、前言 回顾AI绘画的历史，GAN（Generative Adversarial Nets）是比较出众的一个。GAN的出现让AI绘画成为可能，当时GAN给AI绘画提供了一种新的思路，现在回顾当时的绘画可以算是相当粗糙。 gan-results....
-
一图揽尽全球LLM崛起之路；LLM概念速查清单；DALL·E提示词红宝书·在线版；fast.ai新课带你从零实现Stable Diffusion | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? LLM 崛起之路：全球大语言模型「规模增长」可视化交互图 https://informationisbeautiful.net/visual...
-
如何使用TensorFlow和Cleanvision检测大堡礁的海星威胁？
澳大利亚的大堡礁美不胜收，是全球最大的珊瑚礁，也是多种多样的海洋生物栖息的家园。不幸的是，珊瑚礁面临蚕食珊瑚的棘冠海星（COTS）的威胁。为了控制COTS爆发，珊瑚礁管理人员使用一种名为Manta Tow勘查的方法，将潜水员拖在船后，目测评估珊瑚礁的各...
-
什么是预训练Pre-training—— AIGC必备知识点，您get了吗？
Look！?我们的大模型商业化落地产品 ?更多AI资讯请??关注 Free三天集训营助教在线为您火热答疑??? 随着人工智能(AI 不断重塑我们的世界，其发展的一个关键方面已经成为现代机器学习模型的支柱:预训练。在本篇文章中，我们将探讨预训练的概...