-
一文深度剖析 ColBERT
近年来，向量搜索领域经历了爆炸性增长，尤其是在大型语言模型（LLMs）问世后。学术界开始重点关注如何通过扩展训练数据、采用先进的训练方法和新的架构等方法来增强 embedding 向量模型。 在之前的文章中，我们已经深入探讨了各种类型的 embeddin...
-
Hugging Face全攻略：轻松下载Llama 3模型，探索NLP的无限可能！【实操】
Hugging Face：自然语言处理的强大开源模型库 在数字化时代，自然语言处理（NLP）技术的崛起为人工智能的发展注入了新的活力。而Hugging Face，作为这一领域的佼佼者，凭借其强大的模型仓库、易用的API以及活跃的社区支持，成为无数NL...
-
LlamaFactory 进行大模型 llama3 微调，轻松上手体验学习
节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 汇总合集：《大模型面试宝典...
-
万字长文专访IEEE Fellow丛京生院士：意外结缘EDA领域，寻找半导体技术「拐点」
2023年9月，IEEE集成电路与系统杂志（IEEE Circuits and Systems Magazine）的总编辑陈怡然教授和副主编陈凡教授非常荣幸地采访了丛京生院士。 丛院士是世界电子设计自动化 (EDA 和高性能计算领域的杰出学者，本次采访...
-
单模型斩获「蛋白质突变预测」榜一！西湖大学提出基于结构词表方法 | ICLR 2024 Spotlight
蛋白质结构相比于序列往往被认为更加具有信息量，因为其直接决定了蛋白质的功能。 而随着AlphaFold2带来的巨大突破，大量的预测结构被发布出来供人研究使用，如何利用这些蛋白质结构来训练强大且通用的表征模型是一个值得研究的方向。 西湖大学的研究人员利用F...
-
大模型“价格战”开打，给刚入商业化“佳境”的智谱AI提出了新挑战
1块钱买100万个tokens，为跟上Open AI，这家公司先给自己打个“骨折价”。 1 一比一复刻Open AI AI大模型在商业化路途中还在摸索，便已开打“价格战”。 5月15日，字节跳动宣布，豆包通用模型pro在企业市场的定价为0.0008元/千T...
-
150B token从头训练，普林斯顿Meta发布完全可微MoE架构Lory
不同于大多数模型使用字母缩略起名，论文作者在脚注中解释道，Lory是一种羽毛有彩虹颜色的鹦鹉，和「软MoE」的精神非常相似。 论文的作者团队也可以称之为「明星阵容」。 论文地址：https://arxiv.org/abs/2405.03133 主要作者...
-
我们一起聊聊AI模型组合指南
实施需要周密的计划、资源管理以及采用现代部署实践和工具。 译自A Guide to Model Composition，作者 Sherlock Xu。 考虑一款旨在识别和分类野生动物照片的 AI 驱动的图像识别应用程序。您上传一张远足时拍摄的照片，几分钟...
-
路径规划概述：基于采样、搜索、优化全搞定！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 1 决策控制与运动规划概述 目前决策控制方法可以分为三类：sequential planning、behavior-aware planning、和end-to-end planning。 seq...
-
识别细胞也能用大模型了！清华系团队出品，已入选ICML 2024 | 开源
大模型带来的生命科学领域突破，刚刚再传新进展。 来自清华系，使用大模型实现了单细胞身份识别，同时模型LangCell也正式对外开源。 它不仅可以准确识别细胞身份，还具有很强的零样本分析能力，论文已被ICML 2024录⽤。 LangCell的数据集中包...
-
一文读懂主流领先的 SLM（小型语言模型）
Hello folks，我是 Luga，今天我们来聊一下人工智能(AI 生态领域相关的技术 - SLM(小型语言模型 。 在 AI 狂卷的浪潮中，LLM(大型语言模型 无疑成为了整个互联网乃至科技界的焦点所在。以 GPT-3、BERT 等为代表的 LL...
-
音乐人值得尝试的十大文本转音乐AI平台
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 从生成旋律到创作整首曲子，这些文本转音乐AI平台让我们得以一窥音乐创作的未来。 新时代的应用程序如雨后春笋般涌现，音乐领域的Sora时...
-
用AI陪玩家玩《我的世界》，华人AI创业者融资千万美金
近日，由华人 Robert Yang 创立的 AI 创企 Altera 推出了一个可以陪玩《Minecraft》的 AI Agent「Altera Bots」，并宣布完成900万美元种子轮融资，加上之前融到的200万美元，公司的融资额已经过了千万美金。 与...
-
LLM 评估新纪元：Arthur Bench 全方位解读
一、传统文本评估面临的挑战 近年来，随着大型语言模型（LLM）的快速发展和改进，传统的文本评估方法在某些方面可能已经不再适用。在文本评估领域，我们可能已经听说过一些方法，例如基于“单词出现”的评估方法，比如 BLEU，以及基于“预训练的自然语言处理模型”...
-
清华首个AI医院小镇来了！AI医生自进化击败人类专家，数天诊完1万名患者
斯坦福AI小镇曾火遍了全网，25个智能体生活交友，堪称现实版的「西部世界」。 而现在，AI「医院小镇」也来了！ 最近，来自清华团队的研究人员开发了一个名为「Agent Hospital」的模拟医院。 论文地址：https://arxiv.org/pdf...
-
算法在 58 画像平台建设中的应用
一、58 画像平台建设背景 首先和大家分享下 58 画像平台的建设背景。 1. 传统的画像平台 传统的思路来看，建设用户画像平台依赖数仓建模能力，整合多业务线数据，构建准确的用户画像；还需要数据挖掘，理解用户行为、兴趣和需求，提供算法侧的能力；最后，...
-
超强Siri即将到来！苹果10篇重磅AI研究全总结，iOS 18关键一瞥
【新智元导读】一直以来，苹果在大模型、语音助手上的研究不断推陈出新，或许我们能够从中获得iOS18所具备AI能力的关键一瞥。 「Siri太笨，根本无法与ChatGPT竞争」，前苹果工程师John Burkey曾对Siri的评价如此不堪。 不过，诞生于11年...
-
使用LLMLingua-2压缩GPT-4和Claude提示
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 缩短发送给大型语言模型(LLM 的提示的长度可以减少推理时间并降低成本。这是提示压缩成为LLM研究的一个热门领域的原因。 清华大学和微...
-
微调和量化竟会增加越狱风险！Mistral、Llama等无一幸免
大模型又又又被曝出安全问题！ 近日，来自Enkrypt AI的研究人员发表了令人震惊的研究成果：量化和微调竟然也能降低大模型的安全性！ 论文地址：https://arxiv.org/pdf/2404.04392.pdf 在作者的实际测试中，Mistra...
-
LeCun转发，AI让失语者重新说话！纽约大学发布全新「神经-语音」解码器
脑机接口（BCI）在科研和应用领域的进展在近期屡屡获得广泛的关注，大家通常都对脑机接口的应用前景有着广泛的畅享。 比如，由于神经系统的缺陷造成的失语症不仅严重阻碍患者的日常生活，还可能限制他们的职业发展和社交活动。随着深度学习和脑机接口技术的迅猛发展，...
-
LeCun哈佛演讲PPT放出：唱衰自回归LLM，指明下一代AI方向
机器如何能像人类和动物一样高效地学习？机器如何学习世界运作方式并获得常识？机器如何学习推理和规划…… 当一系列问题被提出时，有人回答自回归 LLM 足以胜任。 然而，知名 AI 学者、图灵奖得主 Yann LeCun 并不这么认为，他一直唱衰自回归 LL...
-
苹果 AI 计划曝光：更智能的 Siri 即将到来
苹果在人工智能领域看似起步较晚，但最近的传闻和报告表明，苹果一直在等待时机，准备迈出重要一步。 据报道，苹果正在与 OpenAI 和谷歌合作，同时也在研发自己的模型 Ajax 从苹果公布的 AI 研究来看，公司的 AI 战略逐渐清晰。近期有消息称，苹果计划...
-
低成本LLM应用开发利器——开源FrugalGPT框架
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 本文将详细介绍一个LLM驱动型应用程序的成本节约架构FrugalGPT。 大型语言模型为计算机科学开辟了一个新的前沿；然而，它们（截至...
-
Meta训AI，成本已超阿波罗登月！谷歌豪言投资超千亿美元，赛过OpenAI星际之门
【新智元导读】近日访谈中，LeCun亲口证实:Meta为购入英伟达GPU已经花费了300亿美元，成本超过阿波罗登月。相比之下，微软和OpenAI打造的星际之门耗资1000亿美元，谷歌DeepMind CEO Hassabis则放出豪言:谷歌投入的，比这个数...
-
微软高管嫉妒谷歌在人工智能领域的领先地位 投资 OpenAI 数十亿美元
在最新的反垄断案件中，微软高管对谷歌在人工智能领域的领先地位感到震惊和嫉妒。 据《商业内幕》报道，微软首席技术官凯文·斯科特在一封2019年的电子邮件中表达了对谷歌快速增长的人工智能能力的担忧。他特别提到了对谷歌的BERT-large模型以及Gmail自动...
-
小红书从记忆机制解读信息检索，提出新范式获得 EACL Oral
近日，来自小红书搜索算法团队的论文《Generative Dense Retrieval: Memory Can Be a Burden》被自然语言处理领域国际会议 EACL 2024 接收为 Oral，接受率为 11.32%（144/1271）。 他...
-
革新LLM微调之道：全方位解读PyTorch原生库torchtune的创新力量与应用价值
在人工智能领域，大语言模型（LLMs）正日益成为研究和应用的新热点。然而，如何高效、精准地对这些庞然大物进行调优，一直是业界和学术界面临的重要挑战。近期，PyTorch官方博客发布了一篇关于TorchTune的文章，引起了广泛关注。TorchTune作为...
-
自然语言处理(NLP)的工作原理
本文旨在揭开语言模型的神秘面纱，阐明其处理原始文本数据的基本概念和机制。它涵盖了几种类型的语言模型和大型语言模型，重点关注基于神经网络的模型。 语言模型定义 语言模型专注于生成类似人类的文本的能力。通用语言模型本质上是单词序列的统计模型或概率分布，用于...
-
新测试基准发布，最强开源Llama 3尴尬了
如果试题太简单，学霸和学渣都能考90分，拉不开差距…… 随着Claude 3、Llama 3甚至之后GPT-5等更强模型发布，业界急需一款更难、更有区分度的基准测试。 大模型竞技场背后组织LMSYS推出下一代基准测试Arena-Hard，引起广泛关注。...
-
时代2024最具影响力100人：黄仁勋、Bengio、纳德拉 、王传福等人入选
刚刚，《时代》周刊发布了 2024 年度最具影响力的 100 人名单。 在这份名单中，我们看到了很多熟悉的学者和企业家。 微软公司 CEO、董事长萨蒂亚・纳德拉，比亚迪创始人王传福，英伟达创始人兼首席执行官黄仁勋，图灵奖得主 Yoshua Bengio...
-
4000万蛋白结构训练，西湖大学开发基于结构词表的蛋白质通用大模型，已开源
蛋白质结构相比于序列往往被认为更加具有信息量，因为其直接决定了蛋白质的功能。而随着AlphaFold2带来的巨大突破，大量的预测结构被发布出来供人研究使用。如何利用这些蛋白质结构来训练强大且通用的表征模型是一个值得研究的方向。 西湖大学的研究人员利用Fo...
-
EMNLP 2023｜利用LLM合成数据训练模型有哪些坑？
大家好，我是HxShine 今天我们将介绍EMNLP2023的一篇大模型（LLMs）生成文本分类任务合成数据的文章，标题是《Synthetic Data Generation with Large Language Models for Text Cla...
-
你好，电动Atlas！波士顿动力机器人复活，180度诡异动作吓坏马斯克
波士顿动力Atlas，正式进入电动机器人时代！ 昨天，液压Atlas刚刚「含泪」退出历史舞台，今天波士顿动力就宣布：电动Atlas上岗。 看来，在商用人形机器人领域，波士顿动力是下定决心要和特斯拉硬刚一把了。 新视频放出后，短短十几小时内，就已经有一百...
-
波士顿动力革新其人形机器人Atlas，引入电动马达
波士顿动力公司表示，新的电动版本的Atlas在人形机器人领域代表了一次重大飞跃，其性能远超过液压前身。据称，这种新机器人具有更优越的力量和更广泛的运动范围，使其能够在各种行业中处理更复杂的任务。 例如，它采用了新的夹持技术，使其能够操纵比以前更重、形状...
-
波士顿动力新版人形机器人Atlas问世，纯电驱动
我们见证了新一代人形机器人 Atlas 的诞生。 新机器人的视频一出，我们立即理解了波士顿动力为何退役已开发十多年的旧版 Atlas—— 人形机器人，现在应该有的是超越人类的灵活性。 Atlas 机器人躺平在实验室的地板上，看起来是仰卧，但突然关节反转站...
-
RAG 2.0架构详解：构建端到端检索增强生成系统
关于检索增强生成（RAG）的文章已经有很多了，如果我们能创建出可训练的检索器，或者说整个RAG可以像微调大型语言模型（LLM）那样定制化的话，那肯定能够获得更好的结果。但是当前RAG的问题在于各个子模块之间并没有完全协调，就像一个缝合怪一样，虽然能够工作...
-
能对当今公司IT市场产生重大影响的六大趋势
“每个人都在谈论AI，”她说，并指出大多数公司已经将AI融入其业务中。“它已经被内置，或正在被内置进最大提供商的现有SaaS平台中。” 然而，随着AI的到来，也伴随着一定程度的恐惧和忧虑，Fox说。问题重重。“一个完全启用AI的公司会是什么样子?...
-
大模型的学习 LLaMa和ChatGLM，minichatgpt4
LLaMa和ChatGLM，minichatgpt4 什么情况用Bert模型，什么情况用LLaMA、ChatGLM类大模型，咋选？ 答：Bert 的模型由多层双向的Transformer编码器组成，由12层组成，768隐藏单元，12个head，总参数量...
-
使用BERT的LLM提取摘要
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 在当今快节奏的世界里，充斥着太多的信息，并且难以处理。人们越来越习惯于在更短的时间内接收更多的信息，当他们不得不阅读大量的文件或书籍时...
-
2024-03-26 AIGC-大模型学习路线
摘要: 2024-03-26 AIGC-大模型学习路线 大模型学习路线 建议先从主流的Llama开始，然后选用中文的Qwen/Baichuan/ChatGLM，先快速上手体验prompt工程，然后再学习其架构，跑微调脚本 如果要深入学习，建...
-
RAG 修炼手册｜一文讲透 RAG 背后的技术
在之前的文章中《RAG 修炼手册｜RAG敲响丧钟？大模型长上下文是否意味着向量检索不再重要》，我们已经介绍过 RAG 对于解决大模型幻觉问题的不可或缺性，也回顾了如何借助向量数据库提升 RAG 实战效果。 今天我们继续剖析 RAG，将为大家大家详细介绍...
-
五种常用于LLM的令牌遮蔽技术介绍以及Pytorch的实现
本文将介绍大语言模型中使用的不同令牌遮蔽技术，并比较它们的优点，以及使用Pytorch实现以了解它们的底层工作原理。 令牌掩码Token Masking是一种广泛应用于语言模型分类变体和生成模型训练的策略。BERT语言模型首先使用，并被用于许多变体(Ro...
-
AI 新技术 EVI:第一个能听懂人类语气的智能助手引发热议
最近，一款名为 EVI 的 AI 智能助手引发了轩然大波。EVI 不仅可以听懂用户说话的语气，还能为每个词增加意义，给出具有情感色彩的回应。 网友们纷纷表示，使用 EVI 时感觉在和真人交谈一般，甚至有人直呼惊讶。知名科技博主 Robert Scoble...
-
第一个能听懂人类语气的AI火了，网友：感觉在和真人交谈
第一个能听懂你说话的语气、有“情商”的AI火了！ 这个AI名为EVI（Empathic Voice Interface），它不仅能够能够理解用户的语气，还会为每个词增加意义。 对话中的每句话，它都能可视化含惊讶量、含悲伤量、含兴奋量…… 然后根据用户的声...
-
【AIGC】开源声音克隆GPT-SoVITS
GPT-SoVITS 是由 RVC 创始人 RVC-Boss 与 AI 声音转换技术专家 Rcell 共同开发的一款跨语言 TTS 克隆项目，被誉为“最强大中文声音克隆项目” 相比以往的声音克隆项目，GPT-SoVITS 对硬件配置的要求相对较低，一般只...
-
让视频姿态Transformer变得飞速，北大提出高效三维人体姿态估计框架HoT
目前，Video Pose Transformer（VPT）在基于视频的三维人体姿态估计领域取得了最领先的性能。近年来，这些 VPT 的计算量变得越来越大，这些巨大的计算量同时也限制了这个领域的进一步发展，对那些计算资源不足的研究者十分不友好。例如，训练...
-
谷歌狂喜：JAX性能超越Pytorch、TensorFlow！或成GPU推理训练最快选择
谷歌力推的JAX在最近的基准测试中性能已经超过Pytorch和TensorFlow，7项指标排名第一。 而且测试并不是在JAX性能表现最好的TPU上完成的。 虽然现在在开发者中，Pytorch依然比Tensorflow更受欢迎。 但未来，也许有更多...
-
大语言模型中常用的旋转位置编码RoPE详解：为什么它比绝对或相对位置编码更好?
自 2017 年发表“ Attention Is All You Need ”论文以来，Transformer 架构一直是自然语言处理 (NLP 领域的基石。它的设计多年来基本没有变化，随着旋转位置编码 (RoPE 的引入，2022年标志着该领域的...
-
【AIGC调研系列】AIGC企业级模型Command-R介绍
Command-R与其他大语言模型的主要区别在于其专为企业级应用设计，特别是在检索增强生成（RAG）和工具使用方面。Command-R是一个350亿参数的高性能生成模型，具有开放式权重，能够支持多种用例，包括推理、摘要和问答[2]。它特别针对大规模生产工作...
-
LLM性能最高60%提升！谷歌ICLR 2024力作：让大语言模型学会「图的语言」
在计算机科学领域，图形结构由节点（代表实体）和边（表示实体之间的关系）构成。 图无处不在。 互联网本身就像是一张庞大的网络图，甚至搜索引擎所使用的知识也是以图的形式进行组织和呈现。 但由于LLMs主要在常规文本上训练，并没有图的结构，将图转化为LLMs能...