-
LLM 安全 | 大语言模型应用安全入门
一、背景 2023年以来，LLM 变成了相当炙手可热的话题，以 ChatGPT 为代表的 LLM 的出现，让人们看到了无限的可能性。ChatGPT能写作，能翻译，能创作诗歌和故事，甚至能一定程度上做一些高度专业化的工作，比如法律服务和医疗诊断咨询。...
-
颜水成挂帅，奠定「通用视觉多模态大模型」终极形态！一统理解/生成/分割/编辑
近日，颜水成教授团队联合发布并开源了Vitron通用像素级视觉多模态大语言模型。 项...
-
国产大模型卷翻机器人！这些火遍全网的机器人，都装上了星火「大脑」
【新智元导读】大模型这把火点燃了整个机器人行业的热情。纵观全世界，过去几个月，国内外大模型大厂和机器人初创公司的合作也是动作不断。看来，机器人的元年真的来了! 大模型，已然卷入机器人领域。 3月初，初创公司Figure发布了首个由OpenAI大模型加持的人...
-
苹果卷开源大模型，公开代码、权重、数据集、训练全过程，OpenELM亮相
要说 ChatGPT 拉开了大模型竞赛的序幕，那么 Meta 开源 Llama 系列模型则掀起了开源领域的热潮。在这当中，苹果似乎掀起的水花不是很大。 不过，苹果最新放出的论文，我们看到其在开源领域做出的贡献。 近日，苹果发布了 OpenELM，共四种变...
-
AI信任危机之后，揭秘预训练如何塑造机器的「可信灵魂」
图表 1: 大模型的通用训练流程 [1] 在人工智能的前沿领域，大语言模型（Large Language Models，LLMs）由于其强大的能力正吸引着全球研究者的目光。在 LLMs 的研发流程中，预训练阶段占据着举足轻重的地位，它不仅消耗了大量的计...
-
这就是OpenAI神秘的Q*？斯坦福：语言模型就是Q函数
还记得去年 11 月底爆出来的 Q* 项目吗？这是传说中 OpenAI 正在秘密开展、或将带来颠覆性变革的 AI 项目。如果你想回忆一下，可参看机器之心当时的报道《全网大讨论：引爆 OpenAI 全员乱斗的 Q * 到底是什么？》简而言之，Q* 很可能是...
-
一文读懂 LLM 的构建模块：向量、令牌和嵌入
在当今信息爆炸的时代，我们不断面临着海量文本数据的挑战。为了有效地处理和理解这些数据，自然语言处理（NLP）领域的研究者们一直在不断探索和创新。而其中一个重要的研究方向就是语言模型（Language Model）。 在这篇文章中，我们将一起探索和理解...
-
微软3.8B模型媲美GPT-3.5！小到用iPhone就能跑起来，网友：Good data is all you need!
撰文、整理 | 伊风 出品 | 51CTO技术栈（微信号：blog51cto） 这周，“小模型”之战打得可谓精彩非凡，让人目不暇接。前脚，小扎刚在采访中自豪地宣布Llama3 80亿模型几乎与此前Llama2 700亿模型的性能差不多...
-
OpenAI陷巨大算力荒，国内大厂抢先破局！打破单芯片限制，算力效率提升33%
国内AI不行，是因为芯片不行？ 我们跟国外的差距，是因为和英伟达芯片的差距过大？ 最近，圈内有许多这样的论调。 其实深挖下去，就会发现事实完全不是这样。即使是英伟达最先进的芯片，依然无法满足当下人工智能在算力上的需求。 随着模型参数量和数据量的增加，智慧...
-
研究显示，GPT-4可以自主利用安全漏洞，具备攻击性
每周至少有一次，生成式人工智能都会给我们带来新的恐惧。虽然我们仍在焦急地等待 OpenAI 发布的下一个大型语言模型，但与此同时，GPT-4似乎比你想象的更具备能力。最近的一项研究表明，研究人员展示了 GPT-4可以在没有人类干预的情况下利用网络安全漏洞。...
-
云端部署大模型的三个秘密
编译 | 星璇 出品 | 51CTO技术栈（微信号：blog51cto） 在过去的两年里，我更多地参与了使用大型语言模型（LLMs）的生成式AI项目，而非传统的系统。我开始怀念无服务器云计算。它们的应用范围广泛，从增强对话式AI到为各行各业提供复杂的分...
-
2024年8个AI商业趋势 最先进的AI模型变得越来越昂贵
斯坦福大学人类中心人工智能研究所发布的2024年人工智能指数，报告揭示了人工智能在商业领域的八大趋势，涵盖了人类优势、成本、监管、投资增长、工作效率提升等方面的关键问题，为企业和决策者提供了重要的参考和启示。 1. 人类在许多任务上仍然优于人工智能 研究表...
-
防止AI系统受到提示注入攻击的五个方法
译者 | 布加迪 审校 | 重楼 提示注入攻击是一种网络安全威胁，专门针对基于人工智能（AI）的系统，包括聊天机器人、虚拟助理及其他基于AI的界面。当攻击者以某种方式操纵AI模型的输入，导致模型执行意外操作或泄露敏感信息时，就会发生这类攻击。这种操纵可以...
-
OpenAI针对API客户引入更多企业级AI功能，与Meta的Llama 3竞争
尽管Meta的新型Llama3迅速成为使用最广泛和定制程度最高的巨型语言模型（LLMs）排行榜榜首，但率先开启生成式人工智能时代的竞争对手OpenAI却通过为其GPT-4Turbo LLM和其他模型之上构建和编程引入新的企业级功能来摆脱竞争。 OpenA...
-
开箱黑盒LLM！谷歌大一统框架Patchscopes实战教程来了
虽然大型语言模型（LLM）在各种常见的自然语言处理任务中展现出了优异的性能，但随之而来的幻觉，也揭示了模型在真实性和透明度上仍然存在问题。 在模型生成错误回复内容时，如果能够「深入理解其背后运行机制」，或许可以解决模型的幻觉问题。 然而，随着深度神经网络...
-
加州理工华人用AI颠覆数学证明！提速5倍震惊陶哲轩，80%数学步骤全自动化
Lean Copilot，让陶哲轩等众多数学家赞不绝口的这个形式化数学工具，又有超强进化了？ 就在刚刚，加州理工教授Anima Anandkumar宣布，团队发布了Lean Copilot论文的扩展版本，并且更新了代码库。 图片 论文地址：https:/...
-
开源模型打败GPT-4！LLM竞技场最新战报，Cohere Command R+上线
GPT-4又又又被超越了！ 近日，LLM竞技场更新了战报，人们震惊地发现：居然有一个开源模型干掉了GPT-4！ 这就是Cohere在一周多前才发布的Command R+。 排行榜地址：https://huggingface.co/spaces/lmsy...
-
集体智慧：LLM预测能力与人群可相互媲美
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 现在，AI系统的预测准确率达到甚至超过了人群。 在不断发展的人工智能（AI）领域，语言模型已取得了重大进展，实现了曾经被认为人类认知...
-
2024年人工智能将如何改变安全格局
了解攻击者和防御者之间不断变化的动态的方法之一是通过外部因素的视角。在进行此类分析时，我们通常将主要因素缩写为“PESTLE”，这是政治、经济、社会、技术、法律和环境力量的首字母缩写词。毫无疑问，我们看到在网络威胁领域引起最大波澜的技术因素是人工智能的...
-
采用OpenAI还是DIY?揭开自托管大型语言模型的真实成本
你自豪地将你的服务标榜为“AI驱动”，通过整合大型语言模型。你的网站首页自豪地展示了你的AI驱动服务带来的革命性影响，通过互动演示和案例研究，这也是你的公司在全球GenAI领域留下的第一个印记。 你的小而忠实的用户基础正在享受提升后的客户体验，并且你可...
-
揭开大型语言模型(LLM)的力量：初创企业如何通过精简集成彻底改变运营方式
大型语言模型(LLM 已成为各种规模企业的游戏规则改变者，但它们对初创企业的影响尤其具有变革性。为了理解其中的原因，让我们来看看初创企业相对于老牌企业有哪些优势，以及为什么AI是它们的重要推动力。 初创企业往往面临预算有限、时间紧迫的局面，即便它们争夺...
-
五种搭建LLM服务的方法和代码示例
在不断发展的大型语言模型（LLMs）领域中，用于支持这些模型的工具和技术正以与模型本身一样快的速度进步。在这篇文章中，我们将总结5种搭建开源大语言模型服务的方法，每种都附带详细的操作步骤，以及各自的优缺点。 1、Anaconda + CPU 我们首先介...
-
Linux之父讽刺AI炒作：很搞笑，大概我也会被大模型取代
几天前，由 Linux 基金会主办的北美开源峰会（Open Source Summit North America）在华盛顿西雅图闭幕。 会上，Linux 之父 Linus Torvalds 与其好友、Verizon 开源项目办公室负责人 Dirk Ho...
-
英特尔构建全球最大的神经形态系统，以促进更可持续的AI
英特尔宣布，已经建造了世界上最大的神经形态系统，代号为Hala Point，这一大规模神经形态系统最初部署在桑迪亚国家实验室，采用英特尔的Loihi 2处理器，旨在支持未来以大脑启发的AI研究，并解决当前AI在效率和可持续性方面的挑战。Hala Po...
-
小即是大？HuggingFace CEO预测小模型元年将至，将成为AI的下一个“大事件”
编译 | 伊风 出品 | 51CTO技术栈（微信号：blog51cto） 在人工智能领域的竞争中，科技巨头们一直在竞相构建越来越大的语言模型。Scaling Law 信仰随着模型规模的增加，其性能会指数提升，展现出更好的泛化能力，甚至在某些情况下展现出“...
-
EMNLP 2023｜利用LLM合成数据训练模型有哪些坑？
大家好，我是HxShine 今天我们将介绍EMNLP2023的一篇大模型（LLMs）生成文本分类任务合成数据的文章，标题是《Synthetic Data Generation with Large Language Models for Text Cla...
-
Mixtral：数据流中的生成式稀疏专家混合模型
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ Cloudera公司数据流首席工程师Tim Spann 表示，Mixtral-8x7B大型语言模型(LLM 是一个预先训练的生成式稀疏...
-
让玩家全程掌控游戏：自然语言指令驱动的游戏引擎到来了
对于每一位热爱打游戏的人而言，都曾经想过这样一个问题，「这游戏要是我来做就好了！」 可惜的是，游戏开发有很高的门槛，需要专业的编程技巧。 近日，来自上海交大的团队开展了一个名为「Instruction-Driven Game Engine, IDGE」的...
-
综述！深度模型融合（LLM/基础模型/联邦学习/微调等）
23年9月国防科大、京东和北理工的论文“Deep Model Fusion: A Survey”。 深度模型融合/合并是一种新兴技术，它将多个深度学习模型的参数或预测合并为一个模型。它结合了不同模型的能力来弥补单个模型的偏差和错误，以获得更好的性能。然而...
-
开源模型打败GPT-4！LLM竞技场最新战报，Cohere Command R+上线
GPT-4又又又被超越了! 近日，LLM竞技场更新了战报，人们震惊地发现:居然有一个开源模型干掉了GPT-4! 这就是Cohere在一周多前才发布的Command R+。 排行榜地址:https://huggingface.co/spaces/lmsys...
-
再见，AI意识先驱：Daniel Dennett
认知科学和哲学的巨人、塔夫茨大学名誉教授丹尼尔·丹尼特（Daniel Dennett）逝世了，享年82岁。 丹尼特在哲学领域做出了重大的贡献，被称为“进化论四骑士”之一，是近二十年来西方新无神论运动的领军人物。 他的巨作《意识的解释》被认为是心智哲学甚至当...
-
从文字模型到世界模型！Meta新研究让AI Agent理解物理世界
LLM已经可以理解文本和图片了，也能够根据它们的历史知识回答各种问题，但它们或许对周围世界当前发生的事情一无所知。 现在LLMs也开始逐步学习理解3D物理空间，通过增强LLMs的「看到」世界的能力，人们可以开发新的应用，在更多场景去获取LLMs的帮助。...
-
这款Linux发行版发起AI禁令！生成代码质量堪忧！阿里也被大模型幻觉愚弄了！网友：人比生产力更重要！
撰稿 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） Gentoo Linux是一套通用的、快捷的、完全免费的Linux发行版，因出色的包管理系统Portage而被开发人员广为喜爱。最近，GentooLinux社区宣布：发行版将不再允...
-
五个简单好用的本地运行大模型的方法
出品 | 51CTO技术栈（微信号：blog51cto） 像ChatGPT、Claude.ai和phind这样的聊天机器人非常有用，但可能并不总是希望的问题或敏感数据由外部应用程序处理。在平台上尤其如此，在这些平台上，你的互动可能会被人类审查，并以其他方...
-
影子人工智能：对企业采用生成式人工智能的隐藏威胁
生成式人工智能(GenAI 技术，尤其是像OpenAI的GPT-4这样的大型语言模型，不断引起渴望获得竞争优势的企业的兴趣。许多企业认识到这些技术的潜力，以彻底改变其运营的各个方面。然而，尽管人们的兴趣日益浓厚，但在企业内部采用生成式人工智能方面存在明...
-
以自组织映射算法促进高效的LLM检索增强生成
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 背景 当今社会，人们使用大量数据训练包含数百万和数十亿模型参数的大型语言模型（LLM），目标是生成文本，如文本完成、文本摘要、语言翻译...
-
国内百模谁第一？清华14大LLM最新评测报告出炉，GLM-4、文心4.0站在第一梯队
在2023年的「百模大战」中，众多实践者推出了各类模型，这些模型有的是原创的，有的是针对开源模型进行微调的；有些是通用的，有些则是行业特定的。如何能合理地评价这些模型的能力，成为关键问题。 尽管国内外存在多个模型能力评测榜单，但它们的质量参差不齐，排名差...
-
自回归超越扩散！北大、字节 VAR 范式解锁视觉生成 Scaling Law
新一代视觉生成范式「VAR: Visual Auto Regressive」视觉自回归来了！使 GPT 风格的自回归模型在图像生成首次超越扩散模型，并观察到与大语言模型相似的 Scaling Laws 缩放定律、Zero-shot Task General...
-
RAG 2.0架构详解：构建端到端检索增强生成系统
关于检索增强生成（RAG）的文章已经有很多了，如果我们能创建出可训练的检索器，或者说整个RAG可以像微调大型语言模型（LLM）那样定制化的话，那肯定能够获得更好的结果。但是当前RAG的问题在于各个子模块之间并没有完全协调，就像一个缝合怪一样，虽然能够工作...
-
K8s和大模型真的搭吗？
编译|言征 出品 | 51CTO技术栈（微信号：blog51cto） K8s和大模型真的搭吗？ 本文抛出了一个问题，但答案仍有待验证。 1.K8s迎来了新的受众群体 假设一位机器学习研究人员阅读了一篇研究论文，并想在PyTorch环境中使用基于Pytho...
-
提高 RAG 应用准确度，时下流行的 Reranker 了解一下？
检索增强生成（RAG）是一种新兴的 AI 技术栈，通过为大型语言模型（LLM）提供额外的“最新知识”来增强其能力。 基本的 RAG 应用包括四个关键技术组成部分： Embedding 模型：用于将外部文档和用户查询转换成 Embedding 向量...
-
5亿个token之后，我们得出关于GPT的七条宝贵经验
自 ChatGPT 问世以来，OpenAI 一直被认为是全球生成式大模型的领导者。2023年3月，OpenAI 官方宣布，开发者可以通过 API 将 ChatGPT 和 Whisper 模型集成到他们的应用程序和产品中。在 GPT-4发布的同时 OpenA...
-
开源大模型Llama 3王者归来！最大底牌4000亿参数，性能直逼GPT-4
扎克伯格:「有了 Llama3，全世界就能拥有最智能的 AI。」 ChatGPT 拉开了大模型竞赛的序幕，Meta 似乎要后来居上了。 本周四，AI 领域迎来重大消息，Meta 正式发布了人们等待已久的开源大模型 Llama3。 扎克伯格在 Faceboo...
-
人工智能将以三种方式改变能源行业
2024年，人工智能将在改善客户体验和减少碳排放方面发挥作用。虽然人工智能在2023年才开始成为主流，但多年来它已应用于各个行业，以优化和自动化运营。在能源领域，我们已经看到人工智能改变了预测性维护、电网管理以及供需预测等方面。 然而，人工智能仍有巨大...
-
GPT Store都开不下去，这家国产平台怎么敢走这条路的？？
注意看，这个男人把超1000种大模型接入，让你可插拔无缝切换使用。 最近还上线了可视化的AI工作流： 给你一个直观的拖放界面，拖拖、拉拉、拽拽，就能在无限画布上编排自己个儿的Workflow。 正所谓兵贵神速，量子位听说，这个AI Workflow上线不...
-
Gartner揭示2024年GenAI网络安全主要趋势
组织、政府、学者和无数其他人都在寻找利用GenAI技术的变革力量的方法。大多数IT领导者(67% 将在未来18个月内优先考虑GenAI。虽然人们对GenAI的前景感到非常兴奋，但也有一些担忧，包括GenAI对多个方面的网络安全影响的不确定性。 为了帮助...
-
GPT-4 Turbo重回王座，ChatGPT免费升级！数学暴涨10%/上下文全面碾压
今天起，最新版的GPT-4 Turbo，正式向ChatGPT Plus用户开放了！ 图片 有了GPT-4 Turbo加持后，ChatGPT写作、数学、逻辑推理和编码的能力得到提升。 小编小试，果然ChatGPT最新数据已经更新到了4月。 图片 根据基准测...
-
Meta AI推MA-LMM:用于长视频理解的记忆增强多模态大模型
Meta AI近日推出了一种名为MA-LMM的新型模型，旨在解决长期视频理解中的挑战。LLMs在处理文本数据时表现出了令人印象深刻的能力，但在处理视频输入方面存在一些限制，例如上下文长度限制和GPU内存限制。 为了克服这些限制，研究人员提出了MA-LMM，...
-
等等我还没上车！LLM赋能端到端全新范式LeGo-Drive，车速拉满
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者个人理解 这篇论文介绍了一种名为LeGo-Drive的基于视觉语言模型的闭环端到端自动驾驶方法。该方法通过预测目标位置和可微分优化器规划轨迹，实现了从导航指令到目标位置的端到端闭...
-
“梗王”大模型，靠讲笑话登上CVPR | 中山大学
谁能想到，只是让大模型讲笑话，论文竟入选了顶会CVPR！ 没开玩笑，这还真真儿的是一项正儿八经的研究。 例如看下面这张图，如果让你根据它来讲个笑话或梗，你会想到什么？ 现在的大模型看完后会说： 脑子短路。 再看一眼 蜘蛛侠 的海报，大模型会配一句“刚擦的...