-
大模型自我奖励：Meta让Llama2自己给自己微调，性能超越了GPT-4
大模型领域中，微调是改进模型性能的重要一步。随着开源大模型逐渐变多，人们总结出了很多种微调方式，其中一些取得了很好的效果。 最近，来自 Meta、纽约大学的研究者用「自我奖励方法」，让大模型自己生成自己的微调数据，给人带来了一点新的震撼。 在新方法中，作者...
-
每日一看大模型新闻（2023.11.20）OpenAI安全系统负责人长文梳理：大模型的对抗攻击与防御；谷歌Bard「破防」，用自然语言破解，提示注入引起数据泄漏风险；真正实现一步文生图，谷歌UFO
1.产品发布 1.1长虹：首个基于大模型的智慧家电AI平台 发布日期：2023.11.20 全球首个基于大模型智慧家电AI平台长虹云帆震撼发布！ 主要内容：长虹智慧AI平台发布会上，发布了全球首个基于大模型的智慧家电AI平台——长虹云帆。据介绍...
-
GPT-4V惨败！CV大神谢赛宁新作：V*重磅「视觉搜索」算法让LLM理解力逼近人类
Sam Altman最近在世界经济论坛上发言，称达到人类级别的AI很快就会降临。 但是，正如LeCun一直以来所言，如今的AI连猫狗都不如。现在看来的确如此。 GPT-4V、LLaVA等多模态模型图像理解力足以让人惊叹。但是，它们并非真的能够做的面面俱到。...
-
快速上手！LLaMa-Factory最新微调实践，轻松实现专属大模型
1.为什么要对Yuan2.0做微调？ Yuan2.0（https://huggingface.co/IEITYuan）是浪潮信息发布的新一代基础语言大模型，该模型拥有优异的数学、代码能力。自发布以来，Yuan2.0已经受到了业界广泛的关注。当前Yua...
-
【AIGC】用货拉拉拉不拉拉布拉多的梗调(ce)戏(shi)AI大模型，3.5和4.0的反应差别巨大！
目录 一、调戏LLM大模型 （一）制造陷阱——货拉拉拉拉布拉多的梗 1.看看3.5的表现 2.看看4.0的表现 （二）用简单推理调戏大模型 1.看看3.5的表现 2.看看4.0的表现 3.看看3.5的表现 4.看看4.0的表现 （三）用...
-
[NLP]LLaMA与LLamMA2解读
摘要 Meta最近提出了LLaMA(开放和高效的基础语言模型 模型参数包括从7B到65B等多个版本。最值得注意的是，LLaMA-13B的性能优于GPT-3，而体积却小了10倍以上，LLaMA-65B与Chinchilla-70B和PaLM-540B具有竞...
-
用通俗易懂的方式讲解大模型：一个强大的 LLM 微调工具 LLaMA Factory
LLM（大语言模型）微调一直都是老大难问题，不仅因为微调需要大量的计算资源，而且微调的方法也很多，要去尝试每种方法的效果，需要安装大量的第三方库和依赖，甚至要接入一些框架，可能在还没开始微调就已经因为环境配置而放弃了。 今天我们来介绍一个可以帮助大家快速...
-
AIGC周报｜30秒定制一个文生图模型；60美元让AI玩转《我的世界》；手机版“文生图”模型：2秒不到出一张图
AIGC（AI Generated Content）即人工智能生成内容。近期爆火的 AI 聊天机器人 ChatGPT，以及 Dall·E 2、Stable Diffusion 等文生图模型，都属于 AIGC 的典型案例，它们通过借鉴现有的、人类创造的内容来...
-
AI游戏设计的半年度复盘；大模型+智能音箱再起波澜；昇思大模型技术公开课第2期；出海注册经验分享；如何使用LoRA微调Llama 2 | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? 进步or毁灭：Nature 调研显示 1600+ 科学家对AI的割裂态度 国际顶级期刊 Nature 最近一项调研很有意思，全球 1600 多名科...
-
OpenAI与亚利桑那州立大学合作，AI进入高等教育领域
尽管教育工作者和管理者对此表示担忧，但人工智能已经进入高等教育领域。现在，亚利桑那州立大学宣布与 OpenAI 合作，OpenAI 是一家领先的生成式人工智能公司，开发了 ChatGPT 和 DALL-E3等技术，这是一次独一无二的合作，旨在将 OpenA...
-
AI爆款设备Rabbit R1将接收Perplexity AI的实时信息
Rabbit 在2024年 CES 展上备受瞩目，并宣布与 Perplexity 达成合作伙伴关系，将 “对话式 AI 动力回答引擎” 与 R1相连。 R1是一款售价199美元的由 Teenage Engineering 设计的 AI 设备，已经通过了5...
-
新AI框架 AboutMe：用网页中自我描述来记录英语预训练数据过滤器的效果
随着自然语言处理和自然语言生成的进步，大型语言模型（LLMs）在实际应用中得到了广泛使用。由于它们能够模仿人类行为，并具有通用性，这些模型已经涉足各个领域。 虽然这些模型引起了相当大的关注，但它们代表了一组受限和偏向的人类观点和知识。预训练数据的组成是造成...
-
GPU＋生成式人工智能助力提升时空数据分析
译者 | 朱先忠 审校 | 重楼 摘要：通过实战案例介绍，本文指出随着基于GPU加速的数据库技术为时间序列和空间数据带来更好的性能和精度水平，生成式人工智能技术将使得非领域专家也能够进行复杂的时空数据处理。 引言 时空数据来自手机、气候传感器、金融市场交...
-
llama.cpp模型推理之界面篇
目录 前言 一、llama.cpp 目录结构 二、llama.cpp 之 server 学习 1. 介绍 2. 编译部署 3. 启动服务 4、扩展或构建其他的 Web 前端 5、其他 前言 在《基于llama.cpp学习开源LL...
-
吞吐量提升5倍，联合设计后端系统和前端语言的LLM接口来了
大型语言模型 (LLM 越来越多地用于需要多个链式生成调用、高级 prompt 技术、控制流以及与外部环境交互的复杂任务。然而，用于编程和执行这些应用程序的现有高效系统存在着明显的缺陷。 现在，开源社区的研究者们面向 LLM 提出了一种结构化生成语言（...
-
大型语言模型中最大的瓶颈：速率限制
作者 | Matt Asay策划 | 言征 速率限制意味着每个人都在等待更好的计算资源或不同的生成人工智能模型。 大型语言模型（LLM），如OpenAI的GPT-4和Anthropic的Claude 2，凭借其生成类人文本的能力，吸引了公众的想象力。...
-
最佳开源模型刷新多项SOTA，首次超越Mixtral Instruct！「开源版GPT-4」家族迎来大爆发
Mixtral 8x7B开源模型的诞生，正如Llama一样，为开源社区了带来曙光。 前段时间，Mixtral刚刚发布了8x7B模型的论文。在基准测试结果中，其性能达到或超过 Llama 2-70B和GPT-3.5。 甚至，Mixtral在数学、代码生成和...
-
四种通过LLM进行文本知识图谱的构建方法对比介绍
我们在以前的文章中已经介绍了使用大语言模型将非结构化文本转换为知识图谱。但是对于知识图谱的创建是一个很复杂的过程，比如需要对属性增加限制，创建符合特定主题/模式的图谱，并且有时文档非常大，无法作为单个提示处理，所以在切分后的提示中创建的图谱需要前后一致。...
-
2023-12-30 AIGC-LangChain介绍
摘要: 2023-12-30 AIGC-LangChain介绍 LangChain介绍 1. https://youtu.be/Ix9WIZpArm0?t=353 2. https://www.freecodecamp.org/news/la...
-
微软推出独立 AI 工具“阅读教练”，辅助提高学习者阅读能力
IT之家 1 月 19 日消息，微软近日发布新闻稿，宣布面向学生群体，推出全新的生成式 AI 工具“阅读教练”（Reading Coach），通过个性化和有吸引力的练习，帮助学习者提高阅读能力。 微软表示 Reading Coach 会免费提供，用户只...
-
Data-Copilot: 大语言模型做你最贴心省事的数据助手
Data-Copilot: Bridging Billions of Data and Humans with Autonomous Workflow 无需繁琐操作,只需要输入一句话, Data-Copilot自动帮你完成查数据,分析数据,管理数据,预测趋...
-
AI绘画与多模态原理解析：从CLIP到DALLE1/2、DALLE 3、Stable Diffusion、SDXL Turbo、LCM
前言 终于开写本CV多模态系列的核心主题：stable diffusion相关的了，为何执着于想写这个stable diffusion呢，源于三点 去年stable diffusion和midjourney很火的时候，就想写，因为经常被刷屏，但那会时...
-
AI视野：谷歌推几何模型Alpha Geometry；三星发布AI手机Galaxy S24；Runway更新运动笔刷功能；Midjourney v6下周补齐缩放平移等功能
欢迎来到【AI视野】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ ????大模型动态 谷歌推数学几何...
-
字节跳动基础架构SRE-Copilot获得2023 CCF国际AIOps挑战赛冠军
近日，2023 CCF国际AIOps挑战赛决赛暨“大模型时代的AIOps”研讨会在北京成功举办，活动吸引了来自互联网、运营商、科研院所、高校、软硬件厂商等领域多名专家学者参与，为智能运维的前沿学术研究、落地生产实践打开了新思路。决赛中，从初赛两百多支...
-
苹果AIM自回归视觉模型验证性能与模型规模有关
苹果公司的研究者通过自回归图像模型（AIM）验证了视觉模型“参数越多性能越强”的规律，进一步证明随着容量或预训练数据量的增加，模型能不断提升性能。AIM能有效利用大量未经整理的图像数据，训练方法和稳定性与最近的大型语言模型(LLM 类似。这一观察结果与之前...
-
LLaMA Pro: Progressive LLaMA with Block Expansion
Q: 这篇论文试图解决什么问题？ A: 这篇论文试图解决大型语言模型（LLMs）在特定领域（如编程、数学、生物医学或金融）能力不足的问题。尽管LLMs在多种现实世界任务中表现出色，但在某些特定领域仍然存在局限性，这阻碍了开发通用语言代理以应用于更广泛场景...
-
AI如何走向负责？英国标准协会给出了答案
人工智能(AI 是当今世界最具革命性和影响力的技术之一，它已经渗透到了各个领域和行业，为人类的生活和工作带来了巨大的便利和价值。但是AI的发展和应用也伴随着各种挑战和风险，如何确保AI的安全、可信和可持续，如何平衡AI的创新和伦理，如何保护AI的利益相关...
-
RoSA: 一种新的大模型参数高效微调方法
随着语言模型不断扩展到前所未有的规模，对下游任务的所有参数进行微调变得非常昂贵，PEFT方法已成为自然语言处理领域的研究热点。PEFT方法将微调限制在一小部分参数中，以很小的计算成本实现自然语言理解任务的最先进性能。 (RoSA 是一种新的PEFT技术...
-
马毅LeCun谢赛宁曝出多模态LLM重大缺陷！开创性研究显著增强视觉理解能力
Sam Altman在各种场合都提到，大语言模型的多模态能力，是未来AI技术能够造福人类的最亟待突破的领域。 那么现在在多模态大模型的视觉功能能否达到与语言功能匹配的水平？ 当前多模态模型取得的进步很大程度上归功于大语言模型（LLM）的推理能力。但在视...
-
新一代注意力机制Lightning Attention-2：无限序列长度、恒定算力开销、更高建模精度
大语言模型序列长度的限制，极大地制约了其在人工智能领域的应用，比如多轮对话、长文本理解、多模态数据的处理与生成等。造成这一限制的根本原因在于当前大语言模型均采用的 Transformer 架构有着相对于序列长度的二次计算复杂度。这意味着随着序列长度的增加...
-
AI无代码网页组件开发工具免费下载地址 Compo官网体验入口
Compo Chrome Extension是一个基于AI组件驱动技术的开源工具，旨在通过简单的文本输入帮助用户快速创建、设计和开发网页组件。它通过集成到应用程序中或使用Vallmore的企业AI集成到应用、工具或平台中，提供了多样化的使用场景。Compo...
-
AIGC大模型必备知识——LLM ，你知道它是如何训练的吗？小白必读深度好文
Look！?我们的大模型商业化落地产品 ?更多AI资讯请??关注 Free三天集训营助教在线为您火热答疑??? 近年来，人工智能（AI）领域经历了令人瞩目的增长，尤其是自然语言处理（NLP）。你知道是什么推动了NLP领域的这种飞速发展吗？没错，那...
-
三个臭皮匠顶个诸葛亮？可能是真的，已证实混合多个小模型性能比肩GPT3.5
在对话型人工智能（AI）研究中，存在趋势即朝着开发参数更多的模型方向发展，如 ChatGPT 等为代表的模型。尽管这些庞大的模型能够生成越来越好的对话响应，但它们同时也需要大量的计算资源和内存。本文研究探讨的问题是：一组小模型是否能够协同达到与单一大模型...
-
大模型时代下AIGC新浪潮
大模型时代下AIGC新浪潮 文章目录 大模型时代下AIGC新浪潮 1. **相关概念** 2. **迎接大模型时代** 3. **ChatGPT引爆AIGC产业** 4. **从产业链宏观看AIGC** 1. **上游：基础层**...
-
AIGC新岗位新机会解析；GPTs万字教程；28套提示词让人物情绪饱满；爆款AI搜索引擎RAG实践分享；AI独立创始人成长手册；LangChain年度洞察 | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? 北京互联网法院审理全国首例「AI声音侵权案」，五被告都否认侵权 补充一份背景：点击了解事件说明与当前进展 ⋙ AI生成图片著作权侵权第一案、...
-
基于大语言模型赋能智体的建模和仿真：综述和展望
本文经自动驾驶之心公众号授权转载，转载请联系出处。 23年12月论文“Large Language Models Empowered Agent-based Modeling and Simulation: A Survey and Perspecti...
-
Stability AI发布全新代码模型Stable Code 3B，媲美70亿Code Llama，没GPU也能跑
今天，Stability AI发布了自家在2024年的第一个模型——Stable Code3B。 顾名思义，Stable Code3B专注于代码能力，实际的表现也是非常亮眼。 在仅仅3B参数的规模之下，达到了比肩Code Llama7B的效果。 相...
-
中国电信开源星辰AI大模型：央企中首个完成LLM研发和开源的选手诞生
中国电信开源星辰AI大模型：央企中首个完成LLM研发和开源的选手诞生...
-
如何将知识图谱与AIGC结合？京东是这么做的
一、导言 首先介绍一下京东在电商场景下 AIGC 方面的探索。 这是一个商品营销文案自动生成的全景图，自下而上首先是商品的输入信息。输入信息是异构多源的，包括商品的商详页里的图片、文本、商品的标题以及商品的知识图谱。通用的知识图谱是三元组的形式，...
-
一文读懂大型语言模型参数高效微调：Prefix Tuning与LLaMA-Adapter
芝士AI吃鱼 在快速发展的人工智能领域中，高效、有效地使用大型语言模型变得日益重要，参数高效微调是这一追求的前沿技术，它允许研究人员和实践者在最小化计算和资源占用的同时，重复使用预训练模型。这还使我们能够在更广泛的硬件范围内训练...
-
AIGC内容分享(十二)：AIGC探索之旅AIGC探索之旅
目录 前言 引言：AI时代，未来已来 AIGC简介与发展历程 早期萌芽阶段（1950s－1990s） 沉淀积累阶段（1990s－2010s） 快速发展阶段（2010s至今） 大模型与AIGC的关联 大模型概述 大模型的定义和特点 典型大...
-
七个值得关注的优秀大语言模型（LLM）
在LLM领域我们了解最多的很可能是OpenAI的ChatGPT，以及最近在多模态表现非常出色的Google Gemini，这些都是AI大模型的领头羊，代表着AI大模型发展的先进成果。然而，在大模型的实际应用中必须要综合考虑成本、信息安全等内容，因此，开源...
-
大模型“藏毒”：“后门”触发，猝不及防！
撰稿 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） 跟大模型会产生幻觉相比，更可怕的事情来了，最新的一项研究证明：在用户不知情的情况下，最初觉得很得力的大模型助手，将化身“间谍”，产生破坏性代码。 具体来讲，一组研究人员对LL...
-
OpenAI 阿尔特曼回应被《纽约时报》起诉：AI 不用新闻出版商提供训练数据
1 月 17 日消息，据彭博社报道，在当地时间周二的达沃斯世界经济论坛年会上，OpenAI 首席执行官萨姆・阿尔特曼在回应有关其公司盗用版权材料的指控时表示，AI 并不需要《纽约时报》等新闻出版商提供大量的训练数据。 有些人认为，“你需要我所有的数据...
-
【论文笔记 · PFM】Lag-Llama: Towards Foundation Models for Time Series Forecasting
Lag-Llama: Towards Foundation Models for Time Series Forecasting 摘要 本文提出Lag-Llama，在大量时间序列数据上训练的通用单变量概率时间序列预测模型。模型在分布外泛化能力上取...
-
用大模型帮程序员找Bug，中科院剖析102篇论文总结出这些方案
中科院对“找Bug”下手了，一口气总结了N种方案！ 法宝就是大模型。 大模型由于其卓越的自然语言理解、推理等能力，已经被应用于各种场景，取得了前所未有的效果。 类似的，软件测试领域也受益于其强大的能力，能够帮助生成逼真且多样化测试输入，模拟各种异常，加...
-
Stability AI发布全新代码模型Stable Code 3B！媲美70亿Code Llama，没GPU也能跑
今天，Stability AI发布了自家在2024年的第一个模型——Stable Code 3B。 图片 顾名思义，Stable Code 3B专注于代码能力，实际的表现也是非常亮眼。 在仅仅3B参数的规模之下，达到了比肩Code Llama 7B的效果...
-
OpenAI像素级抄袭好莱坞IP，反手开撕《纽约时报》，LeCun舌战网友疑似站队支持
去年底AI行业最爆炸性的事件要算是纽约时报和OpenAI的官司了。 在《纽约时报》一纸诉状将OpenAI告到法院，要求OpenAI要么关闭ChatGPT，要么赔偿几十亿美元。 这个新闻在国内外媒体上发酵了2周之后，OpenAI官方终于下场回怼了。 Op...
-
Stability AI发布Stable Code3B填补AI代码生成的空白
在AI领域，Stability AI公司于2024年推出了其首个新型人工智能模型:商业许可的（通过会员资格）Stable Code3B。该模型仅拥有30亿参数，专注于软件开发的代码完成能力，可在没有专用GPU的笔记本上本地运行，并在性能上具有竞争力，可与M...
-
机器人领域首个开源视觉-语言操作大模型，RoboFlamingo框架激发开源VLMs更大潜能
近年来，大模型的研究正在加速推进，它逐渐在各类任务上展现出多模态的理解和时间空间上的推理能力。机器人的各类具身操作任务天然就对语言指令理解、场景感知和时空规划等能力有着很高的要求，这自然引申出一个问题：能不能充分利用大模型能力，将其迁移到机器人领域，直接...