-
扩展说明: 指令微调 Llama 2
这篇博客是一篇来自 Meta AI，关于指令微调 Llama 2 的扩展说明。旨在聚焦构建指令数据集，有了它，我们则可以使用自己的指令来微调 Llama 2 基础模型。 目标是构建一个能够基于输入内容来生成指令的模型。这么做背后的逻辑是，模型如此...
-
ChatGPT论文：大语言模型LLM之战:Dolly、LLaMA 、Vicuna、Guanaco、Bard、ChatGPT--在自然语言转SQL(NL2SQL、Text-to-SQL)的比较（二）
3 评价结果 3.1 Spider 数据集 表 2 列出了各种提示策略和模型组合的执行准确性 (EX 和测试套件 (TS 的准确性。我们的主要发现是： 开源模型在 Spider 数据集上遇到了困难：尽管参数数量和模型性能之间存在正相关关系...
-
Lag-Llama:第一个时间序列预测的开源基础模型介绍和性能测试
2023年10月，我们发表了一篇关于TimeGPT的文章，TimeGPT是时间序列预测的第一个基础模型之一，具有零样本推理、异常检测和共形预测能力。 虽然TimeGPT是一个专有模型，只能通过API访问。但是它还是引发了对时间序列基础模型的更多研究。到了...
-
读懂ChatGPT、AIGC和元宇宙
参考来源： 书名：一本书读懂ChatGPT、AIGC和元宇宙 作者：王喜文 出版社：电子工业出版社 出版时间：2023年5月 ISBN：9787121453571 斯克称ChatGPT将颠覆世界； 微软为ChatGPT投资数百亿美元， 并计划将其整...
-
LLaMA 入门指南
LLaMA 入门指南 LLaMA 入门指南 LLaMA的简介 LLaMA模型的主要结构 Transformer架构 多层自注意力层 前馈神经网络 Layer Normalization和残差连接 LLaMA模型的变体 Base版本 La...
-
基于LLaVA开源模型打造视频聊天助手
简介 大型语言模型已经证明自己是一项革命性的技术。目前，人们已经开发出了许多基于大型语言模型功能的应用程序，而且预计很快还会有更多的应用程序问世。大型语言模型最有趣的应用之一是将其部署为智能助手，它们能够帮助人类用户完成各种任务。 人们已经能够通过指令微...
-
八项指标对比ChatGPT和文心一言
文章目录 前言 特定指标对比： 实际运用对比： 一、算力 二、训练时间 三、算法复杂度 四、模型结构 五、应用场景 六、性能指标 七、可解释性 八、迁移能力 ✍创作者：全栈弄潮儿 🏡 个人主页： 全栈弄潮儿的个人主页 🏙️ 个人...
-
揭开向量索引概念的神秘面纱
自从ChatGPT公开发布以来，人们几乎没有一天不讨论LLM（大型语言模型）、RAG（检索增强生成：Retrieval Augmented Generation）和向量数据库的新内容。技术世界充斥着LLM的可能性，LLM被视为将改变我们生活的最新技术：...
-
LLM是世界模型的新证据？ChatGPT能理解WiFi等物理信号，并猜出你的位置
大语言模型是否是世界模型? 大语言模型除了在数字世界完成如写作或翻译等任务，它们能否理解并处理物理世界中的信息并进而完成更广泛的任务呢? 最近来自香港科技大学（HKUST）、南洋理工大学(NTU 与加利福尼亚大学洛杉矶分校(UCLA 的研究者们提供了新的思...
-
每日一看大模型新闻（2023.12.13）趣味项目CLoT:训练LLM更幽默地回答问题；用RLHF 2%的算力让LLM停止有害输出，字节提出LLM遗忘学习；2.7B能打Llama 2 70B，微软祭出
1.产品发布 1.1 2.7B能打Llama 2 70B，微软祭出「小语言模型」 发布时间：2023-12-13 2.7B能打Llama 2 70B，微软祭出「小语言模型」！96块A100 14天训出Phi-2，碾压谷歌Gemini na...
-
ChatGPT与文心一言：智能回复与语言准确性的较量
在当今数字化时代，随着人们对智能化技术的需求不断增长，智能回复工具也成为了日常生活中不可或缺的一部分。ChatGPT和文心一言作为两个备受瞩目的智能回复工具，在智能回复、语言准确性以及知识库丰富度等方面各有卓越之处。 本文将对这两者进行全面比较，并深入探...
-
【Copilot使用】
Copilot是什么 copilot有多火，1月4日，科技巨头微软在官网上宣布将为Windows 11 PC推出Copilot键。 Copilot是微软在Windows 11中加入的AI助手，该AI助手是一个集成了在操作系统中的侧边栏工具，可以帮助用户...
-
AIGC内容分享(三十四)：AIGC+信息流广告
目录 AIGC发展概览 AIGC发展的重要里程碑事件 媒体平台AIGC功能 媒体平台AIGC功能-广点通 媒体平台AIGC功能 AIGC在广告各场景应用 AIGC在广告各场景应用—文生文 AIGC在广告各场景应用—文生图 视频生成...
-
将AI融入CG特效工作流；对谈Dify创始人张路宇；关于Llama 2的一切资源；普林斯顿LLM高阶课程；LLM当前的10大挑战 | ShowMeAI日报
👀日报&周刊合集 | 🎡生产力工具与行业应用大全 | 🧡 点赞关注评论拜托啦！ 🤖 将AI融入CG特效工作流，体验极致的效率提升 BV1pP411r7HY 这是 B站UP主 @特效小哥studio 和 @拓星研究所 联...
-
ChatGPT.vs.文心一言，到底谁更好用？
引言： 随着人工智能技术的不断发展，自然语言处理模型也在不断进步。两个备受关注的模型是OpenAI的ChatGPT和文心一言。ChatGPT是基于GPT-3.5架构的大型语言模型，而文心一言则是一款专注于生成短文本的AI模型。本文将探讨这两个模型的特点、...
-
浅析GitHub Copilot
技术实现与原理 基于Transformer的模型：Copilot的核心是基于GPT-3（以及后续更先进的版本）架构训练的大型语言模型，该模型在海量的开源代码库上进行了微调。通过学习数十亿行公开可用的源代码，它能够理解编程语法、语义和上下文，并生成结构良...
-
WhisperBot：整合了Mistral大型语言模型的实时语音转文本系统
项目简介 欢迎来到 WhisperBot。WhisperBot 基于 WhisperLive 和 WhisperSpeech 的功能而构建，在实时语音到文本管道之上集成了大型语言模型 Mistral (LLM 。WhisperLive 依赖于 OpenA...
-
羊驼2:开放的基础和微调聊天模型--Llama 2论文阅读
论文地址：https://arxiv.org/pdf/2307.09288.pdfd 代码地址：GitHub - facebookresearch/llama-recipes: Examples and recipes for Llama 2 model...
-
新添“代理”概念，用 GitHub Copilot 追求极致编码智能
企业申请Azure OpenAI绿色通道 →记得评论私信~还可加入交流群~ 如果您前段时间关注了 GitHub Universe，您应该看到了人工智能在整个开发者工作流程中取得的巨大进展、创新和愿景。在这篇文章中，我们将专注于介绍过去几个月以来在...
-
中文LLaMa和Alpaca大语言模型开源方案 | 扩充中文词表 & 针对中文语料进行高效编码
欢迎关注『CVHub』官方微信公众号！ Title: Efficient and Effective Text Encoding for Chinese Llama and AlpacaPDF: https://arxiv.org/pdf/23...
-
挑战 ChatGPT 和 Google Bard 的防御
到目前为止，科学家已经创建了基于人工智能的聊天机器人，可以帮助内容生成。我们还看到人工智能被用来创建像 WormGPT 这样的恶意软件，尽管地下社区对此并不满意。但现在正在创建聊天机器人，可以使用生成人工智能通过即时注入活动来攻击聊天机器人。 能够执行即...
-
AIGC：人工智能生成技术的新兴领域
1.背景介绍 1. 背景介绍 人工智能生成技术(AIGC 是一种利用机器学习和自然语言处理等技术来自动生成自然语言文本或其他形式的内容的技术。这种技术在近年来取得了显著的进展，为各种应用场景提供了强大的支持。本文将从背景、核心概念、算法原理、...
-
苹果展示 AI 新模型 MGIE，可一句话精修图片
2 月 8 日消息，相比较微软的风生水起，苹果公司在 AI 领域的布局显得低调很多，但这并不意味着苹果在该领域就没有丝毫建树。苹果公司近日发布了名为“MGIE”的新型开源人工智能模型，它可以根据自然语言指令编辑图像。 图源：VentureBeat 与...
-
玩LLM和StableDiffusion常说的LoRA到底是什么
论文地址：LoRA: Low-Rank Adaptation of Large Language Models LoRA是一种用于adapters和大模型迁移的技术,全称为Low-Rank Adaptation of Large Language M...
-
无需RLHF显著提升GPT-4/Llama2性能，北大团队提出Aligner对齐新范式
背景 大语言模型（LLMs）虽展现出了强大的能力，但也可能产生不可预测和有害的输出，例如冒犯性回应、虚假信息和泄露隐私数据，给用户和社会造成伤害。确保这些模型的行为与人类意图和价值观相对齐，是一个紧迫的挑战。 尽管基于人类反馈的强化学习（RLHF）提供了...
-
生成式AI公司Galileo推出检索增强生成工具
生成式AI公司Galileo最近推出了一项新的工具，旨在帮助企业开发可信赖的人工智能（AI）解决方案。这项名为检索增强生成(RAG 和代理分析的解决方案旨在应对RAG系统的复杂性，该系统已成为大型语言模型(LLMs 开发者越来越受欢迎的工具。 RAG系统通...
-
【AIGC扫盲】人工智能大模型快速入门
人工智能大模型的技术框架主要有以下几种： TensorFlow：这是一个由Google Brain团队开发的开源库，用于进行高性能数值计算，特别是用于训练和运行深度学习模型。TensorFlow提供了一种称为计算图的编程模型，它允许用户定义复杂的计算...
-
“国货之光”文心一言正式发布：百度大语言模型背后那些不为人知的细节
文章目录 前言 一、文心一言是什么 二、发布会内容 1.文学创作 2.商业文案创作 3.数理逻辑推算 4.中文理解 5.多模态生成 三、文心一言那些不为人知的细节 总结 前言 去年年末，ChatGPT以惊人的速度成为焦点，激...
-
Roblox启用AI实时聊天翻译，打破语言障碍
Roblox发布了基于人工智能的实时聊天翻译功能，成为全球首个在游戏领域实现这一技术突破的平台。 这一举措被宣传为在促进全球交流和包容性方面的一大飞跃。据称，该聊天翻译功能将支持16种语言，使用户能够在其首选语言中无缝交流。这无疑是一项令人印象深刻的技术...
-
AI需求带来爆炸式增长！数据公司Palantir四季度收入增长20%创新高
数据公司Palantir（PLTR）在周一财报后盘后交易中股价大涨超过19%，创下了分析师对收入的预期。截至2023年第四季度，公司的收入同比增长20%，达到6.08亿美元，超过了LSEG(前身为Refinitiv 预期的6.02亿美元。 图源备注：图片...
-
iPhone AI图像编辑P图app工具免费在线使用地址 苹果MGIE开源模型官网体验入口
MGIE是一项由苹果开源的技术，利用多模态大型语言模型（MLLMs）生成图像编辑指令，通过端到端训练，捕捉视觉想象力并执行图像处理操作，使图像编辑更加智能、直观。 点击前往MGIE官网体验入口 MGIE旨在满足以下需求人群： "用户可以通过自然语言直观地...
-
调查：超半数英国大学生使用AI完成学业
根据由高等教育政策研究所进行的一项研究，超过半数英国大学生使用人工智能（AI）完成他们的学业。该研究向1000多名大学生询问是否使用ChatGPT等工具来帮助写论文或解决问题，结果显示有53%的学生承认使用了这项技术。其中，5%的参与者表示他们只是复制并粘...
-
MGIE官网体验入口 苹果多模态大语言模型AI图像编辑工具在线使用地址
MGIE是一项由苹果开源的技术，利用多模态大型语言模型（MLLMs）生成图像编辑指令，通过端到端训练，捕捉视觉想象力并执行图像处理操作，使图像编辑更加智能、直观。 点击前往MGIE官网体验入口 需求人群： "用户可以通过自然语言直观地描述图像编辑需求，如...
-
两亿参数时序模型替代LLM？谷歌突破性研究被批「犯新手错误」
最近，谷歌的一篇论文在 X 等社交媒体平台上引发了一些争议。 这篇论文的标题是「A decoder-only foundation model for time-series forecasting（用于时间序列预测的仅解码器基础模型）」。 简而言之，...
-
ChatGPT论文：大语言模型LLM之战:Dolly、LLaMA 、Vicuna、Guanaco、Bard、ChatGPT--在自然语言转SQL(NL2SQL、Text-to-SQL)的比较（一）
摘要 ChatGPT的成功引发了一场AI竞赛，研究人员致力于开发新的大型语言模型（LLMs），以匹敌或超越商业模型的语言理解和生成能力。近期，许多声称其性能接近GPT-3.5或GPT-4的模型通过各种指令调优方法出现了。作为文本到SQL解析的从业者，我...
-
比OpenAI官方提示词指南更全，这26条黄金准则让LLM性能飙升50%以上
论文地址: https://arxiv.org/abs/2312.16171 Github地址: https://github.com/VILA-Lab/ATLAS 论文标题：Principled Instructions Are All You...
-
苹果研究团队揭示WRAP技术：用合成数据进行预训练大模型 成本低准确性高
近几个月来，大型语言模型（LLMs）在人工智能社区中引起了极大的关注和流行。这些模型在文本摘要、问答、代码完成、内容生成等任务中展示出了强大的能力。 然而，LLMs通常在不充分的网络抓取数据上进行训练。这些数据通常杂乱、无结构，表达不清晰。按照现有的扩展原...
-
如何使用单个指令微调GPT-3.5或Llama 2
由于在各种任务中的通用性，像ChatGPT和Llama 2这样的大型语言模型(LLM 广受欢迎。然而，有些应用程序需要使用自定义数据对这些模型进行微调，以获得更好的性能。 不幸的是，针对特定应用程序对大型语言模型(LLM 进行微调通常是复杂和令人沮丧的...
-
Eagle7B: 基于RWKV-v5架构、跨足100多种语言的7.52B参数AI模型
随着人工智能的发展，大型语言模型在各个领域开始受到广泛关注和应用。这些模型在数十亿级别的数据规模上进行训练，涵盖了健康、金融、教育、娱乐等多个领域，从自然语言处理和翻译到其他任务都发挥着重要作用。 最近，研究人员开发了Eagle7B，这是一个具有惊人75...
-
研究：网络充斥低质机翻内容，大语言模型训练需警惕数据陷阱
2 月 4 日消息，亚马逊云计算人工智能实验室的研究人员发现，网络上大量内容来自机器翻译 (MT 生成，这些跨越多种语言的翻译内容质量普遍较低。研究团队强调，这凸显了在训练大型语言模型 (LLM 时，数据质量和来源考量的重要性。 研究还发现，机器生...
-
万事达卡推出反欺诈AI模型 金融科技拥抱生成式AI
全球支付巨头万事达卡(MasterCard 日前表示，已构建自己的专有生成式AI模型，以帮助其信用卡网络中的数千家银行检测并根除欺诈交易。 该公司表示，其开发的先进AI模型Decision Intelligence Pro将允许银行机构更好地实时评估网...
-
一文搞懂使用 Arthur Bench 进行 LLM 评估
Hello folks，我是 Luga，今天我们来聊一下人工智能(AI 生态领域相关的技术 - LLM 评估 。 一、传统文本评估面临的挑战 近年来，随着大型语言模型(LLM 的快速发展和改进，传统的文本评估方法在某些方面可能已经不再适用。在文本评估领...
-
大模型没有护城河？OpenAI的“LLM城池”如何攻破，如何防守
作者 | Ben Dickson 译者 | 李睿 审校 | 重楼 出品 | 51CTO技术栈（微信号：blog51cto） 小模型、开源模型正在猛攻GPT-4，OpenAI需要更完善的措施来构建技术方面的护城河，以保护其LLM业务。 2023年5月，...
-
IBM研究发现： AI语音克隆可劫持合法通话进行诈骗
近期，IBM研究人员发现了一种相对简单的方法，可以利用生成式AI工具劫持语音通话。这一发现引发了对金融机构等依赖电话验证身份的组织的担忧。利用低成本的AI工具，骗子们现在可以轻松地冒充他人的声音，劫持正在进行的对话，以窃取资金和其他敏感信息。 图源备注：...
-
[AI]文心一言爆火的同时，ChatGPT带来了这么多的开源项目你了解吗
前言 前些天发现了一个巨牛的人工智能学习网站，通俗易懂，风趣幽默，忍不住分享一下给大家：https://www.captainbed.cn/z ChatGPT体验地址 文章目录 前言 4.5key价格泄漏 ChatGPT4.0使...
-
登Nature子刊，滑铁卢大学团队评论「量子计算机+大语言模型」当下与未来
模拟当今量子计算设备的一个关键挑战，是学习和编码量子比特之间发生的复杂关联的能力。基于机器学习语言模型的新兴技术已经显示出学习量子态的独特能力。 近日，加拿大滑铁卢大学的研究人员在《Nature Computational Science》发表题为《La...
-
数据安全:保障ChatGPT与AIGC的数据安全
1.背景介绍 1. 背景介绍 随着人工智能(AI 技术的不断发展，数据安全成为了一个重要的问题。在ChatGPT和AIGC等领域，数据安全的保障对于系统的稳定运行和用户数据的安全性至关重要。本文将从以下几个方面进行探讨： 数据安全的重要...
-
英国部长们敦促保护创意人员作品被AI公司使用
上议院一个委员会表示，部长们必须捍卫内容创作者的利益，他们的作品在未经科技公司许可的情况下被用来构建人工智能产品，例如产生“巨额经济回报”的聊天机器人。 英国上议院通信和数字委员会表示，随着人工智能发展的兴起，英国的法律框架未能执行版权的基本原则。该委员会...
-
Mastercard推出新AI模型“Decision Intelligence Pro”以提升网络内欺诈检测
全球支付巨头Mastercard Inc（NYSE: MA）近期宣布加入生成式人工智能(AI 竞赛，并建立了自己的模型，以帮助网络内的众多银行检测欺诈。新推出的AI模型被称为“Decision Intelligence Pro”，据Mastercard表示...
-
BiTA：创新AI方法加速大型语言模型生成
近年来，基于transformer架构的大型语言模型（LLMs）已经崭露头角。Chat-GPT和LLaMA-2等模型展示了LLMs参数的迅速增加，从几十亿到数万亿。尽管LLMs是非常强大的生成器，但由于所有参数的计算负载，它们在推理延迟方面存在问题。因此，...