-
训不动Mixtral，要不试试LLaMA-MoE？
深度学习自然语言处理 原创作者：cola 随着各种各样增强版LLaMA的出现，Mixture-of-Expert(MoE 类模型越来越受大家关注。而LLaMA-MoE正是基于LLaMA系列和SlimPajama的MoE模型。它显著的一个好处...
-
Stable Diffusion原理详解（附代码实现）
一、前言 回顾AI绘画的历史，GAN（Generative Adversarial Nets）是比较出众的一个。GAN的出现让AI绘画成为可能，当时GAN给AI绘画提供了一种新的思路，现在回顾当时的绘画可以算是相当粗糙。 gan-results....
-
什么是预训练Pre-training—— AIGC必备知识点，您get了吗？
Look！?我们的大模型商业化落地产品 ?更多AI资讯请??关注 Free三天集训营助教在线为您火热答疑??? 随着人工智能(AI 不断重塑我们的世界，其发展的一个关键方面已经成为现代机器学习模型的支柱:预训练。在本篇文章中，我们将探讨预训练的概...
-
ChatGPT论文：大语言模型LLM之战:Dolly、LLaMA 、Vicuna、Guanaco、Bard、ChatGPT--在自然语言转SQL(NL2SQL、Text-to-SQL)的比较（二）
3 评价结果 3.1 Spider 数据集 表 2 列出了各种提示策略和模型组合的执行准确性 (EX 和测试套件 (TS 的准确性。我们的主要发现是： 开源模型在 Spider 数据集上遇到了困难：尽管参数数量和模型性能之间存在正相关关系...
-
从声音到形象，AIGC 赋能的 TT 语音年度盛典有多好玩？
摘要： 23年是 AIGC 暴热的一年，这一年我们既兴奋又彷徨。兴奋之处在于新技术持续突破，业界“百模大战”的白热化，一些创新应用开始崭露头角，例如 ChatGPT 和 DALL·E 3，Midjourney，HeyGen， 星野，Copilot 等。彷...
-
Midjourney-摄影师的7招
@TOC 完整句式： 1. 第一招：控制快门速度 1.1 快的快门速度 1.2 highspeed photography 高速摄影 1.3 slow movement 慢动作 1.4 Bullet Time 子弹...
-
八项指标对比ChatGPT和文心一言
文章目录 前言 特定指标对比： 实际运用对比： 一、算力 二、训练时间 三、算法复杂度 四、模型结构 五、应用场景 六、性能指标 七、可解释性 八、迁移能力 ✍创作者：全栈弄潮儿 ? 个人主页： 全栈弄潮儿的个人主页 ?️ 个人...
-
“文心一言”揭秘：智能语言模型的新里程碑
前文 在数字化、信息化的浪潮中，人工智能（AI）技术如同一匹黑马，不断刷新着我们对科技发展的认知。其中，智能语言模型作为AI领域的一大分支，更是引领着自然语言处理（NLP）技术的革新。今天，我要为大家揭秘的，正是这一领域的新里程碑——“文心一言”。 “...
-
WhisperBot：整合了Mistral大型语言模型的实时语音转文本系统
项目简介 欢迎来到 WhisperBot。WhisperBot 基于 WhisperLive 和 WhisperSpeech 的功能而构建，在实时语音到文本管道之上集成了大型语言模型 Mistral (LLM 。WhisperLive 依赖于 OpenA...
-
羊驼2:开放的基础和微调聊天模型--Llama 2论文阅读
论文地址：https://arxiv.org/pdf/2307.09288.pdfd 代码地址：GitHub - facebookresearch/llama-recipes: Examples and recipes for Llama 2 model...
-
AIGC 语言大模型研究报告
AIGC 研究报告 这份报告可以被划分为两大部分。 第一部分集中于ChatGPT的发展和运作原理，为了增强理解，我们将先探讨自然语言处理的历史发展。 第二部分主要聚焦于由大模型引领的新的研究领域，并深入介绍在每个领域中可以进行的具体研究工作及思...
-
中文LLaMa和Alpaca大语言模型开源方案 | 扩充中文词表 & 针对中文语料进行高效编码
欢迎关注『CVHub』官方微信公众号！ Title: Efficient and Effective Text Encoding for Chinese Llama and AlpacaPDF: https://arxiv.org/pdf/23...
-
AI绘画Stable Diffusion原理之扩散模型DDPM
前言 传送门： stable diffusion：Git｜论文 stable-diffusion-webui：Git Google Colab Notebook部署stable-diffusion-webui：Git kaggle...
-
Faster-Whisper 实时识别电脑语音转文本
Faster-Whisper 实时识别电脑语音转文本 前言 项目 搭建环境 安装Faster-Whisper 下载模型 编写测试代码 运行测试代码 实时转写脚本 实时转写WebSocket服务器模式 参考 前言 以前做的智能对...
-
玩LLM和StableDiffusion常说的LoRA到底是什么
论文地址：LoRA: Low-Rank Adaptation of Large Language Models LoRA是一种用于adapters和大模型迁移的技术,全称为Low-Rank Adaptation of Large Language M...
-
大语言模型之LlaMA系列- LlaMA 2及LLaMA2_chat(上)
LlaMA 2是一个经过预训练与微调的基于自回归的transformer的LLMs，参数从7B至70B。同期推出的Llama 2-Chat是Llama 2专门为对话领域微调的模型。 在许多开放的基准测试中Llama 2-Chat优于其他开源的聊天模型，此外...
-
AIGC知识速递——Google的Bert模型是如何fine-tuning的？
Look！?我们的大模型商业化落地产品 ?更多AI资讯请??关注 Free三天集训营助教在线为您火热答疑??? 选择合适的预训练模型： 从预训练的BERT模型开始，例如Google 提供的BERT-base 或 BERT-large。这些模型已经...
-
网大为卸任腾讯CXO；Midjourney 1 月训练视频模型；2023年马斯克赚了7700亿
投融资 • 2023 年大型科技公司在生成式 AI 初创企业上的投资远超风险投资集团 • 恒信东方与无锡政府合作成立布局 MR/XR 技术及 3D 数字资产 AIGC 产业投资基金 • 新公司法完善注册资本认缴登记制度 • 网大为卸任腾讯CXO，曾促成...
-
OS-AIGC通用生成式人工智能模型加密接入标准API协议-2023 Beta版
说明 OS-AIGC通用生成式人工智能模型加密接入标准API协议（Universal Language Model Encryption Access Standard API Protocol）国内的通用语言大模型的加密接入标准API协议。能够适配各种...
-
2023-12-12 AIGC-AI工具的基本工作原理
摘要: 2023-12-12 AIGC-AI工具的基本工作原理 AI工具的基本工作原理 AI工具的基本工作原理涉及到一系列复杂的技术和算法。这些原理可以根据不同类型的AI工具进行概括，包括机器学习、自然语言处理、图像识别等。以下是一些关键的A...
-
ChatGPT论文：大语言模型LLM之战:Dolly、LLaMA 、Vicuna、Guanaco、Bard、ChatGPT--在自然语言转SQL(NL2SQL、Text-to-SQL)的比较（一）
摘要 ChatGPT的成功引发了一场AI竞赛，研究人员致力于开发新的大型语言模型（LLMs），以匹敌或超越商业模型的语言理解和生成能力。近期，许多声称其性能接近GPT-3.5或GPT-4的模型通过各种指令调优方法出现了。作为文本到SQL解析的从业者，我...
-
最近超火的AI 浏览器 Arc，是“下一个互联网”还是只是另一个Chrome？
如果要列出最近硅谷最火的几个AI产品，Arc浏览器绝对是其中之一。 他们发布了一系列很高调的宣传片，对产品做了更新，并且在社交媒体上已经攒起来了一片用户好评。 在宣传片中，他们表示，这不只是一款浏览器，而是“一个跟互联网同等规模的平台”。 这款浏览器背后的...
-
飞浆AI studio人工智能课程学习（1）-大模型时代&优质Prompt
文章目录 大模型时代&优质Prompt Al生成技术价值概览 开始构建你的优质prompt 近十年深度学习模型主要更迭 为什么大模型能够有如此强大的表现力 大模型与Prompt 例1： 画一幅画，呆萌的小猫躺在大泡泡中 例2：请生成...
-
AI浏览器Arc走红 重新定义浏览体验
最近备受关注的AI浏览器Arc，由硅谷公司The Browser Company推出。通过一系列高调的宣传和更新，Arc已经积累了许多用户好评，自称不仅是一款浏览器，更是一个与互联网同等规模的平台。 Arc浏览器的最新设计着重于改变网页浏览的交互逻辑。标...
-
ChatLaw：基于LLaMA微调的法律大模型
文章目录 动机 数据组成 模型框架 模型评估 北大团队发布首个的中文法律大模型落地产品ChatLaw，为大众提供普惠法律服务。模型支持文件、语音输出，同时支持法律文书写作、法律建议、法律援助推荐。 github地址：https://g...
-
拥抱AIGC，应用AIGC，「AIGC短视频+数字人运营学习路线图」30天挑战。
交流学习，联系我V：YuanRangEDU 第 01 天（周一）： 分组，破冰，自我介绍，AI工具链安装初体验。 GPT，文心一言，Midjourney，Discord，SD，pikalabs，fliki，剪映等等。...
-
一文搞懂使用 Arthur Bench 进行 LLM 评估
Hello folks，我是 Luga，今天我们来聊一下人工智能(AI 生态领域相关的技术 - LLM 评估 。 一、传统文本评估面临的挑战 近年来，随着大型语言模型(LLM 的快速发展和改进，传统的文本评估方法在某些方面可能已经不再适用。在文本评估领...
-
击败OpenAI，权重、数据、代码全开源，能完美复现的嵌入模型Nomic Embed来了
一周前，OpenAI 给广大用户发放福利，在下场修复 GPT-4 变懒的问题后，还顺道上新了 5 个新模型，其中就包括更小且高效的 text-embedding-3-small 嵌入模型。 我们知道，嵌入是表示自然语言或代码等内容中概念的数字序列。嵌入使...
-
快速入门ChatGPT和AIGC：底层原理、热门工具、行业现状【我们能做什么】
最近大家热议的ChatGPT和AI绘画工具的底层技术原理是什么？是如何发展到现在的？有哪些应用场景、热门工具？AIGC产业上下游有哪些公司？作为普通用户，我们还能接触哪些应用AI技术打造的商业解决方案？…… 我们查阅了AIGC相关相关的调研报告和各类资料...
-
基于医疗领域数据微调LLaMA——ChatDoctor模型
文章目录 ChatDoctor简介 数据构建和训练过程 建立外部知识库 ChatDoctor相比ChatGPT有什么优势？ ChatDoctor的效果 代码解读 train_lora.py文件解读 微调实战 下载仓库并进入目录 创建con...
-
十分钟读完「降低 LLaMA 模型微调内存占用的QLoRA」论文
QLoRA 提出内存高效的微调方法！降低 LLaMA 模型微调内存占用，仅需数小时追赶 ChatGPT 引言：大模型微调的新时代 随着人工智能技术的飞速发展，大型语言模型（Large Language Models，LLMs）已成为自然语言处理领域的重...
-
Stable Diffusion XL Turbo 文生图和图生图实践
本篇文章聊聊，如何快速上手 Stable Diffusion XL Turbo 模型的文生图和图生图实战。 写在前面 分享一篇去年 11 月测试过模型，为月末分享的文章做一些技术铺垫，以及使用新的环境进行完整复现。 本篇文章相关的代码保存在 sou...
-
【网安AIGC专题10.19】论文6（顶会ISSTA 2023）：提出新Java漏洞自动修复数据集：数据集 VJBench+大语言模型、APR技术+代码转换方法+LLM和DL-APR模型的挑战与机会
How Effective Are Neural Networks for Fixing Security Vulnerabilities 写在最前面 摘要 贡献 发现 介绍 背景：漏洞修复需求和Java漏洞修复方向 动机 方法 贡献...
-
GRUP MEDIAPRO宣布与微软成立AI合成媒体实验室
GRUP MEDIAPRO 在 ISE 展会的框架内，宣布与微软合作，启动了一个人工智能和合成媒体实验室。这是两家公司为了为音像行业开发解决方案而共享技术和商业知识的一个重要步骤。 GRUP MEDIAPRO 和微软的合作基于以人为本的理念，同时承诺在人...
-
ChatGPT is not all you need，一文看尽SOTA生成式AI模型：6大公司9大类别21个模型全回顾（三）
文章目录 ChatGPT is not all you need，一文看尽SOTA生成式AI模型：6大公司9大类别21个模型全回顾（三） Text-to-Text 模型 ChatGPT LaMDA PEER Meta AI Speech f...
-
陶哲轩上新项目：Lean中证明素数定理，研究蓝图都建好了
「由 Alex Kontorovich 和我领导的一个新的 Lean 形式化项目刚刚正式宣布，该项目旨在形式化素数定理（prime number theorem，PNT）的证明，以及伴随而来的复分析和解析数论的支持机制，并计划给出进一步的结果如 Cheb...
-
Stable Diffusion学习
参考 Stable Diffusion原理详解_stable diffusion csdn-CSDN博客 Stable Diffusion是stability.ai开源的图像生成模型，可以说Stable Diffusion的发布将AI图像生成提高到了全新...
-
探索星辰大海：成为AIGC大模型领域的精英 - 近屿智能OJAC深度训练营招募中！
朋友，面对AIGC这股新的AIGC技术革命浪潮，您还在旁观吗？ 近屿智能OJAC第六期AIGC星辰大海：大模型工程师和产品专家线上训练营，正在寻找像您这样有梦想、有热情的学员！OJAC的AIGC星辰大海第六期训练营，一个为您量身打造的AI大模型学习之...
-
OT系统如何应对生成式AI带来的安全挑战？
如今，大多数网络攻击主要使用两种方法：数据泄露和数据加密。这些策略被证明是有效的，因为攻击者可以通过威胁发布泄露的数据或要求支付解密费用来勒索钱财。这些攻击虽有恶意，但程度有限。他们的目标通常不是给人们造成重大伤害，但也有攻击者走得更远的情况。 在现代...
-
【AIGC】从零手写一个GPT
手写一个GPT 在GPT，确切的说是Transformer，出现之前，一个问题长久地困扰着人们——如何让两句内容不同、但语义相近的句子得到较为接近的表示。 比如我们有两句话 我喜欢你 吾中意你 它们作为句子内容并不一样，但是表达的含义却...
-
全球代码质量骤降，罪魁祸首竟是AI！1.53亿行代码深度分析报告出炉
AI正在使全球的代码质量下降！ 最近，GitClear发布的一项调查报告显示，用AI写代码，会让代码的质量和可维护性不断下降。 这引起了全网热烈讨论： 「借助AI提供商，您可以将代码生成速度提高50%（即使是您不理解或无法编写的代码），但代价是代码的质...
-
无需人工标注！LLM加持文本嵌入学习：轻松支持100种语言，适配数十万下游任务
文本嵌入（word embedding）是自然语言处理（NLP）领域发展的基础，可以将文本映射到语义空间中，并转换为稠密的矢量，已经被广泛应用于各种自然语言处理（NLP）任务中，如信息检索（IR）、问答、文本相似度计算、推荐系统等等， 比如在IR领域，第...
-
ChatGPT惊艳更新，一个@让三百万GPTs为你打工
ChatGPT悄悄更新个大功能!看起来要把插件系统迭代掉了。 部分（灰度）用户已经收到这样的提示: 现在可以在对话中@任意GPT商店里的GPTs，就像在群聊中@一个人。 体验到的博主Dan Shipper第一时间录视频激动地分享:一个改变游戏规则的功能。...
-
RAG高阶技巧-如何实现窗口上下文检索
在本文中，我们将介绍一种提高RAG（Retrieval-Augmented Generation）模型检索效果的高阶技巧，即窗口上下文检索。我们将首先回顾一下基础RAG的检索流程和存在的问题，然后介绍窗口上下文检索的原理和实现方法，最后通过一个实例展...
-
ChatGPT惊艳更新！一个@让三百万GPTs为你打工
部分(灰度 用户已经收到这样的提示： 现在可以在对话中@任意GPT商店里的GPTs，就像在群聊中@一个人。 体验到的博主Dan Shipper第一时间录视频激动地分享：一个改变游戏规则的功能。 在他的演示中，按过去的工作流程还需要手动把与ChatGP...
-
让知识图谱成为大模型的伴侣
大型语言模型(LLM 能够在短时间内生成非常流畅和连贯的文本，为人工智能的对话、创造性写作和其他广泛的应用开辟了新的可能性，然而，LLM也有着一些关键的局限性。它们的知识仅限于从训练数据中识别出的模式，这意味着缺乏对世界的真正理解。同时，推理能力也是有限...
-
18LLM4SE革命性技术揭秘：大型语言模型LLM在软件工程SE领域的全景解析与未来展望 - 探索LLM的多维应用、优化策略与软件管理新视角【网安AIGC专题11.15】作者汇报 综述
Large Language Models for Software Engineering: A Systematic Literature Review 写在最前面 论文名片 课堂讨论 RQ1部分：LLMs的选择和优化 RQ2部分：LLM...
-
百度“文心一言”大模型(ERNIE)发布了，对标ChatGPT
大家好，我是微学AI，今天给大家介绍一下基于大语言模型的背景下，国内外的发展现状，以及百度的“文心一言”大模型。 一、自然语言处理模型的发展 自然语言处理(NLP 大模型的发展可以追溯到早期的简单的规则模型，再到后的机器学习，近十年崛起的神经网络和深度...
-
思科调查：超25%公司在内部实施了生成式AI禁令
根据思科(Cisco 日前进行的一项调查，尽管很多员工了解生成式AI在数据隐私方面的缺陷，但许多人仍在向ChatGPT等类似的AI应用程序输入敏感的公司数据。 思科针对全球12个国家的2600名隐私和安全专业人士进行的年度数据隐私基准调查表明，超过四分...
-
普通人如何搭上AIGC行业快车道？近屿智能带你来看AI就业新趋势
Look！?我们的大模型商业化落地产品 ?更多AI资讯请??关注 Free三天集训营助教在线为您火热答疑??? 从ChatGPT-3.5到最新推出的GPT-4，AI技术的进步正快速朝着模仿人类智能的方向发展。GPT-4不仅能深度理解文本和图像，还...