-
玩LLM和StableDiffusion常说的LoRA到底是什么
论文地址：LoRA: Low-Rank Adaptation of Large Language Models LoRA是一种用于adapters和大模型迁移的技术,全称为Low-Rank Adaptation of Large Language M...
-
大语言模型之LlaMA系列- LlaMA 2及LLaMA2_chat(上)
LlaMA 2是一个经过预训练与微调的基于自回归的transformer的LLMs，参数从7B至70B。同期推出的Llama 2-Chat是Llama 2专门为对话领域微调的模型。 在许多开放的基准测试中Llama 2-Chat优于其他开源的聊天模型，此外...
-
AIGC知识速递——Google的Bert模型是如何fine-tuning的？
Look！👀我们的大模型商业化落地产品 📖更多AI资讯请👉🏾关注 Free三天集训营助教在线为您火热答疑👩🏼🏫 选择合适的预训练模型： 从预训练的BERT模型开始，例如Google 提供的BERT-base 或 BERT-large。这些模型已经...
-
网大为卸任腾讯CXO；Midjourney 1 月训练视频模型；2023年马斯克赚了7700亿
投融资 • 2023 年大型科技公司在生成式 AI 初创企业上的投资远超风险投资集团 • 恒信东方与无锡政府合作成立布局 MR/XR 技术及 3D 数字资产 AIGC 产业投资基金 • 新公司法完善注册资本认缴登记制度 • 网大为卸任腾讯CXO，曾促成...
-
OS-AIGC通用生成式人工智能模型加密接入标准API协议-2023 Beta版
说明 OS-AIGC通用生成式人工智能模型加密接入标准API协议（Universal Language Model Encryption Access Standard API Protocol）国内的通用语言大模型的加密接入标准API协议。能够适配各种...
-
2023-12-12 AIGC-AI工具的基本工作原理
摘要: 2023-12-12 AIGC-AI工具的基本工作原理 AI工具的基本工作原理 AI工具的基本工作原理涉及到一系列复杂的技术和算法。这些原理可以根据不同类型的AI工具进行概括，包括机器学习、自然语言处理、图像识别等。以下是一些关键的A...
-
ChatGPT论文：大语言模型LLM之战:Dolly、LLaMA 、Vicuna、Guanaco、Bard、ChatGPT--在自然语言转SQL(NL2SQL、Text-to-SQL)的比较（一）
摘要 ChatGPT的成功引发了一场AI竞赛，研究人员致力于开发新的大型语言模型（LLMs），以匹敌或超越商业模型的语言理解和生成能力。近期，许多声称其性能接近GPT-3.5或GPT-4的模型通过各种指令调优方法出现了。作为文本到SQL解析的从业者，我...
-
最近超火的AI 浏览器 Arc，是“下一个互联网”还是只是另一个Chrome？
如果要列出最近硅谷最火的几个AI产品，Arc浏览器绝对是其中之一。 他们发布了一系列很高调的宣传片，对产品做了更新，并且在社交媒体上已经攒起来了一片用户好评。 在宣传片中，他们表示，这不只是一款浏览器，而是“一个跟互联网同等规模的平台”。 这款浏览器背后的...
-
飞浆AI studio人工智能课程学习（1）-大模型时代&优质Prompt
文章目录 大模型时代&优质Prompt Al生成技术价值概览 开始构建你的优质prompt 近十年深度学习模型主要更迭 为什么大模型能够有如此强大的表现力 大模型与Prompt 例1： 画一幅画，呆萌的小猫躺在大泡泡中 例2：请生成...
-
AI浏览器Arc走红 重新定义浏览体验
最近备受关注的AI浏览器Arc，由硅谷公司The Browser Company推出。通过一系列高调的宣传和更新，Arc已经积累了许多用户好评，自称不仅是一款浏览器，更是一个与互联网同等规模的平台。 Arc浏览器的最新设计着重于改变网页浏览的交互逻辑。标...
-
ChatLaw：基于LLaMA微调的法律大模型
文章目录 动机 数据组成 模型框架 模型评估 北大团队发布首个的中文法律大模型落地产品ChatLaw，为大众提供普惠法律服务。模型支持文件、语音输出，同时支持法律文书写作、法律建议、法律援助推荐。 github地址：https://g...
-
拥抱AIGC，应用AIGC，「AIGC短视频+数字人运营学习路线图」30天挑战。
交流学习，联系我V：YuanRangEDU 第 01 天（周一）： 分组，破冰，自我介绍，AI工具链安装初体验。 GPT，文心一言，Midjourney，Discord，SD，pikalabs，fliki，剪映等等。...
-
一文搞懂使用 Arthur Bench 进行 LLM 评估
Hello folks，我是 Luga，今天我们来聊一下人工智能(AI 生态领域相关的技术 - LLM 评估 。 一、传统文本评估面临的挑战 近年来，随着大型语言模型(LLM 的快速发展和改进，传统的文本评估方法在某些方面可能已经不再适用。在文本评估领...
-
击败OpenAI，权重、数据、代码全开源，能完美复现的嵌入模型Nomic Embed来了
一周前，OpenAI 给广大用户发放福利，在下场修复 GPT-4 变懒的问题后，还顺道上新了 5 个新模型，其中就包括更小且高效的 text-embedding-3-small 嵌入模型。 我们知道，嵌入是表示自然语言或代码等内容中概念的数字序列。嵌入使...
-
快速入门ChatGPT和AIGC：底层原理、热门工具、行业现状【我们能做什么】
最近大家热议的ChatGPT和AI绘画工具的底层技术原理是什么？是如何发展到现在的？有哪些应用场景、热门工具？AIGC产业上下游有哪些公司？作为普通用户，我们还能接触哪些应用AI技术打造的商业解决方案？…… 我们查阅了AIGC相关相关的调研报告和各类资料...
-
基于医疗领域数据微调LLaMA——ChatDoctor模型
文章目录 ChatDoctor简介 数据构建和训练过程 建立外部知识库 ChatDoctor相比ChatGPT有什么优势？ ChatDoctor的效果 代码解读 train_lora.py文件解读 微调实战 下载仓库并进入目录 创建con...
-
十分钟读完「降低 LLaMA 模型微调内存占用的QLoRA」论文
QLoRA 提出内存高效的微调方法！降低 LLaMA 模型微调内存占用，仅需数小时追赶 ChatGPT 引言：大模型微调的新时代 随着人工智能技术的飞速发展，大型语言模型（Large Language Models，LLMs）已成为自然语言处理领域的重...
-
Stable Diffusion XL Turbo 文生图和图生图实践
本篇文章聊聊，如何快速上手 Stable Diffusion XL Turbo 模型的文生图和图生图实战。 写在前面 分享一篇去年 11 月测试过模型，为月末分享的文章做一些技术铺垫，以及使用新的环境进行完整复现。 本篇文章相关的代码保存在 sou...
-
【网安AIGC专题10.19】论文6（顶会ISSTA 2023）：提出新Java漏洞自动修复数据集：数据集 VJBench+大语言模型、APR技术+代码转换方法+LLM和DL-APR模型的挑战与机会
How Effective Are Neural Networks for Fixing Security Vulnerabilities 写在最前面 摘要 贡献 发现 介绍 背景：漏洞修复需求和Java漏洞修复方向 动机 方法 贡献...
-
GRUP MEDIAPRO宣布与微软成立AI合成媒体实验室
GRUP MEDIAPRO 在 ISE 展会的框架内，宣布与微软合作，启动了一个人工智能和合成媒体实验室。这是两家公司为了为音像行业开发解决方案而共享技术和商业知识的一个重要步骤。 GRUP MEDIAPRO 和微软的合作基于以人为本的理念，同时承诺在人...
-
ChatGPT is not all you need，一文看尽SOTA生成式AI模型：6大公司9大类别21个模型全回顾（三）
文章目录 ChatGPT is not all you need，一文看尽SOTA生成式AI模型：6大公司9大类别21个模型全回顾（三） Text-to-Text 模型 ChatGPT LaMDA PEER Meta AI Speech f...
-
陶哲轩上新项目：Lean中证明素数定理，研究蓝图都建好了
「由 Alex Kontorovich 和我领导的一个新的 Lean 形式化项目刚刚正式宣布，该项目旨在形式化素数定理（prime number theorem，PNT）的证明，以及伴随而来的复分析和解析数论的支持机制，并计划给出进一步的结果如 Cheb...
-
Stable Diffusion学习
参考 Stable Diffusion原理详解_stable diffusion csdn-CSDN博客 Stable Diffusion是stability.ai开源的图像生成模型，可以说Stable Diffusion的发布将AI图像生成提高到了全新...
-
探索星辰大海：成为AIGC大模型领域的精英 - 近屿智能OJAC深度训练营招募中！
朋友，面对AIGC这股新的AIGC技术革命浪潮，您还在旁观吗？ 近屿智能OJAC第六期AIGC星辰大海：大模型工程师和产品专家线上训练营，正在寻找像您这样有梦想、有热情的学员！OJAC的AIGC星辰大海第六期训练营，一个为您量身打造的AI大模型学习之...
-
OT系统如何应对生成式AI带来的安全挑战？
如今，大多数网络攻击主要使用两种方法：数据泄露和数据加密。这些策略被证明是有效的，因为攻击者可以通过威胁发布泄露的数据或要求支付解密费用来勒索钱财。这些攻击虽有恶意，但程度有限。他们的目标通常不是给人们造成重大伤害，但也有攻击者走得更远的情况。 在现代...
-
【AIGC】从零手写一个GPT
手写一个GPT 在GPT，确切的说是Transformer，出现之前，一个问题长久地困扰着人们——如何让两句内容不同、但语义相近的句子得到较为接近的表示。 比如我们有两句话 我喜欢你 吾中意你 它们作为句子内容并不一样，但是表达的含义却...
-
全球代码质量骤降，罪魁祸首竟是AI！1.53亿行代码深度分析报告出炉
AI正在使全球的代码质量下降！ 最近，GitClear发布的一项调查报告显示，用AI写代码，会让代码的质量和可维护性不断下降。 这引起了全网热烈讨论： 「借助AI提供商，您可以将代码生成速度提高50%（即使是您不理解或无法编写的代码），但代价是代码的质...
-
无需人工标注！LLM加持文本嵌入学习：轻松支持100种语言，适配数十万下游任务
文本嵌入（word embedding）是自然语言处理（NLP）领域发展的基础，可以将文本映射到语义空间中，并转换为稠密的矢量，已经被广泛应用于各种自然语言处理（NLP）任务中，如信息检索（IR）、问答、文本相似度计算、推荐系统等等， 比如在IR领域，第...
-
ChatGPT惊艳更新，一个@让三百万GPTs为你打工
ChatGPT悄悄更新个大功能!看起来要把插件系统迭代掉了。 部分（灰度）用户已经收到这样的提示: 现在可以在对话中@任意GPT商店里的GPTs，就像在群聊中@一个人。 体验到的博主Dan Shipper第一时间录视频激动地分享:一个改变游戏规则的功能。...
-
RAG高阶技巧-如何实现窗口上下文检索
在本文中，我们将介绍一种提高RAG（Retrieval-Augmented Generation）模型检索效果的高阶技巧，即窗口上下文检索。我们将首先回顾一下基础RAG的检索流程和存在的问题，然后介绍窗口上下文检索的原理和实现方法，最后通过一个实例展...
-
ChatGPT惊艳更新！一个@让三百万GPTs为你打工
部分(灰度 用户已经收到这样的提示： 现在可以在对话中@任意GPT商店里的GPTs，就像在群聊中@一个人。 体验到的博主Dan Shipper第一时间录视频激动地分享：一个改变游戏规则的功能。 在他的演示中，按过去的工作流程还需要手动把与ChatGP...
-
让知识图谱成为大模型的伴侣
大型语言模型(LLM 能够在短时间内生成非常流畅和连贯的文本，为人工智能的对话、创造性写作和其他广泛的应用开辟了新的可能性，然而，LLM也有着一些关键的局限性。它们的知识仅限于从训练数据中识别出的模式，这意味着缺乏对世界的真正理解。同时，推理能力也是有限...
-
18LLM4SE革命性技术揭秘：大型语言模型LLM在软件工程SE领域的全景解析与未来展望 - 探索LLM的多维应用、优化策略与软件管理新视角【网安AIGC专题11.15】作者汇报 综述
Large Language Models for Software Engineering: A Systematic Literature Review 写在最前面 论文名片 课堂讨论 RQ1部分：LLMs的选择和优化 RQ2部分：LLM...
-
百度“文心一言”大模型(ERNIE)发布了，对标ChatGPT
大家好，我是微学AI，今天给大家介绍一下基于大语言模型的背景下，国内外的发展现状，以及百度的“文心一言”大模型。 一、自然语言处理模型的发展 自然语言处理(NLP 大模型的发展可以追溯到早期的简单的规则模型，再到后的机器学习，近十年崛起的神经网络和深度...
-
思科调查：超25%公司在内部实施了生成式AI禁令
根据思科(Cisco 日前进行的一项调查，尽管很多员工了解生成式AI在数据隐私方面的缺陷，但许多人仍在向ChatGPT等类似的AI应用程序输入敏感的公司数据。 思科针对全球12个国家的2600名隐私和安全专业人士进行的年度数据隐私基准调查表明，超过四分...
-
普通人如何搭上AIGC行业快车道？近屿智能带你来看AI就业新趋势
Look！👀我们的大模型商业化落地产品 📖更多AI资讯请👉🏾关注 Free三天集训营助教在线为您火热答疑👩🏼🏫 从ChatGPT-3.5到最新推出的GPT-4，AI技术的进步正快速朝着模仿人类智能的方向发展。GPT-4不仅能深度理解文本和图像，还...
-
AIGC：文生图模型Stable Diffusion
1 Stable Diffusion介绍 Stable Diffusion 是由CompVis、Stability AI和LAION共同开发的一个文本转图像模型，它通过LAION-5B子集大量的 512x512 图文模型进行训练，我们只要简单的输入一段文...
-
FlashAttention2原理解析以及面向AIGC的加速实践
FlashAttention-2提出后，便得到了大量关注。本文将具体讲述FlashAttention-2的前世今生，包括FlashAttention1&2的原理解析、加速效果比较以及面向AIGC的加速实践，在这里将相关内容与大家分...
-
30岁以下的人都去哪儿了？OpenAI费尽心机吸引年轻人
编译 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） 比尔盖茨的博客栏目「与比尔·盖兹一起解惑」近日大火，OpenAI首席执行官奥特曼表示，OpenAI“不是由一群24岁的程序员运营的”，并表示这很令人担忧。 目前，许多热门的AI...
-
RAG实战 7 - 使用llama_index实现多模态RAG
LLM之RAG实战（七）| 使用llama_index实现多模态RAG 文章目录 LLM之RAG实战（七）| 使用llama_index实现多模态RAG 一、多模态RAG 二、多模态LLM 三、多模态嵌入 四、多模态索引与检索 五、多...
-
AIGC带来的产业投资机会：全球视角下的产业洞察
AIGC （AI生成内容），是指利用人工智能技术生成各种形式的内容，如文本、图像、音频、视频，典型应用如ChatGPT、Midjourney等。AIGC技术在近年来得到了飞速的发展，为各个领域带来了巨大的变革和价值。与此同时，AIGC技术也催生了全球范围内...
-
Stable Diffusion - 扩展 SegmentAnything 和 GroundingDINO 实例分割算法 插件的配置与使用
欢迎关注我的CSDN：https://spike.blog.csdn.net/ 本文地址：https://blog.csdn.net/caroline_wendy/article/details/131918652 Paper and GitHub：...
-
「宇宙大爆炸」证明者去世！发现宇宙背景辐射获诺贝尔奖，享年90岁
诺贝尔物理学奖获得者、证明了宇宙大爆炸理论的美国物理学家和射电天文学家Arno Allan Penzias，于周一在旧金山辞世，享年90岁。 对此，同在贝尔实验室工作过的图灵奖得主Yann LeCun，也发文表达了悼念之情。 物理学和天文学泰斗 A...
-
stable diffusion模型训练时数据量
文生图模型之Stable Diffusion - 知乎通向AGI之路码字真心不易，求点赞！ https://zhuanlan.zhihu.com/p/6424968622022年可谓是 AIGC（AI Generated Content）元年，上半年有文生...
-
AI作画的背后是怎么一步步实现的？一文详解AI作画算法原理+性能评测
前言 “AI作画依赖于多模态预训练，实际上各类作画AI模型早已存在，之所以近期作品质量提升很多，可能是因为以前预训练没有受到重视，还达不到媲美人类的程度，但随着数据量、训练量的增多，最终达到了现在呈现的效果。”远在AI作画还没有爆火之前，深度学习就已经...
-
Llama 2- Open Foundation and Fine-Tuned Chat Models＜3＞
3.4 RLHF 结果 3.4.1 基于模型的评估 评估LLMs是一个具有挑战性的开放研究问题。人类评估虽然是黄金标准，但可能会因各种 HCI 考虑因素而变得复杂（Clark 等人，2021；Gehrmann 等人，2023），并且并不总是可扩展的...
-
提示词（prompt）工程指南（五）：ChatGPT 提示工程
在本节中，我们介绍ChatGPT的最新提示工程技术，包括提示、应用、限制、论文和其他阅读资料。 完整的中文版本指南和更丰富的参考资料在 Github 和 Gitee 中，自动持续翻译更新： 🐙 关于提示词工程（prompt）的指南、论文、讲座、笔记...
-
大模型 Dalle2 学习三部曲（一）Latent Diffusion Models学习
引言 Diffusion model大获成功，但是它的短板也很明显，需要大量的计算资源，并且推理速度比较慢。如何才能提升Diffusion model的计算效率。业界有各种各样的改进，无疑Latent Diffusion Models（潜在扩散模...
-
扩散模型 - Stable Diffusion
4 Stable Diffusion Stable Diffusion 是由 Stability AI 开发的开源扩散模型。Stable Diffusion 可以完成多模态任务，包括：文字生成图像（text2img）、图像生成图像（img2img）...
-
自然语言处理的革命：AI大模型在AIGC领域的应用
1.背景介绍 自然语言处理（NLP）是人工智能（AI）领域的一个重要分支，其主要关注于计算机理解、生成和处理人类语言。自从2012年的深度学习革命以来，NLP 领域的研究取得了巨大进展，尤其是在自然语言生成和机器翻译等方面。然而，直到2020年，GPT-...