-
百度文心一言API4.0 Python调用ERNIE-4.0-8K详细教程
ERNIE 4.0是百度自研的旗舰级超大规模⼤语⾔模型，相较ERNIE 3.5实现了模型能力全面升级，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效，支持5K tokens输入+2K tokens输出。ERNIE-4.0-8K是模...
-
Midjourney Imagine API 申请及使用
Midjourney Imagine API 申请及使用 申请流程 要使用 Midjourney Imagine API，首先可以到 Midjourney Imagine API 页面点击「Acquire」按钮，获取请求所需要的凭证： 如果你尚未...
-
Meta Llama 3 性能提升与推理服务部署
利用 NVIDIA TensorRT-LLM 和 NVIDIA Triton 推理服务器提升 Meta Llama 3 性能 我们很高兴地宣布 NVIDIA TensorRT-LLM 支持 Meta Llama 3 系列模型，从而加速和优化您的 L...
-
在线教程｜零门槛部署 Llama 3，70B 版本只占 1.07G 存储空间，新用户免费体验 8B 版本
4 月 18 日，Meta 宣布开源 Llama 3，这个号称「迄今为止最好的开源大模型」一经发布，立刻引爆科技圈！ 发布当天恰逢斯坦福大学教授、AI 顶尖专家吴恩达的生日，作为 AI 开源倡导者，他激动地发文表示：这是我收到过最好的生日礼物，谢谢...
-
Llama网络结构介绍
LLaMA现在已经是开源社区里炙手可热的模型了，但是原文中仅仅介绍了其和标准Transformer的差别，并没有一个全局的模型介绍。因此打算写篇文章，争取让读者不参考任何其他资料把LLaMA的模型搞懂。 结构 如图所示为LLaMA的示意图，由Atte...
-
李开复、张亚勤对谈：大模型产业化，To B、To C哪个赛道更有机会？
6月15日消息，在第六届“北京智源大会”上，零一万物CEO、创新工场董事长李开复博士，中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤院士、智源研究院理事长黄铁军教授，三位行业领袖就大模型的成功因素、面临的挑战、产业化场景等多个热点话题展开了深入...
-
【论文精读】DALLE2: Hierarchical Text-Conditional Image Generation with CLIP Latents
文章目录 一、前言 （一）DALLE2 简介 （二）DALLE2和DALLE的对比 （三）相关模型推出时间 二、文章概要 （一）标题 （二）摘要 （三）引言 （四）模型架构 三、方法 （一）图像生成的相关工作 （二）diffusion...
-
Scaling Law触礁「数据墙」？Epoch AI发文预测LLM到2028年耗尽所有文本数据
【新智元导读】训练数据的数量和质量，对LLM性能的重要性已经是不言自明的事实。然而，Epoch AI近期的一篇论文却给正在疯狂扩展的AI模型们泼了冷水，他们预测，互联网上可用的人类文本数据将在四年后，即2028年耗尽。 数据和算力，是AI大模型最重要的两把...
-
大模型理解复杂表格，字节&中科大出手了
只要一个大模型，就能解决打工人遇到的表格难题! 字节联手中科大推出了一款统一表格理解大模型，可以以用户友好的方式解决多种表格理解任务。 同时提出的还有一套开源测试基准，可以更好地评估模型在表格理解任务上的表现。 该模型名为TabPedia，利用多模态大模...
-
使用LLaMA-Factory来实现微调ChatGLM-3B
前提：本文是使用阿里云的人工智能PAI平台的交互式建模（DSW）来进行的如下操作 安装LLaMA-Factory # 克隆项目 git clone https://github.com/hiyouga/LLaMA-Factory.git # 安装项目...
-
【腾讯云 HAI域探秘】——即时职场生存指南小游戏以及【自行搭建Stable Diffusion图片AI绘制 ChatGLM2-6B AI进行智能对话 Pytorch2
六、jupyter_lab操作步骤 1、进入jupyter_lab操作页面 操作页面效果 2、面板功能介绍 3、启动服务 命令如下，直接复制并【ctrl+v】即可 cd /root/stable-diffusion-webu...
-
区分LLaMA、llama.cpp和Ollama
大模型本地部署和运行中，经常遇到这三个概念，llama，ollama，llama.cpp。 刚开始接触时，的确有些傻傻分不清楚。这里简单区分理解下，方便快速上手。 简单来讲，llama 是一个Meta公司开源的预训练大型语言模型，llama.cpp用于加...
-
Meta-Llama-3-8B-Instruct本地推理
Meta-Llama-3-8B-Instruct 本地推理 基础环境信息（wsl2安装Ubuntu22.04 + miniconda） 使用miniconda搭建环境 (base :~$ conda create --name pyto...
-
【V831】智能语音对话：语音识别、文心一言回答、语音合成
1、实验设备 01科技的V831 2、总体概述 按下按键，蓝灯亮起，开始定时录音，录音结束，蓝灯熄灭。接着，通过百度的语音识别API进行语音转文字，得到文字后通过百度的文心一言API进行回答，得到的回答通过百度的语音合成API把回答的文字合成为音...
-
从零搭建部署最新AI系统源码ChatGPT网站AI绘画系统，图文详细搭建部署教程文档，Suno-AI音乐生成大模型
一、系统前言 SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。本期针对源码系统整体测试下来非常完美，那么如何搭建部署AI创作ChatGPT？小编这里写一个...
-
springboot+vue项目接入文心一言API
参考文心一言ERNIE-Bot 4.0模型流式和非流式API调用(SpringBoot+OkHttp3+SSE+WebSocket - autunomy - 博客园 (cnblogs.com 后端 引入依赖 <dependency>...
-
Dream Machine API完全指南：Luma AI视频生成工具使用方法教程与免费体验入口
探索Dream Machine API能为你带来哪些改变 为什么选择Dream Machine API？ Dream Machine API不仅仅是一款产品——它是一个革命性的技术，致力于自动化视频生成，通过异步检查视频生成状态，输出最新生成的视频链接。致...
-
Spring Boot后端调用文心一言响应式问答
Spring Boot后端调用文心一言响应式问答 1.获取文心服务 要在我们的后端服务中接入文心一言，就要获取文心的服务，首先我们要进入百度智能云中注册一个账号：https://console.bce.baidu.com/qianfan/ais/...
-
当AI与数学同时走下神坛
2024年4月13日，一场特别的考试开考。 数万名分散在全球各地的数学高手，在这一天早上8点打开了阿里巴巴全球数学竞赛预赛的试卷，他们有48小时，来攻克20分的选择题和100分的解答题。过去的6届，天才们在这个赛事里亮相，有17岁拿下IMO满分金牌的北大神...
-
Dream Machine API功能介绍及免费使用指南 LumaAI视频生成接口体验地址入口
Dream Machine API简介 Dream Machine API 是一款专注于自动化视频生成的技术工具。它通过使用 Dream Machine API 来生成视频，并异步检查视频生成状态，最终输出最新生成的视频链接。这款工具为需要自动化视频生成和...
-
Llama 3 CPU推理优化指南
备受期待的 Meta 第三代 Llama 现已发布，我想确保你知道如何以最佳方式部署这种最先进的 (SoTA LLM。在本教程中，我们将重点介绍如何执行仅权重量化 (WOQ 来压缩 8B 参数模型并改善推理延迟，但首先，让我们讨论一下 Meta Lla...
-
Stable Diffusion原理
一、Diffusion扩散理论 1.1、 Diffusion Model（扩散模型） Diffusion扩散模型分为两个阶段：前向过程 + 反向过程 前向过程：不断往输入图片中添加高斯噪声来破坏图像 反向过程：使用一系列马尔可夫链逐步将噪声还原...
-
【Python】我的第一个文心一言API调用
文章目录 前言 一、注册百度千帆大模型平台 1、注册账号，注册时按个人或企业选择创建 2、创建应用 3、明确模型收费规则 二、Python调用模型 1、找到对应调用方法 2、查看默认调用文档 3、选择python对应方法 2、标准结果显示...
-
基于Llama 2家族的提示词工程：Llama 2 Chat, Code Llama, Llama Guard
Prompt Engineering with Llama 2 本文是学习 https://www.deeplearning.ai/short-courses/prompt-engineering-with-llama-2/ 的学习笔记。...
-
用 Unsloth 微调 LLaMA 3 8B
用 Unsloth 微调 LLaMA 3 8B 今年4月份，Meta 公司发布了功能强大的大型语言模型（LLM）Llama-3，为从事各种 NLP 任务的开发人员提供了功能强大可以在普通机器上运行的开源LLM。然而，传统的 LLM 微调过程既耗时又耗费资...
-
买不到用户的大模型，开始倒闭了
拿到2000万元创业投资的大林，仅过了一年多，便在2024年3月解散了公司。随着大厂大模型开始0元购，“国内AI用户本来就不多，和大厂相比，B端企业拼不过价格，半年几乎没有商单可拿，C端用户推广，更是砸不过。” 投资人也从信任转向质疑，“没有用户增长，就没...
-
小米字节联手！小爱同学接入豆包大模型：手机、SU7已搭载
快科技6月13日消息，据字节旗下火山引擎”公众号介绍，小米旗下人工智能助手小爱同学”与火山引擎达成合作，双方基于豆包大模型实现更智能的AI交互体验。 据悉，字节跳动打造的豆包大模型，每日能够高效处理数量多达1200亿个的文本tokens、生成3000万张内...
-
stable diffusion官方版本复现
踩了一些坑，来记录下 环境 CentOS Linux release 7.5.1804 (Core 服务器 RTX 3090 复现流程 按照Stable Diffusion的readme下载模型权重、我下载的是stable-diffusio...
-
手把手从零搭建最新ChatGPT网站Midjourney绘画系统，图文详细搭建部署教程文档
一、系统前言 SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。本期针对源码系统整体测试下来非常完美，那么如何搭建部署AI创作ChatGPT？小编这里写一个...
-
[从0开始AIGC][Transformer相关]：一文看懂Transformer中的位置编码：绝对位置、相对位置、旋转位置编码
[从0开始AIGC][Transformer相关]：一文看懂Transformer中的位置编码 文章目录 [从0开始AIGC][Transformer相关]：一文看懂Transformer中的位置编码 1. 位置编码 1.1 绝对位...
-
国产Sora来了！清华发布视频生成大模型“视界一粟YiSu”
快科技6月12日消息，据媒体报道，北京极佳视界科技有限公司联合清华大学自动化系正式发布我国首个超长时长、高性价比的Sora级视频生成大模型视界一粟 YiSu”。 该大模型拥有模型原生的16秒超长时长，并可生成至1分钟以上视频。据介绍，YiSu模型成本更低、...
-
02：从文生图初窥Stable Diffusion，一键玩转AI绘画
前言 Stable Diffusion是一个什么架构呢，或者说是由哪些部分构成，各自发挥着怎么样的作用。我们就先从文生图开始探索 文生图 我们打开Stable Diffusion的webui，然后选择Stable Diffusion模型，然后选择...
-
RAG 与长文本，此消彼长还是相辅相成？
上周，PingCAP AI Lab 数据科学家孙逸神的文章《当前都在堆长窗口，还需要 RAG 吗？》从用户的角度谈了长窗口&RAG 的看法，引起了众多同行的围观，本周我们采访了张粲宇，看看搞向量数据库的业内人士，是怎么看待这个问题的？...
-
transformers 阅读：Llama 模型
正文 学习一下 transformers 库中，Llama 模型的代码，学习过程中写下这篇笔记，一来加深印象，二来可以多次回顾。 笔者小白，里面错误之处请不吝指出。 层归一化 LlamaRMSNorm transformers 中对于 Llam...
-
Karpathy 4小时AI大课上线，小白看了都会从零构建GPT-2
距上次Karpathy AI大课更新之后，又有了1个多月的时间。这次他带了超详细的4小时课程——从零开始实现1.24亿参数规模的GPT-2模型。 大神Karpathy新一期AI大课又上线了。 这一次，他讲的内容是——从头开始实现124M大小的GPT-2模型...
-
手机流畅运行470亿大模型：上交大发布LLM手机推理框架PowerInfer-2，提速29倍
苹果一出手，在手机等移动设备上部署大模型不可避免地成为行业关注焦点。 然而，目前在移动设备上运行的模型相对较小（苹果的是3B，谷歌的是2B），并且消耗大量内存，这在很大程度上限制了其应用场景。 即使是苹果，目前也需要与OpenAI合作，通过将云端GPT-4...
-
为什么很多AI应用创新往往诞生在中国？
2023年6月，英国《金融时报》一篇名为Gaming industry puts generative AI to the test的深度报道流传于中文互联网。 文中提到了一款名为“Justice Mobile”的手游，游戏中的NPC能跟玩家随意聊天，能和...
-
Stable Diffusion webUI 最全且简单配置指南
Stable Diffusion webUI 配置指南 本博客主要介绍部署Stable Diffusion到本地，生成想要的风格图片。 文章目录 Stable Diffusion webUI 配置指南 1、配置环境 （1）pip环境[...
-
大模型算法(一)：从Transformer到ViT再到LLaMA
单任务/单领域模型 深度学习最早的研究集中在针对单个领域或者单个任务设计相应的模型。 对于CV计算机视觉领域，最常用的模型是CNN卷积模型。其中针对计算机视觉中的不同具体任务例如分类任务，目标检测任务，图像分割任务，以CNN作为骨干backbone，加...
-
LLaMA详细解读
LLaMA 是目前为止，效果最好的开源 LLM 之一。精读 LLaMA 的论文及代码，可以很好的了解 LLM 的内部原理。本文对 LLaMA 论文进行了介绍，同时附上了关键部分的代码，并对代码做了注释。 摘要 LLaMA是一个系列模型，模型参数量从7B...
-
AIGC时代桌面软件开发技术展望
AIGC技术催生新一代桌面软件 现代大模型技术本质上是一种“NLP”技术，基于这个观点，文本描述驱动引擎就是AI技术落地无法规避的一道墙，每一个AI技术都必须实际的面对这个事实。就文本驱动技术而言，在一个token的两侧，分别插入一个...
-
Java对接文心一言
注册千帆大模型 首先就是注册百度的千帆大模型平台，第一次注册会送一张20元的优惠卷，可以用这个先免费用一段时间。 创建应用 目的：获得APIKey和SecretKey 注册以后进入到百度智能云控制台应用接入（百度智能云控制台 (baidu.com ...
-
谷歌推出全新AI代码辅助工具Code Assist，挑战GitHub Copilot｜TodayAI
在其Cloud Next大会上，谷歌推出了一款名为Code Assist的AI驱动代码完成工具。该工具原名为Duet AI，现增强了功能并与流行的编辑器兼容。 Code Assist不仅与GitHub的Copilot Enterprise直接竞争，还以百...
-
AIGC-Stable Diffusion进阶1(附代码)
在上篇文章中对Stable Diffusion进行了初步的认识，也给出了使用案例，这篇文章将进一步的去刨析一下SD模型。 SD模型的组成 在之前也讲过了，SD由CLIP、UNet、Schedule，VAE组成。再来回顾一下知识点： 1.CLIP Te...
-
大模型系列：LLaMA大模型简述和本地部署实践
内容摘要 LLaMA大模型背景介绍 LLaMA网络结构相比Transformer的改进 LLaMA中文化Atom大模型简述 在Python中调用HuggingFace LLaMA模型 基于text-generation-webui部署LLaMA问答平...
-
【大模型】LLaMA-1 模型介绍
文章目录 一、背景介绍 二、模型介绍 2.1 模型结构 2.2 模型超参数 2.3 SwiGLU 三、代码分析 3.1 模型结构代码 3.2 FairScale库介绍 四、LLaMA家族模型 4.1 Alpaca 4.2 Vicuna...
-
自然语言处理（NLP）技术在AIGC中的突破
本文收录于专栏：精通AI实战千例专栏合集 https://blog.csdn.net/weixin_52908342/category_11863492.html 从基础到实践，深入学习。无论你是初学者还是经验丰富的老手，对于本专栏案例和项目实践...
-
最新AI创作系统ChatGPT网站源码Midjourney-AI绘画系统，Suno-v3-AI音乐生成大模型。
一、前言 SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。本期针对源码系统整体测试下来非常完美，那么如何搭建部署AI创作ChatGPT？小编这里写一个详细...
-
AIGC从入门到实战：AI 辅助写作：基于 ChatGPT 的自动创作和文本扩展
1. Background Introduction In the rapidly evolving digital age, artificial intelligence (AI has become an indispensable tool i...
-
LLaMa系列模型详解（原理介绍、代码解读）：LLaMa
LLaMA详解 LLaMA（Large Language Model Meta AI）是由Meta（前身为Facebook）开发的一种大规模语言模型，旨在提高自然语言处理（NLP）任务的性能。LLaMA基于变换器（Transformer）架构，并经过大...