-
【Python】科研代码学习:十六 Model架构的代码细节,附架构图:Llama 为例 (v4.28.0)
【Python】科研代码学习:十六 Model与网络架构 的代码细节:Llama 为例(v4.28.0) 前言 导入依赖 `LlamaRMSNorm`:改进的 层正则化 `LlamaRotaryEmbedding`:旋转式位置编码 `Llama...
-
陶哲轩点破「天机」:不懂数学别想靠ChatGPT飞升!
【新智元导读】冲锋在AI辅助数学研究第一线的陶哲轩,近日又有「神总结」:ChatGPT提升的,是我们在编码、图表等次要任务上的能力;而真要搞好数学研究,基础不扎实的话,AI也是没用的。 使用ChatGPT一年半了,陶哲轩的感想如何? 最近,一直冲锋在探索A...
-
LLaMA-Factory环境安装-重点总结
问题:在使用官网介绍的博客,进行安装,比较顺利。只不过,在需要推理加速时,UI界面上,给出的选项所支持的FlashAttention-2和Unsloth,不好实现。在进行一系列的调整,总结如下: 想要同时实现FlashAttention-2和Unslot...
-
好像也没那么失望!SD3玩起来,Stable Diffusion 3工作流商业及广告设计(附安装包)
今天基于SD3 base 工作流来尝试进行下广告设计,这要是一配上设计文案,视觉感就出来了。下面来看看一些效果展示~ SD3 Medium模型及ComfyUI工作流下载地址:文末领取! 1.清凉夏日——西瓜音乐会 提示词: a guitar with...
-
用 stable diffusion 做图文女装号,开启你的带货之旅!!
对于很多入门级的新人来说,很想做副业,但是会遇见各种各样的问题,比如不会写文案,不会拍摄视频,不会剪辑视频,不会二次创作,导致没有原创的作品,直接搬运没有流量等,基于这些原因,很多人都只是观望,过段时间后又该干啥干啥了。 图文带货目前在各大平台都很火,不...
-
Llama 3 超级课堂 作业
1.web demo部署 环境配置 conda create -n llama3 python=3.10 conda activate llama3 conda install pytorch==2.1.2 torchvision==0.16.2...
-
AIGC工具全面解析: 优缺点一目了然
目录 AIGC工具全面解析: 优缺点一目了然 优点 1. 准确性高 2. 多领域支持 3. 自动学习和迭代 缺点 1. 可能存在较高的错误率 2. 受限于训练数据 3. 缺乏主动性和创造力 结论 AIGC工具全面解析: 优缺点一...
-
通过Llama Index实现大模型的SQL生成的三种方法详解
通过Llama Index实现大模型的SQL生成的三种方法详解 文中使用了chatglm的llm和embedding modle,利用的智谱的免费token Text2SQL其实就是从文本到SQL,也是NLP中的一种实践,这可以降低用户和数...
-
Llama 3 超级课堂 -笔记
课程文档: https://github.com/SmartFlowAI/Llama3-Tutorial 课程视频:https://space.bilibili.com/3546636263360696/channel/series 1 环境配置...
-
[AIGC] 深入了解Hutool的Dict工具
Hutool是为Java编程语言设计的一系列轻量级通用工具集,其中包含了处理数组、日期、I/O流、加密解密等各种常见的工作场景所需要的工具。 在这其中,Dict是Hutool中一个非常有用的工具,下面我们就来深入了解一下它。 什么是Dict?...
-
vue前端实现导出页面为word(两种方法)
将vue页面导出为word文档,不用写模板,直接导出即可。 第一种方法(简单版 第一步:安装所需依赖 npm install html-docx-js -S npm install file-saver -S 第二步:创建容器,页面使用...
-
[AIGC] Guava Library 中常用的一些工具类详解
Google Guava 是一个功能强大的 Java 库,它提供了大量用于优化代码和提高代码质量的工具。该库提供了许多常用的实用类,下面我们来详细介绍一些在编程应用开发中经常需要的。 文章目录 1. 集合类 2. I/O 类 1....
-
AMD 7000系列显卡部署Stable Diffusion(Ubuntu 22.04)
OS Ubuntu 22.04.4 LTS 64-bit GPU AMD® Radeon rx 7600 前言 Ubuntu 22.04 安装 ROCm6.0教程+踩坑http://t.csdnimg.cn/d9vLb 由于之前已经安装了ROCm6...
-
llama-factory训练RLHF-PPO模型
理论上RLHF(强化学习)效果比sft好,也更难训练。ppo有采用阶段,步骤比较多,训练速度很慢. 记录下工作中使用llama-factory调试rlhf-ppo算法流程及参数配置,希望对大家有所帮助. llama-factory版本: 0.8.2...
-
LLaMA-Factory实战推理
LLaMA-Factory官网:https://github.com/hiyouga/LLaMA-Factory 安装环境 git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaM...
-
GPTs官网入口 OpenAI可定制ChatGPT使用地址方法教程与免费试用入口
探索GPTs能为你带来哪些改变 为什么选择GPTs? GPTs不仅仅是一款产品——它是一项革命性的技术,致力于为用户提供定制化的ChatGPT体验。致力于提供无需编码即可创建定制化GPT的功能,GPTs旨在为教育工作者、技术开发者以及希望提升工作效率的个人...
-
文心一言发展历史
文心一言(英文名:ERNIE Bot)的发展历史可以清晰地分为几个阶段,以下将结合参考文章中的相关数字和信息,以分点表示和归纳的形式呈现: 一、早期研发历程 ERNIE 1.0的发布: 时间:2019年3月16日 内容:百度正式发布知识增强...
-
使用LMDeploy部署和量化Llama 3模型
## 引言 在人工智能领域,大型语言模型(LLMs)正变得越来越重要,它们在各种自然语言处理任务中发挥着关键作用。Llama 3是近期发布的一款具有8B和70B参数量的模型,它在性能和效率方面都取得了显著的进步。为了简化Llama 3的部署和量化过程,lm...
-
AI绘画工具介绍及使用教程
AI绘画工具介绍及使用教程 目录 引言 AI绘画工具简介 常见的AI绘画工具 DeepArt DeepDream Artbreeder DALL·E 使用教程 DeepArt使用教程 DeepDream使用教程 Artbr...
-
android集成百度文心一言实现对话功能,实战项目讲解,人人都能拥有一款ai应用
大家好,今天给大家讲解下如何实现一个基于百度文心一言的app功能,app内部同时集成了讯飞的语音识别。本文适用于有android基础的小伙伴阅读,文章末尾放上本项目用到的全部实例代码,在使用前请务必看完本文章。 先来给大家看看效果。 百度文心一...
-
【AIGC】基于大模型+知识库的Code Review实践
目录 一、背景描述 二、技术原理 三、基于大模型与知识库的Code Review实践 1、选择合适的大模型与知识库 2、集成大模型与知识库到Code Review流程 3、结合人工审查 4、持续优化与改进 四、技术细节 1、gitlab配...
-
Whisper(语音识别,语音转文本)本地部署
一、安装好ffmpeg 1、安装ffmpeg,这个好像是用于对音频文件解析和处理的,具体不态清楚 ffmpeg安装教程 2、后面可能出现的问题 如果后面运行时,出现 系统找不到指定文件 的bug时,尝试在上一步添加环境变量中,也添加一个系统变...
-
Llama_index利用本地大模型工具ollama(CPU)
基于ollama的本地大模型的LlamaIndex示例代码 from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings from llama_index....
-
百度文心一言 java 支持流式输出,Springboot+ sse的demo
参考:GitHub - mmciel/wenxin-api-java: 百度文心一言Java库,支持问答和对话,支持流式输出和同步输出。提供SpringBoot调用样例。提供拓展能力。 1、依赖 <dependency> <group...
-
Stable Diffusion WebUI 笔记本低显存无魔法本地安装使用(三)--- 安装相关python环境
先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7 深知大多数程序员,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前! 因此收集整理了一份《2024年最新Python全套学习资...
-
Apache Flink类型及序列化研读&生产应用|得物技术
一、背景 序列化是指将数据从内存中的对象序列化为字节流,以便在网络中传输或持久化存储。序列化在Apache Flink中非常重要,因为它涉及到数据传输和状态管理等关键部分。Apache Flink以其独特的方式来处理数据类型以及序列化,这种方式包括它自身...
-
音频转文本--我们选择faster-whisper
faster-whisper能用来做什么? 可以将视频文件中的音轨自动转换为文字。 所以,字幕组是要失业了么? 试试看吧,看看转化效果如何。 使用faster-whisper,最好选择python3...
-
Stable Diffusion部署教程,开启你的AI绘图之路
本文环境 系统:Ubuntu 20.04 64位 内存:32G 环境安装 2.1 安装GPU驱动 在英伟达官网根据显卡型号、操作系统、CUDA等查询驱动版本。官网查询链接https://www.nvidia.com/Download/index....
-
将 Llama 3 与 Ollama 和 Python 结合使用 使用 Ollama API 访问这一领先模型
Meta 最近发布的新法学硕士 Llama 3 在人工智能领域引起了轰动。例如,请查看我对下面型号的 70B 版本的评论和测试。 在我的测试中,Llama 3 令人印象深刻,但它们是使用聊天界面进行的。如果您想对此模型进行编程以执行有用的任务或使用 Py...
-
LlamaFactory-Ollama-Langchain大模型训练-部署一条龙
前言 近些日子,大模型火的一塌糊涂,那么现在就有义务要学习一套好用的、从 dataset --> train --> deploy 的一整套流程,好拿来装逼。话不多说,进入正题 Train 框架 目前好用的框架太多,如BELLE, C...
-
Stable Diffusion WebUI 安装记录[Ubuntu服务器]
前言 在远程服务器(Ubuntu)上安装Stable Diffusion WebUI。服务器是4090,所以在服务器上配置。原本是MobaXterm SSH连接服务器,建议用vscode连接。 尝试了给服务器出海但不知道为什么还是不行。GitHub上我...
-
本地搭建LLaMA-Factory环境进行大模型调优
LLaMA Factory LLaMA Factory快速对大模型进行快速调优,本文看一下如何本地搭建环境并调优,本文使用 ModelScope 社区中的模型,模型在国内,下载速度非常友好。 下载最新代码 ## LLaMA Factory官方 git...
-
用AI制作历史解说视频:GPT + MidJourney + PiKa + FunSound + 剪映
1. 项目介绍 最近某站看到一个看到利用AI创作视频解说,成品画面很酷炫。对此以初学者视角进行复现,创意来源:用AI制作历史解说视频 2. 开始创作 我们参照原作者展示的内容,对古代人物屈原来生成解说视频。 2.1 故事脚本+分镜 【由GP...
-
AIGC工具使用指南与测评报告
目录 AIGC工具使用指南与测评报告 1. 引言 2. AIGC使用指南 2.1 安装和设置 2.2 与AIGC进行对话 2.3 提高对话质量 3. 测评报告 4. 结论 AIGC工具使用指南与测评报告 1. 引言 AIGC(A...
-
AIGC的底层技术世界:原理、挑战与机遇
目录 AIGC的底层技术世界:原理、挑战与机遇 1. AIGC的原理 2. AIGC面临的挑战 3. AIGC带来的机遇 结论 AIGC的底层技术世界:原理、挑战与机遇 AIGC(AI对话大师调用的聊天生成语言大模型)是一款基于强大的语...
-
[Bug]使用Transformers 微调 Whisper出现版本不兼容的bug
错误的现象 ImportError Traceback (most recent call last <ipython-input-20-6958d7eed552> in ( from transformers...
-
llama.cpp 编译安装@Ubuntu
在Kylin 和Ubuntu编译llama.cpp ,具体参考:llama模型c语言推理@FreeBSD-CSDN博客 下载代码并编译: git clone https://github.com/ggerganov/llama.cpp cd llama...
-
whisper报错:hp, ht, pid, tid = _winapi.CreateProcess [WinError 2] 系统找不到指定的文件。
in _execute_child hp, ht, pid, tid = _winapi.CreateProcess(executable, args, FileNotFoundError: [WinError 2] 系统找不到指定的文件。 原因: 没...
-
【大模型部署】在C# Winform中使用文心一言ERNIE-3.5 4K 聊天模型
【大模型部署】在C# Winform中使用文心一言ERNIE-3.5 4K 聊天模型 前言 今天来写一个简单的ernie-c#的例子,主要参考了百度智能云的例子,然后自己改了改,学习了ERNIE模型的鉴权方式,数据流的格式和简单的数据解析,实现了在...
-
Stable Diffusion Mjdjourney新手超详细安装教程,亲测有效
安装 Stable Diffusion 需要一定的技术基础和系统配置。以下是基本的安装方法,适用于 Windows 系统。 前提条件 兼容的 GPU:建议使用支持 CUDA 的 NVIDIA GPU。 Python 3.7+:确保已安装 Pytho...
-
ubuntu部署stable-diffusion-webui
1、下载stable-diffusion-webui 我这里使用的是阿里的oss缓存,可以直接下载 wget https://pai-vision-data-sh.oss-cn-shanghai.aliyuncs.com/aigc-data/code/...
-
AIGC笔记--Stable Diffusion源码剖析之UNetModel
1--前言 以论文《High-Resolution Image Synthesis with Latent Diffusion Models》 开源的项目为例,剖析Stable Diffusion经典组成部分,巩固学习加深印象。...
-
用爬虫带你感受AIGC的力量
先带各位再重温一下爬虫 爬虫,可以解释为爬取网页中的数据,收集和提取互联网上的数据。首先我们需要做什么呢?第一步:发出http请求,获取html字符串;第二步:对字符串做查找正则,伪代码;第三步:聚焦,聚焦在所要的数据标签比如table、title、pi...
-
[AIGC] 使用Flink SQL统计用户年龄和兴趣爱好
Apache Flink是一个具有强大计算能力、高吞吐量、低延迟的分布式计算框架,它支持批计算和流计算。Flink SQL是Flink ecosystem的一部分,是一种对结构化数据进行批和流处理的声明式语言。本文以一个简单的实例讲解如何使用Flink S...
-
如何使用 Midjourney换脸,将一个人面部复制并粘贴到任意人身上
嘿,想不想将一个人的面部随意粘贴到任意人身上?现在开始教学如何使用 Discord 中的Midjourney Bot 实现,这就是“COPY A FACE”这个超酷的功能,它能帮你一键把脸贴到任何图片上。用到的是一个叫“InsightFace”的开源Dis...
-
国内如何申请 Midjourney API (mj接口),一次教会你
众所周知Midjourney 并未提供API接口服务,那要如何才能使用Midjourney 的接口呢?通过千搜万搜终于让我找到一个这种平台,同时支持 Mid journey proxy Plus 以及 Mid journey proxy 接口协议,基本支持...
-
Omost - 一句话即可AI绘画,自动生成关键词,本地一键整合包
近日,ControlNet的作者推出了一个全新的项目——Omost。这个项目对现有图像模型的提示词理解有着巨大的帮助。通过很短的提示词,就可以生成非常详细并且空间表现很准确的图片。划重点,这个项目需要8G显存显卡运行,据说老显卡,比如10系可能用不了,具体...
-
图像生成新篇章:Stable Diffusion 3 Medium开源评析
摘要 在数字艺术与人工智能的交汇点上,Stable Diffusion 3(SD3)的开源无疑是一场技术革新的盛宴。就在3月份,我撰写了一篇博文,深入探讨了SD3的技术报告内容与介绍,文章发表在CSDN博客上,https://blog.c...
-
AI初识--LLM、ollama、llama都是些个啥?
LLM全称(large language model)也就是大语言模型 什么是Ollama,它与Llama是什么关系? Ollama是一个开源的 LLM(大型语言模型)服务工具,用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大模型的开发者...
-
新手教程之使用LLaMa-Factory微调LLaMa3
文章目录 为什么要用LLaMa-Factory 什么是LLaMa-Factory LLaMa-Factory环境搭建 微调LLaMA3 参考博文 为什么要用LLaMa-Factory 如果你尝试过微调大模型,你就会知道,大模型的环...