-
LLM | llama.cpp 安装使用(支持CPU、Metal及CUDA的单卡/多卡推理)
1. 详细步骤 1.1 安装 cuda 等 nvidia 依赖(非CUDA环境运行可跳过) # 以 CUDA Toolkit 12.4: Ubuntu-22.04/24.04(x86_64 为例,注意区分 WSL 和 Ubuntu,详见 http...
-
Azure openai speech to text -Whisper “code“:“404“,“message“: “Resource not found“
题意:Azure OpenAI 语音转文本 - Whisper 报错 "code":"404","message": "Resource not found 问题背景: i'm trying to transcribe a audio file...
-
大模型使用llama.cpp转换gguf格式并量化 | 新手炼丹记录(2)
系列回顾 llama factory LoRA微调qwen大模型 | 新手炼丹记录(1 -CSDN博客 大模型使用llama.cpp转换gguf格式并量化 | 新手炼丹记录(2 -CSDN博客 olla...
-
程序员掌握Stable Diffusion,下班后打造月入3000+的AI绘画副业
一、引言 在技术日新月异的今天,程序员这个职业不仅要求我们不断学习新技术,还需要我们具备一定的创新思维。作为一名程序员,我在接触到Stable Diffusion(以下简称SD)后,发现了新的副业机会。以下是我如何利用SD在下班后赚取额外收入,最终实...
-
Dreambooth-Stable-Diffusion 使用教程
Dreambooth-Stable-Diffusion 使用教程 Dreambooth-Stable-DiffusionImplementation of Dreambooth (https://arxiv.org/abs/2208.12242 by...
-
Python虚拟环境:使用venv隔离项目依赖
前言 在开发Python项目时,管理项目的依赖关系是一个常见的挑战。不同项目可能需要不同版本的库,如果不加以管理,很容易导致依赖冲突和环境混乱。幸运的是,Python提供了虚拟环境(virtual environment)的解决方案,帮助我们隔离项目依...
-
java集成stable diffusion
在Java中直接集成Stable Diffusion模型(一个用于文本到图像生成的深度学习模型,通常基于PyTorch或TensorFlow 是非常具有挑战性的,因为Java本身并不直接支持深度学习模型的运行。不过,我们可以通过JN...
-
微调 Whisper 语音大模型
1.准备环境 #创建环境 conda create -n whisper python=3.10 -y source activate whisper #安装环境 conda install pytorch==2.1.0...
-
【实测】记录用wxauto chatGPT 文心一言等来做微信粉丝群自动回复机器人(二)
欢迎收看第二集 本集我们要先简单熟悉下wxpython这个工具。 wxpython是基于pywin32的桌面软件自动化框架写的。 实际原理非常简单,但能做到如此适应强,报错低,速度快,结...
-
安装和微调大模型(基于LLaMA-Factory)2-补充资料
安装代码 https://github.com/echonoshy/cgft-llm/blob/master/llama-factory/README.md https://github.com/hiyouga/LLaMA-Factory/tree/m...
-
Linux系统上部署Whisper。
Whisper是一个开源的自动语音识别(ASR)模型,最初由OpenAI发布。要在本地Linux系统上部署Whisper,你可以按照以下步骤进行: 1. 创建虚拟环境 为了避免依赖冲突,建议在虚拟环境中进行部署。创建并激活一个新的虚拟环境: 如果不...
-
llama_index.core没办法导入向量
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader 报错:error msg: ImportError: cannot import name 'VectorStore...
-
Java集成stable diffusion 的方法
在Java中直接集成Stable Diffusion模型(一个用于文本到图像生成的深度学习模型,通常基于PyTorch或TensorFlow)是非常具有挑战性的,因为Java本身并不直接支持深度学习模型的运行。不过,我们可以通过JNI(Java Nativ...
-
OpenAI之Whisper实时语音分析转文字
1.安装ffmpeg 2.安装python3.11 3.安装whisper pip install whisper conda环境安装whisper conda install whisper 命令行安装openai-whisper...
-
#02 安装指南:如何配置Stable Diffusion环境
文章目录 前言 前置条件 第1步:安装Python和PIP 第2步:创建虚拟环境 第3步:安装PyTorch和CUDA 第4步:安装Stable Diffusion相关库 第5步:测试环境 结论 前言 在之前的文章中,我们介...
-
Chipwhisperer 使用指南-1
chipwhisperer是用于功耗采集的设备平台,由于其官网介绍都是英文,为便于国内读者使用,作者把平台使用的部分功能做了一个主要介绍 1、软件下载 下载地址:Releases · newaetech/chipwhisperer (github.co...
-
【AI】DJL Serving系统架构
DJL Serving基于Deep Java Library构建。您可以访问DJL GitHub仓库了解更多信息。有关模块、依赖关系和类概述,请参考生成的图表。 DJL Serving大致分为四层: 前端 - 基于Netty的HTTP客户端,用于接...
-
五一假期Llama 3之魔改不完全攻略(Part 2)
2024年4月18日,Meta AI 正式宣布推出 Llama 3,这标志着开源大型语言模型(LLM)领域的又一重大进步。如同一颗重磅炸弹, Llama 3 以其卓越的性能和广泛的应用前景,预示着 AI 技术的新时代。 目前开源的是Llama3 8B 和...
-
【AI写作】工作提效?你学会AI的正确打开方式了吗?
大家好,这里是船长,一个AI+RPA探索者。如果你对以下内容感兴趣,欢迎加我VX交流:TXZO1006 今天是五一的最后一天了,不知道各位小伙伴们假期都做了些什么呢? 船长这两天忙里偷闲,学习了一下如何使用AI来创作需要的文案,还真收获不少,说不定之后...
-
llama-factory/peft微调千问1.5-7b-chat
目标 使用COIG-CQIA数据集和通用sft数据集对qwen1.5-7b-chat进行sft微调,使用公开dpo数据集进行dpo对齐。学习千问的长度外推方法。 一、训练配置 使用Lora方式, 将lora改为full即可使用全量微调。具体的参数...
-
使用Python访问和操作Llama的方法
使用Python访问和操作Llama的方法 Llama是一个流行的Python库,用于处理和操作数据集。它提供了丰富的功能和工具,使我们能够轻松地对数据进行处理、转换和分析。本文将介绍如何使用Python来访问和使用Llama库,并提供相应的示例代码。...
-
Devin第一手使用体验:完成度很高,开始编码就停不下来,但要替代程序员还很远
由10枚IOI金牌在手的创业团队Cognition AI开发的全球首个AI程序员智能体Devin,一发布就让科技圈坐立不安。 在演示中,Devin几乎已经可以独立完成很多人类程序员需要大量时间才能完成的工作,效果一点不比普通程序员差。 但是,产品能力的边...
-
Python在数据采集领域的应用与实践
随着信息技术的迅猛发展和大数据时代的来临,数据采集已成为各行各业不可或缺的环节。在众多编程语言中,Python凭借其简洁明了的语法、强大的第三方库支持和广泛的应用领域,成为了数据采集领域的翘楚。本文将对Python在数据采集方面的应用、相关技术及其优势进行...
-
16x Prompt官网体验入口 低代码AI编程助手免费下载地址
16x Prompt是一款桌面应用程序,致力于简化为ChatGPT创建编码任务提示的过程。用户可以轻松添加上下文、源代码和格式化说明。主要功能包括零设置即可使用、添加格式化说明、管理源代码、支持GPT- 4 和ChatGPT Plus、支持现有代码库、离线...
-
把字节当成token,清华和微软刚掏出来的bGPT到底什么来头
相信你或多或少对GPT有一定的了解,但我赌你没听说过bGPT。bGPT的意思是byte GPT,即字节GPT。这是一种专门设计用于处理二进制数据和模拟数字世界的深度学习模型。简单概括,bGPT突破了传统语言模型的局限,能够直接理解和操作二进制数据,拓展了深...
-
基于Python的网络数据采集技术分析与实践
在当今的信息时代,互联网已成为了人们获取信息的重要途径之一。特别是随着大数据时代的到来,网络数据采集技术显得尤为重要。作为一种通用的、易于学习和使用的编程语言,Python在网络数据采集方面展现出其强大的实力和灵活性。本文旨在详细阐述Python在网络数据...
-
探秘Orange3:打开数据挖掘与机器学习新世界!
Orange3是一个强大的开源数据可视化和机器学习工具,它提供了丰富的数据处理、分析和建模功能,使用户能够快速、简单地进行数据挖掘和机器学习任务。 本文将介绍Orange3的基本功能和使用方法,并结合实际应用场景和Python代码案例,帮助读者更好地了解...
-
如何在Linux上安装Stable Diffusion WebUI
Stable Diffusion WebUI是一个基于AUTOMATIC1111的stable-diffusion-webui仓库的项目,允许用户通过web界面轻松地生成AI驱动的图像。本文将指导您在Linux系统上完成Stable Diffusion W...
-
实战whisper:本地化部署通用语音识别模型
前言 Whisper 是一种通用语音识别模型。它是在大量不同音频数据集上进行训练的,也是一个多任务模型,可以执行多语言语音识别、语音翻译和语言识别。 这里呢,我将给出我的一些代码,来帮助你尽快实现【语音转文字】的服务部署...
-
AIGC内容分享(三十五):AIGC赋能的“秒鸭相机”到底有多强?
目录 01-FaceChain算法简介 02-FaceChain-FACT算法简介 03-FaceChain算法流程 04-FaceChain-FACT算法流程 05-FaceChain算法应用场景 06-FaceChain环境搭建与运...
-
Dreambooth Stable Diffusion始化训练环境(AutoDL)
以AutoDL为例 以下代码源自:赛博华佗——秋叶: Akegarasu 环境选择 Miniconda: Miniconda是一个轻量级的Conda环境管理系统。它包含了conda、Python和一些常用...
-
如何部署Stable Diffusion WebUI Windows + 无科学上网版
如何部署Stable Diffusion WebUI 无科学上网版 一些背景 一些需求 硬件需求(可选) 软件需求 一些细节 检查nvidia driver查看对应cuda版本 安装cuda 安装cuDNN 安装GPU版pytorch 安...
-
python爬虫入门教程(非常详细),超级简单的Python爬虫教程
一、基础入门 1.1什么是爬虫 爬虫(spider,又网络爬虫 ,是指向网站/网络发起请求,获取资源后分析并提取有用数据的程序。 从技术层面来说就是 通过程序模拟浏览器请求站点的行为,把站点返回的HTML代码/JSON数据/二进制数据(图片、视频)...
-
使用LLaMA-Factory微调ChatGLM3
1、创建虚拟环境 略 2、部署LLaMA-Factory (1)下载LLaMA-Factory https://github.com/hiyouga/LLaMA-Factory (2)安装依赖 pip3 install -r requi...
-
文心一言和讯飞星火全面对比测试:(五)编程能力
相关文章: 实战 | 用ChatGPT处理word表格数据:直接采用ChatGPt和利用ChatGPT编写python脚本两种方法 「文心一言」 vs ChatGPT,结果没有你想向中的那么不堪 文心一言和讯飞星火全面对比测试:(一)语言理解能力...
-
“Transformer挑战者”Mamba,用Macbook也能跑了!GitHub半天斩获500+星
“Transformer的挑战者”Mamba,用MacBook也能跑了! 有大佬在GitHub上共享了一份笔记,让人们可以用最简单的方式运行Mamba。 这份共享中,算上说明书一共只有三个文件,而且发布不到一天,就斩获了500+星标。 图片 Mamba是...
-
本地推理,单机运行,MacM1芯片系统基于大语言模型C++版本LLaMA部署“本地版”的ChatGPT
OpenAI公司基于GPT模型的ChatGPT风光无两,眼看它起朱楼,眼看它宴宾客,FaceBook终于坐不住了,发布了同样基于LLM的人工智能大语言模型LLaMA,号称包含70亿、130亿、330亿和650亿这4种参数规模的模型,参数是指神经网络中的权重...
-
百度搜索内容HTAP表格存储系统
作者 | Chaos 导读 本文主要介绍百度搜索内容存储团队应对海量互联网数据分析计算需求时,在构建HTAP表格存储系统方向上的一些技术思考。 全文4683字,预计阅读时间12分钟。 01 业务背景 百度搜索内容存储团队主...
-
使用stable diffusion生成图片
准备 硬件:有GPU的主机,显存6G+ 系统:windows10 或者 ubuntu 20.04 软件: anaconda 1.下载安装anaconda wget https://repo.anaconda.com/a...
-
百度文心一言与Notion的比较(机器人通信的例子)
文心一言出来有一段时间了,也经常会去问问,感觉对于简单的语义理解还是可以,其答案对于一些常见的常识等还是可以给出不错的答案,但是在数学与代码等方面基本上很差,基本的贷款利率、微积分、没有理解语义的代码等都是错误答案 比如问题:使用Python声明一个话题...
-
计算机视觉中目标检测的数据预处理
本文涵盖了在解决计算机视觉中的目标检测问题时,对图像数据执行的预处理步骤。 首先,让我们从计算机视觉中为目标检测选择正确的数据开始。在选择计算机视觉中的目标检测最佳图像时,您需要选择那些在训练强大且准确的模型方面提供最大价值的图像。在选择最佳图像时,考...
-
百度搜索智能化算力调控分配方法
作者 | 泰来 导读 随着近年深度学习技术的发展,搜索算法复杂度不断上升,算力供给需求出现了爆发式的增长。伴随着AI技术逐步走到深水区,算法红利在逐步消失,边际效应日益显著,算力效能的提升尤为重要,同时随着宏观经济影响,大规模的算力需求供给也遭...
-
大语言模型之十五-预训练和监督微调中文LLama-2
这篇博客是继《大语言模型之十二 SentencePiece扩充LLama2中文词汇》、《大语言模型之十三 LLama2中文推理》和《大语言模型之十四-PEFT的LoRA》 前面博客演示了中文词汇的扩充以及给予LoRA方法的预训练模型参数合并,并没有给出Lo...
-
百度搜索深度学习模型业务及优化实践
作者 | Xin 导读 百度搜索架构部模型架构组,致力于将最新的人工智能技术以更低的成本被百度数亿用户体验到。这个过程中会面临非常多的系统、工程层面的问题,甚至在深度学习模型领域,我们看到越来越多的工作并不拘泥于工程本身。 本文主要分享模...
-
新手向,Stable Diffusion API 接口,在本地调用
首先应该有本地部署好的 WEB-UI。 启动项目时打开API接口。 如果你是在Git上copy的项目,在启动web-ui.bat时加上--api的启动参数. 如果是使用秋叶大佬的整合包,请勾选 以及 在这里设置随意用...
-
开源网站访问统计系统Piwik的基本使用
#piwik简介# 最近试用了开源的网站访问统计系统——piwik,觉得功能非常强大,一点不输于商业产品百度统计与google analysis,替代他们完全没有问题。 关于piwik的简介可以去piwik的官网( http://piwik.org ...
-
智能电表数据采集
在工作中需要读取智能电表数据采集 1. 调试软件读取 1.1 安装调试软件并且以管理员身份运行 1.2 配置相关信息 1.3 获取电表数据 2. Python脚本读取 2.2. 代码实现配置好相关信息 安装python...