fastapi - AIGC资讯

OpenAI Whisper API (InvalidRequestError)

题意: OpenAI Whisper API（无效请求错误）问题背景： I'm trying to use OpenAI Whisper API to transcribe my audio files. When I run it by o...

生成式AI 2024-09-29 AIGC

144阅读

AIGC时代算法工程师的面试秘籍（第二十一式2024.8.19-9.1） |【三年面试五年模拟】

写在前面【三年面试五年模拟】旨在整理&挖掘AI算法工程师在实习/校招/社招时所需的干货知识点与面试经验，力求让读者在获得心仪offer的同时，增强技术基本面。也欢迎大家提出宝贵的优化建议，一起交流学习? 欢迎大家关注Rock...

AIGC 2024-09-24 AIGC

207阅读

LLaMA-Factory微调入门个人重制版

LLaMA-Factory微调入门个人重制版说明：首次发表日期：2024-08-30 LLaMA-Factory 官方Github仓库： https://github.com/hiyouga/LLaMA-Factory 关于本文是对L...

生成式AI 2024-09-16 AIGC

155阅读

FastAPI部署大模型Llama 3.1

项目地址：self-llm/models/Llama3_1/01-Llama3_1-8B-Instruct FastApi 部署调用.md at master · datawhalechina/self-llm (github.com 目的：使用Aut...

人工智能 2024-09-15 AIGC

212阅读

第十届Sky Hackathon参赛作品——rag在工业上的运用

一、赛事简介 NVIDIA Sky Hackathon是由NVIDIA主办的一场全球性技术盛会，旨在推动深度学习技术的创新和应用。本届比赛以“基于RAG技术创新构建智能对话机器人”为核心议题，鼓励参赛者运用RAG（Retrieval-Augmented...

AIGC 2024-09-14 AIGC

184阅读

【Qwen2部署实战】探索Qwen2-7B：通过FastApi框架实现API的部署与调用

系列篇章? No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...

大数据 2024-08-18 AIGC

410阅读

最强开源模型 Llama 3.1 部署推理微调实战大全

目录引言一、Llama 3.1简介二、Llama 3.1性能评估三、Llama 3.1模型推理实战 1、环境准备 2、安装依赖 3、模型下载 4、模型推理四、Llama 3.1模型微调实战 1、数据集准备 2、导入依赖包 3、读...

AIGC 2024-08-16 AIGC

336阅读

【Qwen2微调实战】LLaMA-Factory框架对Qwen2-7B模型的微调实践

系列篇章? No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...

大数据 2024-08-16 AIGC

296阅读

如何使用 Llama 3 构建本地文件生成式搜索引擎（附源码&文档）

系统设计为了构建一个本地生成式搜索引擎或助手，我们需要几个组建：包含本地文件内容的索引，具有信息检索引擎，用于检索给定查询/问题的最相关文档。大语言模型，用于从本地文档中选择内容并生成摘要答案一个用户界面这些组件的交互方式如下...

大数据 2024-08-14 AIGC

158阅读

Llama 3.1 模型：从部署到微调的全方位应用手册

在人工智能的浪潮中，大型语言模型（LLMs）已成为推动技术进步的关键力量。随着Meta公司最新开源的Llama 3.1模型的问世，我们见证了开源AI领域的一大飞跃。Llama 3.1以其卓越的性能和广泛的应用潜力，为开发者和研究者提供了一个强大的工具，以探...

大数据 2024-08-09 AIGC

333阅读

SenseVoice 实测，阿里开源语音大模型，识别效果和效率优于 Whisper，居然还能检测掌声、笑声！5分钟带你部署体验

前段时间，带着大家捏了一个对话机器人：手把手带你搭建一个语音对话机器人，5分钟定制个人AI小助手（新手入门篇）其中语音识别（ASR）方案，采用的是阿里开源的 FunASR，这刚不久，阿里又开源了一个更强的音频基础模型，该模型具有如下能力：语音识别...

人工智能 2024-08-01 AIGC

386阅读

whisper-api语音识别语音翻译高性能兼容openai接口协议的开源项目

whisper-api 介绍使用openai的开源项目winsper语音识别开源模型封装成openai chatgpt兼容接口软件架构使用uvicorn、fastapi、openai-whisper等开源库实现高性能接口更多介绍 h...

生成式AI 2024-07-31 AIGC

171阅读

python系列&deep_study系列：实战whisper第三天：fast whisper 语音识别服务器部署，可远程访问，可商业化部署（全部代码和详细部署步骤）

实战whisper第三天：fast whisper 语音识别服务器部署，可远程访问，可商业化部署（全部代码和详细部署步骤）实战whisper第三天：fast whisper 语音识别服务器部署，可远程访问，可商业化部署（全部代码和详细部署步骤...

生成式AI 2024-07-24 AIGC

286阅读

Streaming local LLM with FastAPI, Llama.cpp and Langchain

题意：使用FastAPI、Llama.cpp和Langchain流式传输本地大型语言模型问题背景： I have setup FastAPI with Llama.cpp and Langchain. Now I want to enable...

大数据 2024-07-18 AIGC

185阅读

[大模型]Llama-3-8B-Instruct FastApi 部署调用

环境准备在 Autodl 平台中租赁一个 3090 等 24G 显存的显卡机器，如下图所示镜像选择 PyTorch-->2.1.0-->3.10(ubuntu22.04 -->12.1。接下来打开刚刚租用服务器的 JupyterL...

AIGC 2024-07-11 AIGC

195阅读

开源模型应用落地-语音转文本-whisper模型-AIGC应用探索（二）

一、前言语音转文本技术具有重要价值。它能提高信息记录和处理的效率，使人们可以快速将语音内容转换为可编辑、可存储的文本形式，方便后续查阅和分析。在教育领域，可帮助学生更好地记录课堂重点；在办公场景中，能简化会议记录工作。同时，该技术也为残障人士提...

AIGC 2024-06-06 AIGC

215阅读

Stable Diffusion模型基于 TensorFlow 或 PyTorch 训练

安装必要的软件和库：安装 Python（建议使用 Python 3.x 版本）。安装 TensorFlow 或 PyTorch，具体版本取决于你的模型是基于哪个框架训练的。安装其他可能需要的依赖，如 NumPy、Matplotlib 等。...

AIGC 2024-06-05 AIGC

201阅读

实战whisper语音识别第一天，部署服务器，可远程访问，实时语音转文字（全部代码和详细部署步骤）

Whisper是OpenAI于2022年发布的一个开源深度学习模型，专门用于语音识别任务。它能够将音频转换成文字，支持多种语言的识别，包括但不限于英语、中文、西班牙语等。Whisper模型的特点是它在多种不同的音频条件下（如不同的背景噪声水平、说话者的口音...

人工智能 2024-05-28 AIGC

318阅读

FastGPT 调用本地Whisper模型进行语音转文字

目录一、部署Whisper模型。二、oneapi配置三、修改镜像中的webservice.py文件，开放跨域请求。四、修改FastGPT代码修改 FastGPT地址:https://github.com/labring/FastGP...

AIGC 2024-05-25 AIGC

415阅读

基于深度学习的实时视频处理 | 入门指南

近来，整个机器学习领域似乎被大型语言模型（LLM）和检索增强生成（RAG）所掩盖。虽然许多用例可以从这些新的基础模型中受益，但在非文本数据方面仍存在差距。我常把当前的机器学习阶段比作汽车工业中从燃油车向电动车的转变。燃油车已经有完善的基础设施（如汽车服务...

AIGC 2024-05-17 AIGC

214阅读

使用Unity 接入 Stable-Diffusion-WebUI 文生图生成图像

参考：stable diffusion 远端跑图—— Api基础知识掌握 - 知乎 (zhihu.com 1、准备工作(下载启动器这一部分就不多赘诉了，我使用的是B站秋叶大佬的整合包，要启用API。网上蛮多自己配置的，可能需要设密码之类...

AIGC 2024-03-28 AIGC

419阅读

Suno-API官网体验入口 Suno AI音乐生成API工具免费使用入口

Suno-API是一个基于 Python 和 FastAPI 的非官方 Suno API。它支持生成歌曲、歌词等功能，并带有内置的令牌维护和保持活跃功能，让您无需担心令牌过期。SunoAPI 采用全异步设计，运行速度快，适合后续扩展。用户可以轻松使用 AP...

人工智能 2024-03-27 AIGC

668阅读

【个人开发】llama2部署实践（三）——python部署llama服务（基于GPU加速）

1.python环境准备注：llama-cpp-python安装一定要带上前面的参数安装，如果仅用pip install装，启动服务时并没将模型加载到GPU里面。 # CMAKE_ARGS="-DLLAMA_METAL=on" FORCE_CMAK...

大数据 2024-03-14 AIGC

403阅读

Llama中文大模型-模型部署

选择学习路径快速上手-使用Anaconda 第 0 步：前提条件确保安装了 Python 3.10 以上版本。第 1 步：准备环境如需设置环境，安装所需要的软件包，运行下面的命令。 git clone https:/...

AIGC 2024-02-29 AIGC

249阅读

CoGPT: 通过GitHub Copilot免费使用gpt-4

这次介绍项目可以把 OpenAI API 格式的请求转发到 GitHub Copilot 服务端，从而免费使用 gpt-4。当然前提是你有 GitHub Copilot。对于学生，可以通过 GitHub Education 免费使用。先上项目链接: h...

人工智能 2024-02-15 AIGC

407阅读

LLaMA Efficient Tuning

文章目录 LLaMA Efficient Tuning 安装数据准备浏览器一体化界面单 GPU 训练 train_bash 1、预训练 pt 2、指令监督微调 sft 3、奖励模型训练 rm 4、PPO 训练 ppo 5、DPO 训练...

AIGC 2024-01-29 AIGC

226阅读

stable diffusion webui的代码结构解析

stable-diffusion-webui源码分析（1）-Gradio - 知乎AUTOMATIC1111的webui是近期很流行的stable-diffusion应用，它集合stable-diffusion各项常用功能，还通过扩展的形式支持contro...

人工智能 2024-01-25 AIGC

385阅读

Chinese-llama-2部署踩坑记录

Chinese-llama-2部署踩坑记录 1. Chinese-LLaMA-Alpaca-2 A. 部署 a. inference_with_transformers_zh b. text generation webui_zh c. a...

生成式AI 2024-01-23 AIGC

295阅读

stable diffusion(1): webui的本地部署(windows)

一、前言是的，现在是202308月份了，网上已经有很多打包好的工具，或者直接进一个web就能用SD的功能，但是我们作为程序员，就应该去躺坑，这样做也是为了能够有更多自主操作的空间。像其他AI一样，先出结果才是王道，所以先不直接搞SD源码或者命令行，...

AIGC 2024-01-20 AIGC

340阅读

LLMs之RAG：LangChain-Chatchat(一款中文友好的全流程本地知识库问答应用)的简介(支持 FastChat 接入的ChatGLM-2/LLaMA-2等多款主流LLMs+多款embe

LLMs之RAG：LangChain-Chatchat(一款中文友好的全流程本地知识库问答应用的简介(支持 FastChat 接入的ChatGLM-2/LLaMA-2等多款主流LLMs+多款embedding模型m3e等+多种TextSplitter分词...

人工智能 2024-01-08 AIGC

348阅读

OpenAI的ChatGPT、微软的New Bing、百度的文心一言、Google的Bard、阿里云的通义千问

随着 ChatGPT 热潮卷起来，微软发布New Bing、百度发布了文心一言、Google 发布了 Bard，阿里云官方终于也宣布了，旗下的 AI 大模型“通义千问”也正式开启测试！ ChatGPT ChatGPT是一种由OpenAI训练的大...

大数据 2024-01-04 AIGC

281阅读

Llama 2免费托管及API提供

Llama 2 是 Meta 最新的文本生成模型，目前其性能优于所有开源替代方案。推荐：用 NSDT编辑器快速搭建可编程3D场景 1、强大的Llama 2 它击败了 Falcon-40B（之前最好的开源基础模型），与 GPT-3....

大数据 2023-12-23 AIGC

287阅读

如何用ChatGPT把控应用程序生命周期

译者 | 朱先忠审校 | 重楼简介在本文中，我们将从基础设施供应到配置管理和部署等各个环节来全方位探讨大型语言模型（LLM）是否适合应用于实际应用程序的生命周期开发。这项工作产生的源代码工程已经在GitHub上公开（［参考资料11］）。基础设施即代...

大数据 2023-12-21 AIGC

248阅读

Llama-2大模型本地部署研究与应用测试

最近在研究自然语言处理过程中，正好接触到大模型，特别是在年初chatgpt引来的一大波AIGC热潮以来，一直都想着如何利用大模型帮助企业的各项业务工作，比如智能检索、方案设计、智能推荐、智能客服、代码设计等等，总得感觉相比传统的搜索和智能化...

大数据 2023-12-18 AIGC

379阅读

screenshot-to-code官网体验入口 AI截图转代码软件app免费下载地址

《screenshot-to-code》是一个简单的应用程序，使用 GPT-4 Vision 生成代码，并使用 DALL-E 3 生成类似的图片。这个应用程序具有 React/Vite 前端和 FastAPI 后端，用户需要访问 GPT-4 Vision...

大数据 2023-12-12 AIGC

270阅读

Danswer 接入 Llama 2 模型｜免费在 Google Colab 上托管 Llama 2 API

一、前言前面在介绍本地部署免费开源的知识库方案时，已经简单介绍过 Danswer《Danswer 快速指南：不到15分钟打造您的企业级开源知识问答系统》，它支持即插即用不同的 LLM 模型，可以很方便的将本地知识文档通过不同的连接器接入到 Danswe...

人工智能 2023-12-07 AIGC

307阅读

stable diffusion本地搭建，保姆式安装教程已经填坑

一、优势对于Midjourney 高额的会员费，SD的高性价比成为了大多数人的选择二、软件准备 1、在整个安装过程中，我们需要用到以下软件： Python 3.10.6 Git 一键启动器软件可以到官网上自行下载，不会下载的也没关系，阿良已...

大数据 2023-12-05 AIGC

234阅读

[AI绘画懒人包] 三分钟搞定Stable Diffusion！只需浏览器就能免費打造你的AI女神！(免显卡版) Midjourney做不到的完美！

通过网页如何使用stable diffusion这个AI绘图工具开启网页 https://colab.research.google.com 安装软件贴上stable diffusion...

大数据 2023-12-04 AIGC

269阅读

Ubuntu 20.04 LTS x86_64 安装 stable-diffusion-webui

官网 Stable Diffusion官网 Stability AI 官方github GitHub - Stability-AI/stablediffusion: High-Resolution Image Synthesis with L...

生成式AI 2023-12-02 AIGC

240阅读

用ChatGPT+Copilot一小时开发一套监控系统

套娃：我把下面的内容全部复制给了ChatGPT，让它帮我总结本文内容，它的回答如下：本文介绍了人工智能ChatGPT在快速生成代码方面的应用，以及当前AI从专业客户走向大众、从特定领域走向通用领域、从后台走向前台和人的直接交互等趋势。文中展示了一...

人工智能 2023-12-02 AIGC

264阅读

screenshot-to-code官网体验入口 AI截图转代码免费软件app下载

《screenshot-to-code》是一个简单的应用程序，它利用GPT-4 Vision生成代码，并使用DALL-E3 生成类似的图片。这个应用程序具有React/Vite前端和FastAPI后端。《screenshot-to-code》在哪里可以体验...

大数据 2023-11-29 AIGC

376阅读

Stable Diffusion - 配置 WebUI 升级至 v1.6.0 版本与 VirtualENV 环境配置

欢迎关注我的CSDN：https://spike.blog.csdn.net/ 本文地址：https://spike.blog.csdn.net/article/details/132177882 图像基于哥特风格绘制，参考哥特 (G...

生成式AI 2023-11-25 AIGC

448阅读

ChatGPT + Stable Diffusion + 百度AI + MoviePy 实现文字生成视频，小说转视频，自媒体神器！(一)

ChatGPT + Stable Diffusion + 百度AI + MoviePy 实现文字生成视频，小说转视频，自媒体神器！(一前言最近大模型频出，但是对于我们普通人来说，如何使用这些AI工具来辅助我们的工作呢，或者参与进入我们的生活，...

人工智能 2023-11-25 AIGC

402阅读

大话Stable-Diffusion-Webui-动手开发一个简单的stable-diffusion-webui（一）

文章目录写在前面整体效果开发所需环境开发工具需要具备的知识 Node安装更改npm包安装的目录设置npm镜像 vscode安装创建vue项目代码编写项目先体...

AIGC 2023-11-25 AIGC

354阅读

Stable Diffusion 安装

一、安装 GPU 驱动（CPU 环境跳过这一步）手动安装GPU驱动参考：https://docs.nvidia.com/datacenter/tesla/tesla-installation-notes/index.html?spm=a2c4g.11...

生成式AI 2023-11-23 AIGC

211阅读

在Kaggle上使用Stable Diffusion进行AI绘图

前言因为使用Stable Diffusion进行AI绘图需要GPU，这让其应用得到了限制本文介绍如何在Kaggle中部署Stable Diffusion，并使用免费的P100 GPU进行推理（每周可免费使用30小时），部署好后可以在任意移动端使用...

生成式AI 2023-11-22 AIGC

264阅读

chatgpt平替，清华chatglm本地化部署教程（aigc大模型风口，校招找工作必备），包含weiui部署，api部署，对话框部署

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。...

AIGC 2023-11-18 AIGC

475阅读

AIGC绘画：kaggle部署stable diffusion项目绘画

文章目录 kaggle介绍项目部署 edit my copy 链接显示结果展示 kaggle介绍 Kaggle成立于2010年，是一个进行数据发掘和预测竞赛的在线平台。从公司的角度来讲，可以提供一些数据，进而提出一个实际需...

大数据 2023-11-18 AIGC

232阅读

Stable Diffusion最全保姆级安装教程(建议收藏)

Midjourney 因细致的画图风格备受大家的欢迎，但由于其网络环境以及会员费，导致入门门槛过高，拦住了很多对AIGC感兴趣的小伙伴。今天阿良就教大家，不需要魔法，也不用交会员费，尽情玩转AI出图的保姆级安装教程，建议收藏。一、优势...

AIGC 2023-11-11 AIGC

371阅读