-
基于 Amazon EKS 的 Stable Diffusion ComfyUI 部署方案
01 背景介绍 Stable Diffusion 作为当下最流行的开源 AI 图像生成模型在游戏行业有着广泛的应用实践,无论是 ToC 面向玩家的游戏社区场景,还是 ToB 面向游戏工作室的美术制作场景,都可以发挥很大的价值,如何更好地...
-
Serge让你在本地运行LLaMa模型
什么是 Serge ? Serge 是基于 llama.cpp 运行 Alpaca 模型的聊天界面。完全自托管,不需要 API 密钥。适合 4GB RAM 并且能在 CPU 上运行。 什么是 LLaMA ? LLaMA 是一种机器学习...
-
ubuntu下faster-whisper安装、基于faster-whisper的语音识别示例、同步生成srt字幕文件
文章目录 前言 一、faster-whisper的安装 1.docker及nvidia-docker安装 2.镜像下载 3.启动容器 3.容器中创建用户,安装anaconda 二、基于faster-whisper的语音识别 1.将cuda...
-
在Kubernetes上部署生成式人工智能应用程序的分步指南
译者 | 李睿 审校 | 重楼 在当今快节奏的技术和市场环境中,高效地部署人工智能(AI)/机器学习(ML)应用程序至关重要。Kubernetes是一个强大的开源平台,已经成为管理和扩展容器化应用程序的领先解决方案,确保它们在各种环境中无缝运行。 在本...
-
使用Llama 2大语言模型搭建本地自己的聊天机器人(群晖Docker篇)
随着ChatGPT 和open Sora 的热度剧增,大语言模型时代,开启了AI新篇章,大语言模型的应用非常广泛,包括聊天机器人、智能客服、自动翻译、写作助手等。它们可以根据用户输入的文本生成相应的响应,提供个性化的建议和服务,目前大部分大语言模型的产品都...
-
Nas搭建ai绘画 将Midjourney集成到微信机器人
ChatGPT狂飙160天,世界已经不是之前的样子。 新建了人工智能中文站https://ai.weoknow.com 每天给大家更新可用的国内可用chatGPT资源 1.前言 之前,我们在微信上为ChatGPT构建了一个聊天机器人,还在网络上开发...
-
LLaMA-Factory 基于docker的大模型多卡分布式微调
LLaMA-Factory是一个相当优秀的微调工具。这里提供一个dockerfile和一个train脚本,用于多卡微调,供大家参考。 Dockerfile FROM nvidia/cuda:12.1.0-cudnn8-devel-ubuntu22.0...
-
60行代码,从头开始构建GPT!最全实践指南来了
60行代码,从头开始构建GPT? 最近,一位开发者做了一个实践指南,用Numpy代码从头开始实现GPT。 你还可以将 OpenAI发布的GPT-2模型权重加载到构建的GPT中,并生成一些文本。 话不多说,直接开始构建GPT。 什么是GPT? GPT代...
-
Llama中文大模型-模型部署
选择学习路径 快速上手-使用Anaconda 第 0 步:前提条件 确保安装了 Python 3.10 以上版本。 第 1 步:准备环境 如需设置环境,安装所需要的软件包,运行下面的命令。 git clone https:/...
-
AIGC 实战:如何使用 Docker 在 Ollama 上离线运行大模型(LLM)
Ollama简介 Ollama 是一个开源平台,用于管理和运行各种大型语言模型 (LLM ,例如 Llama 2、Mistral 和 Tinyllama。它提供命令行界面 (CLI 用于安装、模型管理和交互。您可以使用 Ollama 根据您的需求下载...
-
WhisperFusion:具有超低延迟无缝对话功能的AI系统
WhisperFusion 基于 WhisperLive 和 WhisperSpeech 的功能而构建,在实时语音到文本管道之上集成了大型语言模型 Mistral (LLM 。 LLM 和 Whisper 都经过优化,可作为 TensorRT 引擎高效运...
-
Stable Diffusion本地Docker快速部署
docker拉取腾讯云镜像 sudo docker pull gpulab.tencentcloudcr.com/ai/stable-diffusion:1.0.8 启动容器并打印日志 sudo docker run -itd --gpus=a...
-
[AIGC] Nacos:一个简单 yet powerful 的配置中心和服务注册中心
Nacos(Naming and Configuration Service)是一个开源 and 免费的配置中心 and 服务注册中心,它可以用来管理 and 控制微服务应用程序的配置和服务。Nacos 是一个可扩展的、可靠的 and 高性能的平台,支持...
-
Docker部署Stable-Diffusion-webui
前排提示:如果不想折腾,可直接跳到最后获取封装好的容器,一键运行 :D 前言 乘上AI生成的快车,一同看看沿途的风景。 启一个miniconda容器 docker run -itd -v 宿主机内SD项目路径:/tmp --gpus all --...
-
CoGPT: 通过GitHub Copilot免费使用gpt-4
这次介绍项目可以把 OpenAI API 格式的请求转发到 GitHub Copilot 服务端,从而免费使用 gpt-4。当然前提是你有 GitHub Copilot。对于学生,可以通过 GitHub Education 免费使用。 先上项目链接: h...
-
[AIGC] Spring Gateway:一个简单 yet powerful API 网关
Spring Gateway(Spring Cloud Gateway)是 Spring 基金会下的一个开源项目,它是一个基于 Spring 5、Project Reactor、Spring Boot 2 和 Spring WebFlux 的简单 yet...
-
ChatGPT和百度文心一言写用例,谁更强?
文心一言发布的第一时间,就排队申请了邀请码,昨晚看了下,邀请码已经到手,索性就拿一个例子试了一下,看看哪个能够真正意义上的提高生产力,最简单的录制了个GIF动画如下: 问题:你是一个软件测试工程师,得到一个需求:软件程序Helios会自动采集容器...
-
【AI】RTX2060 6G Ubuntu 22.04.1 LTS (Jammy Jellyfish) 部署Chinese-LLaMA-Alpaca-2 【2】启用GPU支持
接上篇 【AI】RTX2060 6G Ubuntu 22.04.1 LTS (Jammy Jellyfish 部署Chinese-LLaMA-Alpaca-2-CSDN博客 前面的实验,chat.sh确认是运行在CPU模式下,未启用GPU支持...
-
WhisperFusion:与 AI 无缝语音对话(超低延迟),深入理解用户每句话背后的含义
演示视频里面,那老哥问它问题之后,后面更改问题,依然能很好的记录问题变化的过程并给出答案。 WhisperFusion 是基于 WhisperLive 和 WhisperSpeech 的强大工具,将声音转文字和文字理解融为一体,让你与AI机器人无缝语音对...
-
我是如何使用 GitHub Copilot Chat 来调试我的部署工作流的
我通常使用Canva来创建我的演示文稿,但我真的不想这样做,因为我对小细节不是很感兴趣,我不想花很多时间在设计上,我想专注于内容和交付。 所以,我想试试其他工具。有人建议我用slidev。 我快速浏览了一下,对开发体验和内置主题印象深刻,决定尝试一下,...
-
WhisperBot:整合了Mistral大型语言模型的实时语音转文本系统
项目简介 欢迎来到 WhisperBot。WhisperBot 基于 WhisperLive 和 WhisperSpeech 的功能而构建,在实时语音到文本管道之上集成了大型语言模型 Mistral (LLM 。WhisperLive 依赖于 OpenA...
-
新添“代理”概念,用 GitHub Copilot 追求极致编码智能
企业申请Azure OpenAI绿色通道 →记得评论私信~还可加入交流群~ 如果您前段时间关注了 GitHub Universe,您应该看到了人工智能在整个开发者工作流程中取得的巨大进展、创新和愿景。在这篇文章中,我们将专注于介绍过去几个月以来在...
-
AI绘画优秀开源项目推荐
AI绘画优秀开源项目推荐 stable-diffusion-webui:基于 Gradio 库的 Stable Diffusion 浏览器界面 InvokeAI:InvokeAI是稳定扩散模型的领先创意引擎,使专业人员、艺术家和爱好者能够使用最...
-
跟着AIGC学Linux:简介(一)
文章目录 1.Linux内核的历史 2.基本概念 3.发行版 4.Linux应用领域 5.Linux VS Windows 横向对比表格: 1.Linux内核的历史 Linux内核最初由一位名叫Linus Torvalds的芬兰计...
-
【深度学习】SDXL tensorRT 推理,Stable Diffusion 转onnx,转TensorRT
文章目录 1 sdxl 转 diffusers 2 转onnx 3 转TensorRT 1 sdxl 转 diffusers juggernautXL_version6Rundiffusion.safetensors文件...
-
GPT4、文心一言4、ChatGLM、Claude2.1四大语言模型生成效果对比
随着AIGC大风起,也掀起了语言模型大争之世,各种语言模型如雨后春笋,让大家眼花缭乱。周周都有新的选手入场,月月都有新的模型问世。不过其中最受人瞩目的当属GPT4、文心一言4、ChatGLM、Claude2.1四大模型。隐隐有傲视群雄之姿,...
-
记录内网Docker启动Stable-Diffusion遇到的几个坑
摘要:最近看到K8s启动stable-diffusion的文章,想着在自己开发环境复现一下。没想到在内网环境还遇到这么多问题,记录一下。 本文分享自华为云社区《内网Docker启动Stable-Diffusion(AI作画)》,作者:tsjsdbd...
-
教你如何实现api形式调用MidJourney的AI绘画接口
进discord新建服务器 选择亲自创建 点击创建 进入服务器 点击右下角探索可发现的服务器 选择midjourney 选择一个群组,点击机器人头像,选择添加至服务器 添加至刚刚创建的服务器 授权 成功,点击前往...
-
【AI】aarch64 kylin llama.cpp CUDA 适配 Chinese-LLaMA-Alpaca-2 启用 Tesla P4 8G GPU支持【失败】
GPU GPU架构信息 Pascal架构: compute_60: GeForce GTX 10xx系列、TITAN Xp, Tesla P100等 compute_61: Quadro GP100, Tesla P40等 co...
-
Stable Diffusion XL Turbo 文生图和图生图实践
本篇文章聊聊,如何快速上手 Stable Diffusion XL Turbo 模型的文生图和图生图实战。 写在前面 分享一篇去年 11 月测试过模型,为月末分享的文章做一些技术铺垫,以及使用新的环境进行完整复现。 本篇文章相关的代码保存在 sou...
-
AI编程,使用Amazon CodeWhisperer提高生产力
介绍如何使用亚马逊CodeWhisperer。 微信搜索关注《Java学研大本营》 亚马逊在今年4月13日,推出了CodeWhisperer,并向个人用户提供了免费使用的机会。个人版本的CodeWhisperer提供了无限的代码建议...
-
.NET应用国际化-AIGC智能翻译+代码生成
?作者:科技、互联网行业优质创作者 ?专注领域:.Net技术、软件架构、人工智能、数字化转型、DeveloperSharp、微服务、工业互联网、智能制造 ?欢迎关注我(Net数字智慧化基地),里面有很多高价值技术文章,是你刻苦努力也积累不到的经验,能助你快...
-
Stable Diffusion 硬核生存指南:WebUI 中的 CodeFormer
本篇文章聊聊 Stable Diffusion WebUI 中的核心组件,强壮的人脸图像面部画面修复模型 CodeFormer 相关的事情。 写在前面 在 Stable Diffusion WebUI 项目中,源码 modules 目录中,有一个有趣...
-
ChatGPT 和文心一言 | 两大AI助手哪个更胜一筹
欢迎来到英杰社区:https://bbs.csdn.net/topics/617804998 欢迎来到阿Q社区:https://bbs.csdn.net/topics/617897397 ?作者简介:热爱跑步的恒川,致力于C/C+...
-
【服务器Midjourney】Midjourney网站0基础搭建
目录 ?【前言】 ?【准备】 ?【宝塔搭建MJ】 ?1. 给服务器添加端口 ?2. 使用Xshell连接服务器 ?3. 安装docker ?4. 安装Midjourney程序 ?5. 绑定域名+申请SSL证书 ?6. 更新网站...
-
stable diffusion在server上的部署测试
SD infinite canvas Automatic1111 vs InvokeAI Automatic1111 vs InvokeAI - pros and cons stablediffusion-infinity 该repo的问题是已...
-
AIGC:大语言模型开放平台OpenLLM简介(提供简易的模型部署体验)
文章目录 @[toc] 简介 一、安装 二、启动LLM服务器 项目链接 简介 该项目旨在为各种大语言模型(LLM)在生产环境中的部署和可观测性提供一个标准的解决方案,用最简单直接的方式把大语言模型(LLM)部署到云端或本...
-
AIGC内容分享(三十五):AIGC赋能的“秒鸭相机”到底有多强?
目录 01-FaceChain算法简介 02-FaceChain-FACT算法简介 03-FaceChain算法流程 04-FaceChain-FACT算法流程 05-FaceChain算法应用场景 06-FaceChain环境搭建与运...
-
Stable Diffusion 硬核生存指南:WebUI 中的 VAE
本文使用「署名 4.0 国际 (CC BY 4.0 」许可协议,欢迎转载、或重新修改使用,但需要注明来源。 署名 4.0 国际 (CC BY 4.0 本文作者: 苏洋 创建时间: 2023年07月30日 统计字数: 11485字 阅读时间: 23分钟...
-
Stable Diffusion - 扩展 SegmentAnything 和 GroundingDINO 实例分割算法 插件的配置与使用
欢迎关注我的CSDN:https://spike.blog.csdn.net/ 本文地址:https://blog.csdn.net/caroline_wendy/article/details/131918652 Paper and GitHub:...
-
基于LLaMA-Factory用deepspeed多GPU训练大模型报错Caught signal 7 (Bus error: nonexistent physical address)
基于LLaMA-Factory,用4个V100的GPU,如下命令训练ChatGLM3: deepspeed --num_gpus 4 --master_port=9901 src/train_bash.py \ --deepspeed ds_co...
-
Whisper Speech官网体验入口 开源AI语音合成工具免费使用地址
Whisper Speech是一款完全开源的文本转语音模型,由Collabora和Lion在Juwels超级计算机上训练。它支持多种语言和多种形式的输入,包括Node.js、Python、Elixir、HTTP、Cog和Docker。该模型的优势在于高效的...
-
如何将github copilot当gpt4用
现在写代码已经离不开ai辅助了···我用的是github copilot,一方面是因为它和vscode结合得比较好,另一方面就是copilot chat了。可以在不切换工具的情况下,问它问题,在copilot chat还在内测阶段的时候我就申请使用了(现在...
-
将Github Copilot转换为免费使用GPT-4
模型参数支持 GPT-4 和 GPT-3.5-turbo ,实测使用其他模型均会以默认的 3.5 处理(对比 OpenAI API 的返回结果,猜测应该是最早的版本 GPT-4-0314 和 GPT-3.5-turbo-0301 ) 获取 Copilot...
-
win11下部署stable diffusion docker版遇到的问题和解决方案
背景 为了在本地愉快流畅地体验stable diffsion,且不希望直接在windows中安装过多复杂的环境,顺便体验容器的部署和发布的便利,决定选择stable diffusion的docker版(AbdBarho版)。 网上已经有很多stabl...
-
[AIGC] Spring Boot Docker 部署指南
Spring Boot Docker 部署指南 引言 近年来,容器化部署成为了越来越流行的部署方式。Docker 是目前最受欢迎的容器化平台之一,它提供了一种将应用程序与其依赖项打包在一起,并以容器的形式运行的方法。Spring Boot 是一种用...
-
[算法前沿]--005-和chatgpt一样的大模型LLaMA可以运行在pc上?
未来已来,大模型依据压缩模型的方式,可以在普通的PC上运行. LLaMA Facebook的LLaMA 模型和Georgi Gerganov 的llama.cpp的结合。 LLaMA,这是一组包含 7B 到 65B 参数的基础语言模型。我们在数万亿个令...
-
如何优雅的使用ChatGPT指令,指令大全
充当 Linux 终端 我希望你充当Linux终端。我将键入命令,您将回复终端应显示的内容。我希望你只回复一个唯一代码块中的终端输出,没有别的。不要写解释。除非我指示你这样做,否则不要键入命令。当我需要用英语告诉你一些事情时,我会把文本放在大括...
-
无需翻墙|Stable Diffusion WebUI 安装|AI绘画
前言 最近终于有机会从围墙里往外看,了解到外面的世界已经有了天翻地覆的变化,感叹万千,笔者在本地mac,windows,linux,docker部署了不下20遍后,整理出来的linux极简避坑安装方案,供大家参考学习。 注 系统:linux 用...
-
Stable Diffusion 硬核生存指南:WebUI 中的 GFPGAN
本篇文章聊聊 Stable Diffusion WebUI 中的核心组件,强壮的人脸图像面部画面修复模型 GFPGAN 相关的事情。 写在前面 本篇文章的主角是开源项目 TencentARC/GFPGAN,和上一篇文章《Stable Diffusio...