-
使用llama.cpp在linux cuda环境部署llama2方法记录及遇到的问题
一、编译lllama.cpp 拉取llama.cpp库 cd llama.cpp make LLAMA_CUBLAS=1 LLAMA_CUDA_NVCC=/usr/local/cuda/bin/nvcc bug：编译问题 使用make，nv...
-
【保姆级教程】Linux上部署Stable Diffusion WebUI和LoRA训练，拥有你的专属图片生成模型
0 写在前面 Stable Diffusion 是当前最火热的图像生成模型之一，目前已经广泛应用于艺术创作、游戏开发、设计模拟等领域，因其开源生态和易于使用而受到创作者的广泛关注，相比 Midjourney 而言，其最大的优势是完全免费，且拥有庞大的社...
-
【AI】本地部署可以与文件沟通的GPT：Llama 2 + GPT4All + Chroma
【背景】 还是继续致力于实践可以保护数据隐私的本地化LLM部署。 这次用的是Llama 2 + GPT4All + Chroma实现RAG。 【概念】 基于LangChain模板的各个部分的作用： Llama2-》语言模型管理 GPT4AL...
-
实战经验分享之移动云快速部署Stable Diffusion SDXL 1.0
本文目录 前言 产品优势 部署环境准备 模型安装 测试运行 前言 移动云是中国移动面向政府、企业和公众的新型资源服务。 客户以购买服务的方式，通过网络快速获取虚 拟计算机、存储、网络等基础设施服务；软件开发工具、运行环境、数据库等...
-
whisper-v3模型部署环境执行
1. 安装whisperV3 github git clone https://github.com/openai/whisper.git pip install -U openai-whisper pip install setuptools-ru...
-
基于llama.cpp的GGUF量化与基于llama-cpp-python的部署
前言：笔者在做GGUF量化和后续部署的过程中踩到了一些坑，这里记录一下。 1.量化 项目地址：llama.cpp 1.1 环境搭建 笔者之前构建了一个用于实施大模型相关任务的docker镜像，这次依然是在这个镜像的基础上完成的，这里给出Dock...
-
如何在Linux服务器上安装Stable Diffusion WebUI
如何在Linux服务器上安装Stable Diffusion WebUI 一、前提条件 1、硬件条件 2、软件条件 二、安装步骤 1、创建Python虚拟环境 2、安装必要的软件和库 3、克隆Stable Diffusion WebUI仓...
-
LLaMA-Factory 微调训练
LLaMA-Factory 微调训练 该框架功能，标注-微调-导出-合并-部署，一整条流程都有，而且训练时消耗的gpu算力也会小一些 一，安装（推荐在linux中训练，win可以用wsl+docker） git clone https:...
-
2024最新AI创作系统ChatGPT源码+Ai绘画网站源码，支持GPT联网提问、GPTs应用、AI换脸、插件系统、GPT文档分析、tts语音对话一站式解决方案
一、前言 SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。本期针对源码系统整体测试下来非常完美，那么如何搭建部署AI创作ChatGPT？小编这里写一个详细...
-
WhisperX：新一代加密通信框架，安全与效率并重
WhisperX：新一代加密通信框架，安全与效率并重 项目地址:https://gitcode.com/m-bain/whisperX 在数字时代，隐私和数据安全日益成为我们关注的重点。WhisperX是一个新兴的开源项目，旨在提供一个高度安全、可...
-
最新一站式AI创作系统（ChatGPT+Midjourney）网站源码+系统部署+支持AI对话、AI绘画、AI音乐、文档分析等大模型
一、系统简介 本文将介绍最新的一站式AI创作系统（集成ChatGPT+Midjourney）——星河易创AI系统，该系统基于ChatGPT的核心技术，融合了自然语言问答、绘画、音乐、文档分享、图片识别等创作功能，并兼容官方GPT全模型和国内各大模型。该系...
-
使用llama.cpp量化部署LLM
以llama.cpp工具为例，介绍模型量化并在本地部署的详细步骤。这里使用 Meta最新开源的 Llama3-8B 模型。 1 环境 系统应有make（MacOS/Linux自带）或cmake（Windows需自行安装）编译工具 Python 3....
-
Opera浏览器宣布接入端侧AI大模型
5月29日，昆仑万维旗下海外信息分发与元宇宙平台Opera宣布，其旗舰浏览器Opera One以及游戏浏览器Opera GX将正式接入端侧AI大模型，成为全球第一个接入端侧AI大模型的主流浏览器。 据悉，2024年4月，Opera已通过AI Featur...
-
JetBrains IDE(IDEA/WebStorm)配置GitHub Copilot
关于 GitHub Copilot 和 JetBrains IDE GitHub Copilot 在编写代码时提供 AI 对程序员的自动完成样式的建议。 有关详细信息，请参阅“关于 GitHub Copilot Individual”。 如果使用 Je...
-
Windows11(非WSL)安装Installing llama-cpp-python with GPU Support
直接安装，只支持CPU。想支持GPU，麻烦一些。 1. 安装CUDA Toolkit (NVIDIA CUDA Toolkit (available at https://developer.nvidia.com/cuda-downloads 2...
-
whisper之初步使用记录
文章目录 前言 一、whisper是什么？ 二、使用步骤 1.安装 2.python调用 3.识别效果评估 4.一点封装 5.参考链接 总结 前言 随着AI大模型的不断发展，语音识别等周边内容也再次引发关注，通过语音转文字再与大模...
-
百度文心一言：官方开放API开发基础
目录 一、模型介绍 1.1主要预置模型介绍 1.2 计费单价 二、前置条件 2.1 创建应用获取 Access Key 与 Secret Key 2.2 设置Access Key 与 Secret Key 三、基于千帆SDK开发 3.1 M...
-
Meta Llama 3本地部署
感谢阅读 环境安装 收尾 环境安装 项目文件 下载完后在根目录进入命令终端（windows下cmd、linux下终端、conda的话activate） 运行 pip install -e . 不要控制台，因为还要下载模型。这...
-
SD(Stable Diffusion) 简易教程
最近给家里的小朋友用 SD(Stable Diffusion 生成卡通头像，顺便记录一下 SD 的基础使用教程。 教程目录 SD 安装与部署 认识模型和插件 基础使用教程 SD 安装与部署 SD 安装和部署可以分为本地和云端。本...
-
【ollama】（2）：在linux搭建环境，编译ollama代码，测试qwen大模型，本地运行速度飞快，本质上是对llama.cpp 项目封装
关于 ollama 项目 https://github.com/ollama/ollama/tree/main/docs https://www.bilibili.com/video/BV1oS421w7aM/ 【ollama】（2...
-
LightGBM算法背景、原理、特点+Python实战案例
大家好，我是Peter~ 今天给大家分享一下树模型的经典算法：LightGBM，介绍算法产生的背景、原理和特点，最后提供一个基于LightGBM和随机搜索调优的案例。 LightGBM算法 在机器学习领域，梯度提升机（Gradient Boosting...
-
Stable Diffusion从入门到卸载，一站式服务为你的AI绘画保驾护航！
大家好，目前正在学习研究Stable Diffusion，致力于用最为朴素直白的语言为你介绍AI绘画的相关知识。 花了很长的时间，终于整理好这份Stable Diffusion的教程，从入门的安装、本地部署到觉得疲惫，安装失败，想要卸载，里面的内容应有尽...
-
在树莓派上运行语音识别和LLama-2 GPT!
目前，绝大多数大模型运行在云端服务器，终端设备通过调用api的方式获得回复。但这种方式有几个缺点：首先，云api要求设备始终在线，这对于部分需要在无互联网接入的情况运行的设备很不友好；其次，云api的调用需要消耗流量费，用户可能不想支付这部分费用；最后，如...
-
“wapeq爬虫”技术深度解析与应用场景探讨
在当今大数据时代，数据爬虫已然成为获取和分析信息的关键技术之一。作为一名从业多年的技术人员，笔者近期深入研究了一款名为“wapeq”的爬虫工具，其强大的功能和灵活的应用场景让我深感震撼。本文将围绕wapeq爬虫的核心技术、使用方法以及实际应用场景进行深入剖...
-
国产大模型登陆国产系统！百度文心一言上架统信应用商店
快科技5月28日消息，统信UOS官方宣布，由百度研发的人工智能大语言模型产品文心一言正式上架统信应用商店。 用户可通过统信应用商店一键下载、安装并使用文心一言。 统信表示，文心一言的上架，是统信应用商店在智能技术领域的重要拓展。 据了解，文心一言从去年3月...
-
最新AI创作系统，ChatGPT商业运营系统网站源码，SparkAi-v6.5.0，Ai绘画/GPTs应用，文档对话
一、文章前言 SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。本期针对源码系统整体测试下来非常完美，那么如何搭建部署AI创作ChatGPT？小编这里写一个...
-
手把手教你用LoRA训练自己的Stable Diffusion模型
目录 写在前面 一、准备数据 二、数据打标签 三、执行训练 四、执行推理 1.LoRA推理 2.全参数推理 写在前面 Stable Diffusion大家已经很熟悉了，那么如何训练自己的sd模型呢，今天我就介绍一下用L...
-
最新AI创作系统ChatGPT网站源码AI绘画系统（SparkAi v6系统），附详细搭建部署教程
一、前言 SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。本期针对源码系统整体测试下来非常完美，那么如何搭建部署AI创作ChatGPT？小编这里写一个详细...
-
1panel+MaxKB+Ollama+Llama Linux部署指南
目录 1.1panel安装 2.MaxKB 1.MaxKB登录 3.Ollama（gpu）安装 1.安装英伟达容器安装包 1.配置apt源 2.更新源 3.安装工具包 2.使用GPU运行...
-
轻薄本没有独立显卡如何运行stable diffusion
众所周知，Stable Diffusion WebUI 使用 GPU 模式运行。 一：检查自己显卡 打开任务管理器或者win+R 输入dxdiag 查看自己显卡状态 很明显一般轻薄本只会带有集显，不能满足stable diffusion要求所以我...
-
你想要的照片，AI都能帮你画出来：记录Stable Diffusion的力量
目录 前言 一、配置软件环境（可以跳过直接看第二部分效果图） 1.启动界面 二、解锁新功能 2.1 开源模型的获取 三、如何生成细节更加可控的内容呢？ 3.1 充分利用prompt: 3.2 词不达意时，充分使用lora 3.2 使用多个lo...
-
EasyMR 基于国产化信创的适配实践技术详解
国产化信创，即采用国产信息技术产品和服务，构建自主可控的信息技术体系。近年来，随着国家对网络安全和信息安全的重视程度不断提高，国产化信创已经成为国家战略的重要组成部分，并呈现出以下大趋势： ● 政策驱动，加速发展 国家出台了一系列政策法规，大力支持国产...
-
IBM加倍投入企业AI，发布 Watsonx 助手、模型更新
IIBM 公布了其生成式 AI 平台 watsonx 的新更新，包括新的助手工具、第三方模型和对开源 AI 的更广泛承诺。 在公司年度 Think 大会上，IBM 宣布将重点转向支持开源。该公司已经将其一系列 Granite 大型语言模型开源，这意味着企业...
-
拒绝AI生成代码！开源操作系统陆续举起“禁令”，Debian尚无行动
整理丨诺亚 出品 | 51CTO技术栈（微信号：blog51cto） 当下，AI的崛起已成大势。但是，当AI的触角伸向开源操作系统时，一些社区陆续亮起了“红灯”。 先是Linux发行版Gentoo 在四月中旬发布了一项理事会政策，禁止使用AI工具生成...
-
腾讯 PCG 搜广推机器学习框架GPU 性能优化实践
一、为什么 GPU 推荐模型训练框架是刚需 1. PCG 算力集群缺点 最开始的时候，腾讯 PCG 所有的推荐模型训练都是使用 CPU。但随着业务的深入，以及深度学习模型的发展，PCG 算力集群在做下一代推荐模型时会遇到各种问题： 首先，系统网络带宽...
-
红帽用RHEL AI和OpenShift AI塑造开源AI的未来
发展至今，AI技术对工作方式、决策过程乃至商业模式的重塑已经逐渐具象化。 红帽，作为开源解决方案的领军企业，在近日的在Red Hat Summit上，红帽展示了从RHEL AI的推出到InstructLab模型对齐工具的集成，再到OpenShift AI...
-
看红帽如何在RHEL与OpenShift中玩转生成式AI
市场上有很多生成式AI平台的选择，为什么要选择红帽? 红帽总裁兼CEO Matt Hicks直言红帽的不同之处在于运行位置的核心灵活性。企业既可以对小型开源模型进行混合部署，也可以在公有云或自有数据中心训练模型，同时支持主要的GPU供应商。 最近在R...
-
太酷了！手机上部署最新AI大模型！只需两步！
在当前的AI革命中，大模型扮演着至关重要的角色，而这背后的基础便是Scaling Law。简而言之，随着数据、参数和计算能力的不断提升，大模型的能力也随之增强，展现出小规模模型所无法比拟的“涌现能力”。越来越多的AI企业纷纷推出开源大模型，按照扩展定律实...
-
任天堂闪击GitHub，一夜删光8000多个模拟器代码仓库
任天堂闪击GitHub！一夜之间删除了8535个代码库。 只要包含Yuzu Switch模拟器代码都不放过，称其非法绕过了任天堂的技术保护措施，并运行了非法盗版Switch游戏。 GitHub这边也作出了回应。 开发者有时间可对侵权内容进行删除或更改。...
-
红帽发布 RHEL AI，助力企业开发、运行开源生成式AI模型
红帽在最近举办的峰会上宣布推出了 Red Hat Enterprise Linux AI（RHEL AI）开发者预览版。 该产品被定位为基础模型平台，用于无缝开发、测试和运行同类最佳的开源 Granite 生成式人工智能模型，为企业应用提供动力。RHEL...
-
MindSpore强化学习：使用PPO配合环境HalfCheetah-v2进行训练
本文分享自华为云社区《MindSpore强化学习：使用PPO配合环境HalfCheetah-v2进行训练》，作者： irrational。 半猎豹（Half Cheetah）是一个基于MuJoCo的强化学习环境，由P. Wawrzyński在“A Cat...
-
工业4.0革命：预测性维护成功的四阶段蓝图
为工业4.0设计预测性维护解决方案代表着企业维护和运营方式的范式转变。通过使用先进的预测性维护技术，主动预防运营挑战是这个新工业时代的关键方面。这些解决方案不仅有助于获取新的收入来源和节省运营成本，而且在防止停工和生产停机方面也发挥着重要作用。 尽管机...
-
Docker三分钟搞定LLama3开源大模型本地部署
概述 LLaMA-3（Large Language Model Meta AI 3）是由Meta公司开发的大型开源生成式人工智能模型。它在模型结构上与前一代LLaMA-2相比没有大的变动。 LLaMA-3模型分为不同规模的版本，包括小型、中型和大型，以适...
-
Linux之父讽刺AI炒作：很搞笑，大概我也会被大模型取代
几天前，由 Linux 基金会主办的北美开源峰会（Open Source Summit North America）在华盛顿西雅图闭幕。 会上，Linux 之父 Linus Torvalds 与其好友、Verizon 开源项目办公室负责人 Dirk Ho...
-
这款Linux发行版发起AI禁令！生成代码质量堪忧！阿里也被大模型幻觉愚弄了！网友：人比生产力更重要！
撰稿 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） Gentoo Linux是一套通用的、快捷的、完全免费的Linux发行版，因出色的包管理系统Portage而被开发人员广为喜爱。最近，GentooLinux社区宣布：发行版将不再允...
-
基于香橙派AIpro将开源框架模型转换为昇腾模型
本文分享自华为云社区《如何基于香橙派AIpro将开源框架模型转换为昇腾模型》，作者：昇腾CANN。 在前面的介绍中，我们知道了如何基于香橙派AIpro开发AI推理应用，也大致了解到在推理之前，需要把原始网络模型 (可能是 PyTorch 的、Tensor...
-
李彦宏内部讲话谈大模型：闭源才有真正的商业模式
4月11日，一则关于大模型的李彦宏内部讲话流出。在讲话中李彦宏对大模型的开源闭源路线之争给出了自己的解答。 他说，市场上已经有足够多的开源大模型，“不缺我们这一家开源的模型。我们要开源还得自己去维护一套开源的版本，这是不划算的。” 他还表示，闭源模型...
-
ROCm加持出图效率翻倍！AMD RX 7900 XT Linux系统 AI性能体验
一、ROCm加持出图效率翻倍！AMD RX 7900 XT Linux系统 AI性能体验 ROCm：一个可移植、高性能的GPU计算平台 随着AI时代的来临，显卡的作用不再仅仅只局限于游戏，特别是在Stable Diffusion火爆全网之后，越来越多的玩家...
-
最新AI工具系统ChatGPT网站运营源码SparkAi系统V6.0版本，GPTs应用、AI绘画、AI换脸、垫图混图、Suno-v3-AI音乐生成大模型全支持
一、前言 SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。本期针对源码系统整体测试下来非常完美，那么如何搭建部署AI创作ChatGPT？小编这里写一个详细...
-
川川本人著作《Python网络爬虫入门到实战》
? 《Python网络爬虫入门到实战》 ? ? 内容亮点: 从零开始，深入浅出地探索Python3网络爬虫的奥秘。 覆盖200多个实用案例代码，近200个知识点，确保你从入门到实战无障碍。 不仅有urllib、Requests请求库的详解，还有X...