-
区分LLaMA、llama.cpp和Ollama
大模型本地部署和运行中，经常遇到这三个概念，llama，ollama，llama.cpp。 刚开始接触时，的确有些傻傻分不清楚。这里简单区分理解下，方便快速上手。 简单来讲，llama 是一个Meta公司开源的预训练大型语言模型，llama.cpp用于加...
-
Copilot安装和使用最全教程
背景 Copilot 是一款由 GitHub 和 OpenAI 合作开发的代码辅助工具。它基于 OpenAI 的大型语言模型 GPT-3.5，专为帮助软件开发者提升编程效率而设计 Copilot的主要功能是通过理解用户输入的代码注释或部分代码片段、自动生...
-
AI绘画专栏之换脸在SDXL中使用保持人脸一致性INSTANTID FACEID XADAPTER，comfyui
大家都知道腾讯AILab出的ipadapter系列带来的faceid，photomaker非常火，顺便分享一下instantid，跟faceid一样用来保持人脸一致性，孰强孰弱不好说，我只能说我觉得faceid更强，但现在又出来了一个Xadapter是什么...
-
Py之llama-parse：llama-parse(高效解析和表示文件)的简介、安装和使用方法、案例应用之详细攻略
Py之llama-parse：llama-parse(高效解析和表示文件 的简介、安装和使用方法、案例应用之详细攻略 目录 llama-parse的简介 llama-parse的安装和使用方法 1、安装 2、使用方法 第一步，获取API...
-
运行stable-diffusion出现的问题(1)
Checkout your internet connection or see how to run the library in offline mode at ‘https://huggingface.co/docs/transformers/ins...
-
基于 langchain 和大语言模型 (LLM) 的自然语言数据库查询系统 (RAG)——data copilot
data-copilot ✨ 基于 langchain 和大语言模型 (LLM 的自然语言数据库查询系统 (RAG 通过自然语言提问，使用大语言模型智能解析数据库结构，对数据进行智能多表结构化查询和统计计算，根据查询结果智能绘制多种图表。 Pyw...
-
Perplexica 是 Perplexity.ai 的开源 AI 搜索引擎替代品
Perplexica 是一个开源项目，旨在提供一个隐私保护的 AI 搜索引擎，作为 Perplexity AI 等专有选项的替代方案。它利用大型语言模型（LLMs）和人工智能功能，提供了一个开放的搜索解决方案。 产品入口：https://top.aiba...
-
AIGC时代桌面软件开发技术展望
AIGC技术催生新一代桌面软件 现代大模型技术本质上是一种“NLP”技术，基于这个观点，文本描述驱动引擎就是AI技术落地无法规避的一道墙，每一个AI技术都必须实际的面对这个事实。就文本驱动技术而言，在一个token的两侧，分别插入一个...
-
五一 Llama 3 超级课堂 | XTuner 微调 Llama3 图片理解多模态 实践笔记
基于 Llama3-8B-Instruct 和 XTuner 团队预训练好的 Image Projector 微调自己的多模态图文理解模型 LLaVA。 课程文档：Llama3-Tutorial/docs/llava.md at main · Smart...
-
AUTOMATIC1111/stable-diffusion-webui/stable-diffusion-webui-v1.9.3
配置环境介绍 目前平台集成了 Stable Diffusion WebUI 的官方镜像，该镜像中整合如下资源： GpuMall智算云 | 省钱、好用、弹性。租GPU就上GpuMall,面向AI开发者的GPU云平台 Stable Diffusion W...
-
Stable Diffusion详细教程
目录 ?引言 ?Stable Diffusion基本概念 ?潜在扩散模型 ?图像生成原理 ?Stable Diffusion安装部署 ?环境要求 ?安装步骤 ?Stable Diffusion阶段 ?准备阶段 ?训练阶段 ?评估阶...
-
(js)通过js批量下载下载所有ChatGPT(文心一言示例)查询后的结果
因工作中需要用到ChatGPT，而gpt查询后的结果只能一个一个复制，查询的条目多的时候就比较麻烦，所以在这记录我的解决方案 一、通过脚本下载结果 以文心一言为例 1.首先是f12或右键查看元素找到对应块的元素 tps：文心一言会打开debug...
-
Jenkins 自动化更新 Stable Diffusion 介绍
本文介绍如何使用 Jenkins 自动化更新 Stable Diffusion WebUI 和 Queue Agent 在 Amazon Elastic Kubernetes Service (EKS 上的部署过程。 步骤解释 1. 登录 ECR...
-
2024年最强人工智能AI软件，AI画画，AI写小说，一招帮你搞定
2024年也涌现出了非常多好用又强大的人工智能AI软件，AI画画，AI写小说，AI做翻译等等，分享自己今年最常用的几个AI工具，都是精品，欢迎点赞收藏~ 1、GitMind AI 网站直达：GitMind · 思乎 - AI思维导图流程图白板制作软...
-
【推理框架】超详细！AIGC面试系列 大模型推理系列(1)
本期问题聚焦于大模型的推理框架 本期问题快览 有哪些大模型推理框架 了解vllm吗 介绍下vllm的核心技术 了解faster transformer吗 介绍下faster transformer的核心技术 了解Xinference吗 了解l...
-
llama_index微调BGE模型
微调模型是为了让模型在特殊领域表现良好，帮助其学习到专业术语等。 本文采用llama_index框架微调BGE模型，跑通整个流程，并学习模型微调的方法。 已开源：https://github.com/stay-leave/enhance_llm 一、...
-
LLM之RAG之LlaMAIndex：llama-index(一块轻快构建索引来查询本地文档的数据框架神器)的简介、安装、使用方法之详细攻略
LLM之RAG之LlaMAIndex：llama-index(一块轻快构建索引来查询本地文档的数据框架神器 的简介、安装、使用方法之详细攻略 目录 LlamaIndex的简介 1、LlamaIndex有什么帮助? 2、核心原理 llama-i...
-
Chrome浏览器将内置AI大模型Gemini Nano 新版开启内测
Chrome团队宣布，正在探索“内置 AI”概念，即浏览器将具有内置 AI 模型，以便为浏览器功能和网络平台 API 启用设备上的 AI。 官方介绍称，借助内置 AI，您的网站或 Web 应用将能够针对基础模型和专家模型运行各种 AI 任务，而无需担心部...
-
llama-cpp-python安装bug：error: subprocess-exited-。scikit-build-core 0.8.2 using CMake 3.28.3 (wheel)
– llama-cpp-python安装bug：error: subprocess-exited-。scikit-build-core 0.8.2 using CMake 3.28.3 (wheel 环境 系统 linux python 3.1...
-
Llama 3消费级PC安装与运行教程
我是 Llama 的忠实粉丝。 Meta 发布其 LLM 开源代码对整个科技界来说是一项净收益，其宽松的许可证允许大多数中小型企业在几乎没有任何限制的情况下使用其 LLM（当然，在法律范围内）。 他们的最新版本是备受期待的 Llama 3。 Llama...
-
照片特定风格变换Stylar AI；GPT-4V开源替代方案InternVL；纯C/C++实现的Stable Diffusion库；基于AI的数据爬取
✨ 1: AI Photo Filter Stylar AI是一款功能强大的AI图像编辑与设计工具，提供无与伦比的图片组合和风格控制。 AI Photo Filter，简言之，就是使用人工智能技术来改善或改变图片的风格、质量和元素组合的一种...
-
简单4步，带你用华为云MetaStudio制作数字人短片
本文分享自华为云社区《使用MetaStudio生产线四步制作数字人视频》，作者： yd_298097624。 随着AIGC新技术尤其是大模型技术的发展，音视频行业、数字内容生产行业正在经历这从生产方式和生产效率上的一个巨大变化。预测到2030年有AI大模...
-
将小爱音箱接入ChatGPT和豆包 一秒调教你的专属小爱
在数字化时代，家庭的概念已经扩展，不仅仅是一个居住的空间，更是数字生活的一部分。MiGPT项目通过将小爱音箱、米家智能设备与ChatGPT技术相结合，创造了一个既智能又贴心的家庭助手。这个系统不仅能够实现家庭自动化，还能与居住者建立情感联系。 项目主要亮...
-
LightGBM实战+随机搜索调参：准确率96.67%
大家好，我是Peter~ 今天给大家分享一下树模型的经典算法：LightGBM，介绍算法产生的背景、原理和特点，最后提供一个基于LightGBM和随机搜索调优的案例。 LightGBM算法 在机器学习领域，梯度提升机（Gradient Boosting...
-
使用llama.cpp在linux cuda环境部署llama2方法记录及遇到的问题
一、编译lllama.cpp 拉取llama.cpp库 cd llama.cpp make LLAMA_CUBLAS=1 LLAMA_CUDA_NVCC=/usr/local/cuda/bin/nvcc bug：编译问题 使用make，nv...
-
使用llama-index连接neo4j知识图谱 达成大模型构建查询知识图谱功能
使用llama-index连接neo4j知识图谱 达成本地大模型构建查询知识图谱功能 概述 目标 主要步骤 1. 安装依赖项 2. 配置环境 配置ollama 3. 使用Neo4j构建知识图谱 准备Neo4j 实例化Neo4jGraph...
-
使用LangChain和Llama-Index实现多重检索RAG
大家好，在信息检索的世界里，查询扩展技术正引领着一场效率革命。本文将介绍这一技术的核心多查询检索，以及其是如何在LangChain和Llama-Index中得到应用的。 1.查询扩展 查询扩展是一种信息检索技术，通过在原始查询的基础上增加相关或同义的词...
-
部署基于内存存储的 Elasticsearch - 一亿+条数据，全文检索 100ms 响应
1. 在主机上挂载内存存储目录 创建目录用于挂载 mkdir /mnt/memory_storage 挂载 tmpfs 文件系统 mount -t tmpfs -o size=800G tmpfs /mnt/memory_storage 存储空间会按需使...
-
Midjourney 参数详解（MJ参数）
官方地址： Midjourney Parameter ListParameters are added to a prompt to change how an image generates. Parameters can change an imag...
-
一文读懂如何基于 Ollama 在本地运行 LLM
为什么要使用 Ollama 开源项目 ? 在当今人工智能技术飞速发展的时代，大型语言模型(LLM 无疑已成为焦点炯炯的科技明星。自从ChatGPT的推出以来，其强大的自然语言理解和生成能力便惊艳了全球，成为人工智能商业化进程中的杰出代表。 然而，这一领域...
-
拥有私人GPT：chatgpt-web-midjourney-proxy完整部署指南
引言 拥有私人GPT并不是真正把GPT据为己有，而是让你能够在任何地方都能通过API的形式随时使用GPT。私人GPT目前也可以完美解决如下问题： 无需魔法即可使用，不限次数随意调用； 无需注册、登录，也无需国外账户支付购买； 经济实惠，仅为使用官方费...
-
一文读懂如何基于Ollama在本地运行LLM
“Mixtral有46.7B的总参数，但每个令牌只使用12.9B参数。因此，它以与12.9B型号相同的速度和成本处理输入并生成输出。” 为什么要使用 Ollama 开源项目 ? 在当今人工智能技术飞速发展的时代，大型语言模型(LLM 无疑已成为焦点炯炯...
-
在Docker中部署Llama大型语言模型
Docker作为一个轻量级的容器化平台，使得应用程序的部署和扩展变得简单而高效。在Docker中部署Llama大型语言模型，可以确保模型运行环境的一致性和可移植性，同时也便于管理和扩展。本文将介绍如何在Docker中部署Llama模型的具体步骤和注意事项。...
-
AnythingLLM：零成本的私人ChatGPT，支持几乎所有主流大模型
用过大模型的都知道，我们不怕它不回答，就怕它乱回答，特别是一眼还看不出来的那种。即便是最先进的AI模型也会说谎，防不胜防。对企业来说，幻觉，已经成为阻碍大模型应用的严重缺陷性问题。 除了幻觉，通用大模型无法满足企业实际业务需求还涉及到知识局限性、信息安全...
-
开发arXiv论文引擎机器人程序：基于RAG＋LangChain＋Chainlit＋ChromaDB
译者 | 朱先忠 审校 | 重楼 简介 在本文中，我将演示如何使用检索增强生成(RAG 技术构建语义研究论文引擎。具体地说，我将使用LangChain(https://www.langchain.com/ 作为构建语义引擎的主要框架，以及OpenAI公...
-
【AIGC】本地部署 ollama(gguf) 与项目整合
首先，先跟各位小伙伴说一句 Sorry 。上一篇文章《【AIGC】本地部署通义千问 1.5 (PyTorch 》并没有考虑企业成本问题，虽然代码可以跑通，但是中小型企业想通过该代码实现项目落地还是比较困难的。为此，本文将采用 GGUF 预量化大模型结合 O...
-
知识图谱检索增强的GraphRAG(基于Neo4j代码实现）
图检索增强生成（Graph RAG）正逐渐流行起来，成为传统向量搜索方法的有力补充。这种方法利用图数据库的结构化特性，将数据以节点和关系的形式组织起来，从而增强检索信息的深度和上下文关联性。图在表示和存储多样化且相互关联的信息方面具有天然优势，能够轻松捕...
-
基于llama.cpp的GGUF量化与基于llama-cpp-python的部署
前言：笔者在做GGUF量化和后续部署的过程中踩到了一些坑，这里记录一下。 1.量化 项目地址：llama.cpp 1.1 环境搭建 笔者之前构建了一个用于实施大模型相关任务的docker镜像，这次依然是在这个镜像的基础上完成的，这里给出Dock...
-
Stable Diffusion 使用技巧与具体操作（详细）
Stable Diffusion 是一种基于扩散模型的图像生成技术，能够生成高质量的图像。以下是一些详细的使用技巧与具体操作，帮助你更好地利用这一技术进行创作。 1. 基本概念 Stable Diffusion 利用扩散过程生成图像，通过逐步添加噪声并...
-
docker部署stable-diffusion-webui
大模型弄好了，想着玩玩stable-diffusion-webui，结果折腾了几天无果，最后使用大佬的docker镜像弄好了。 Ubuntu20.4 docker运行stable diffusion webui_siutin/stable-diffusi...
-
GitHub Copilot 简单使用
因为公司安全原因，并不允许在工作中使用GitHub Copilot，所以，一直没怎么使用。最近因为有一些其它任务，所以，试用了一下，感觉还是很不错的。（主要是C++和Python编程） 一：常用功能 1.1：代码的智能提示和代码补全。 也就是Copi...
-
JSP简介——[JSP]2
希望你开心，希望你健康，希望你幸福，希望你点赞！ 最后的最后，关注喵，关注喵，关注喵，大大会看到更多有趣的博客哦！！！ 喵喵喵，你对我真的很重要！ 目录 前言 JSP页面 设置web服务目录 1.根目录 2.webapps下的Web...
-
【AIGC调研系列】Dify平台是什么
Dify平台是一个专为大型语言模型（LLM）开发和运营设计的LLMOps（Large Language Model Operations）平台。它旨在简化AI应用的创建、部署和管理过程，使开发者能够更快速、更轻松地构建和运营基于GPT等模型的AI应用。...
-
AI智能体研发之路-模型篇（一）：大模型训练框架LLaMA-Factory在国内网络环境下的安装、部署及使用
博客导读： 《AI—工程篇》 AI智能体研发之路-工程篇（一）：Docker助力AI智能体开发提效 AI智能体研发之路-工程篇（二）：Dify智能体开发平台一键部署 AI智能体研发之路-工程篇（三）：大模型推理服务框架Ollama...
-
AIGC专栏10——EasyAnimate 一个新的类SORA文生视频模型 轻松文生视频
AIGC专栏10——EasyAnimate 一个新的类SORA文生视频模型 ?轻松文生视频 学习前言 源码下载地址 技术原理储备（DIT/Lora/Motion Module） 什么是Diffusion Transformer (DiT ...
-
LLaMA-Factory 微调训练
LLaMA-Factory 微调训练 该框架功能，标注-微调-导出-合并-部署，一整条流程都有，而且训练时消耗的gpu算力也会小一些 一，安装（推荐在linux中训练，win可以用wsl+docker） git clone https:...
-
stable diffusion的从安装到使用
stable-diffusion，一个免费开源的文生图软件，文章主要讲怎么从源码开始安装，以及使用的方式 git地址：https://github.com/AUTOMATIC1111/stable-diffusion-webui 本人电脑环境win10...
-
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一）
基于LlaMA 3 + LangGraph 在windows本地部署大模型 （一） RAG 是未来人工智能应用的基石。大家并不是在寻求仅仅产生无意义反应的人工智能。而目标是人工智能能够从特定文档集中检索答案，理解查询的上下文，指导自己搜索其嵌入内容...
-
OpenAI API - 使用Whisper和GPT-4模型开发一个自动化会议记录生成器
前言 本文章结合官方教程给大家介绍如何利用OpenAI的Whisper和GPT-4模型来开发一个自动化会议记录生成器。这个应用程序可以转录会议音频 一 应用程序基本介绍 Whisper和GPT-4模型：Whisper是一个用于音频转录的模型，而G...
-
Stable Diffusion安装指南（win+Mac）
今天我给大家带来了超强的免费AI绘画工具Stable Diffusion的保姆级安装教程，大家可以自行修炼。 首先我们先介绍一下Stable Diffusion： Stable Diffusion是一个文本到图像的潜在扩散模型，由CompVis、Sta...