-
XSKY对象存储深度结合Alluxio分布式缓存系统，GPU利用率提高至90%以上
近日，Alluxio分布式缓存系统完成了与XSKY星辰天合的 XEOS V6.4 对象存储的兼容性测试，旨在解决数据管理和加速方面的挑战。双方进行了深度的产品对接和联合开发，将 Alluxio 分布式缓存系统与 XEOS 对象存储的众多应用特性进行结合，推...
-
Stable Diffusion支持多人排队使用
如果我们想要自己在云服务器上部署Stable Diffusion模型，但是又不想自动扩容造成成本激增，我们可以设计排队使用的模式。stable-diffusion-webui已经很好用了，支持了自定义模型及Lora模型的加载、排队生成、完善的UI和各种插件...
-
部署基于内存存储的 Elasticsearch - 一亿+条数据，全文检索 100ms 响应
1. 在主机上挂载内存存储目录 创建目录用于挂载 mkdir /mnt/memory_storage 挂载 tmpfs 文件系统 mount -t tmpfs -o size=800G tmpfs /mnt/memory_storage 存储空间会按需使...
-
DeepArt和Colorize哪个更适合历史照片上色？AI上色工具使用体验优缺点对比
什么是AI上色？ AI上色是一种利用人工智能技术自动为黑白或色彩单调的图像添加颜色的过程。这种技术通过深度学习算法分析图像内容，并根据其理解的颜色分布和上下文关系，自动为图像的不同部分上色，使其看起来更加生动和真实。 AI上色的核心功能 1：自动色彩识...
-
本地使用Groq Llama 3 70B的逐步指南
译者 | 布加迪 审校 | 重楼 本文介绍了如何使用Groq LPU推理引擎在Jan AI和VSCode中生成超快速响应。 每个人都致力于构建更好的大语言模型(LLM ，而Groq专注于AI的基础设施方面，旨在确保这些大模型更快速响应。 本教程将介绍...
-
多语言模型微调统一框架 LlAMAFACTORY: 统一高效微调100多种语言模型
文章目录 摘要 1 引言 2 高效微调技术 2.1 高效优化 2.2 高效计算 3 LlAMAFACtORY框架 3.1 模型加载器 3.2 数据处理工作者 3.3 训练器 3.4 实用工具 3.5 LLAMABOARD：LLAMAFAC...
-
太兴奋了！Stable Diffusion WebUI v1.9.0它来了~重大更新！超详细讲解！
大家好，我是程序员晓晓 距上次 WebUI v1.8的更新发布刚刚过去一个多月，Stable Diffusion WebUI 这次又又又更新了，老徐关注到Stable Diffusion WebUI作者UTOMATIC1111就在前几天在GitHub...
-
Stable Diffusion模型基于 TensorFlow 或 PyTorch 训练
安装必要的软件和库： 安装 Python（建议使用 Python 3.x 版本）。 安装 TensorFlow 或 PyTorch，具体版本取决于你的模型是基于哪个框架训练的。 安装其他可能需要的依赖，如 NumPy、Matplotlib 等。...
-
Midjourney可以通过接口调用啦
在数字艺术创作领域，Midjourney一直以其出色的图片生成效果受到广泛关注。然而，由于需要通过discord界面操作等一系列限制，也给很多用户带来了不便。现在，通过日月摘星接口，用户可以直接访问和调用midjourney，大大简化了操作...
-
一文读懂如何基于 Ollama 在本地运行 LLM
为什么要使用 Ollama 开源项目 ? 在当今人工智能技术飞速发展的时代，大型语言模型(LLM 无疑已成为焦点炯炯的科技明星。自从ChatGPT的推出以来，其强大的自然语言理解和生成能力便惊艳了全球，成为人工智能商业化进程中的杰出代表。 然而，这一领域...
-
苏妈杀疯了：移动端最强NPU算力达50TOPS，最强AI芯片挑战英伟达
一年一度的 Computex 科技大会成为了 GPU 厂商们秀肌肉的舞台，其中当属英伟达和 AMD 最为亮眼。英伟达现场拿出了量产版 Blackwell 芯片，还公布了未来三年的产品路线，包括下一代 Rubin AI 平台。 AMD 当然也不甘示弱，CE...
-
拥有私人GPT：chatgpt-web-midjourney-proxy完整部署指南
引言 拥有私人GPT并不是真正把GPT据为己有，而是让你能够在任何地方都能通过API的形式随时使用GPT。私人GPT目前也可以完美解决如下问题： 无需魔法即可使用，不限次数随意调用； 无需注册、登录，也无需国外账户支付购买； 经济实惠，仅为使用官方费...
-
文心一言API接入指南
一、了解文心一言 文心一言是百度打造出来的人工智能大语言模型，具备跨模态、跨语言的深度语义理解与生成能力，文心一言有五大能力，文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成，其在搜索问答、内容创作生成、智能办公等众多领域都有更广阔的想象空间...
-
whisper 的安装pycharm使用 以及出现的BUG（已经解决）！
whisper（语音识别）+ffmpeg介绍 Whisper是OpenAI于2022年9月份开源的通用的语音识别模型。它是在各种音频的大型数据集上训练的模型，也是一个可以执行多语言语音识别、语音翻译和语言识别的多任务模型。Whisper 是一它在不同音频...
-
一文读懂如何基于Ollama在本地运行LLM
“Mixtral有46.7B的总参数，但每个令牌只使用12.9B参数。因此，它以与12.9B型号相同的速度和成本处理输入并生成输出。” 为什么要使用 Ollama 开源项目 ? 在当今人工智能技术飞速发展的时代，大型语言模型(LLM 无疑已成为焦点炯炯...
-
GPT Researcher：破解复杂研究的AI利器
作者 | 崔皓 审校 | 重楼 在现代研究环境中，处理如详尽研究工作或学术论文撰写等复杂任务对当前的大型语言模型(如ChatGPT 来说是一个挑战。这些任务通常需要长时间的手动干预和多步骤操作，现有的AI工具往往无法在没有人类帮助的情况下完成这些复杂任...
-
一个基于ComfuUI Api的 AIGC自动绘画实现方案
工作流程图 基本原理已经弄通，下一步要开始编码搬砖了。整个自动绘画的流程如下，暂就不整高深U什么L了，写个简单明了能容易看懂的流程图。UI借用了下墨刀里的AI绘画公开原型 部署节点 整个系统的后端服务典型部署需要3类节点 Aigc Serve...
-
AmbientGPT有哪些功能免费吗？怎么使用方法详细教程指南
AmbientGPT 是什么？ AmbientGPT是一个革命性的编程辅助工具，允许开发者在本地运行GPT- 4 和基础模型，同时能够直接推断屏幕上下文，从而无需手动上传上下文信息，大大提高了代码编写和问题解决的效率。 AmbientGPT 有哪些功...
-
LLAMA 3的测试之旅：在GPT-4的阴影下前行
Meta终于发布了他们长期期待的LLAMA 3模型，这是一个开源模型，实际上提供了一系列新的功能，使得模型在回答问题时表现得更好。这对AI社区来说是一个真正的里程碑事件。 Meta正在发布新版本的Meta AI，这是一种可以在他们的应用程序和眼镜上提...
-
2024最新GPT4.0使用教程，AI绘画，一站式解决
一、前言 ChatGPT3.5、GPT4.0、GPT语音对话、Midjourney绘画，文档对话总结+DALL-E3文生图，相信对大家应该不感到陌生吧？简单来说，GPT-4技术比之前的GPT-3.5相对来说更加智能，会根据用户的要求生成多种内容甚至也可以...
-
LMDeploy高效部署Llama-3-8B，1.8倍vLLM推理效率
Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，LMDeploy 对 Llama 3 部署进行了光速支持，同时对 LMDeploy 推理 Llama 3 进行了测试，在公平比较的条件下推理效率是 vLLM 的 1.8 倍。 书生...
-
Llama-Factory 简介 二， 脚本详解 LLaMA-Factory/src/train_bash.py LLaMA-Factory/src/llmtuner/train/pt/workfl
examples/ ├── lora_single_gpu/ │ ├── pretrain.sh: 基于 LoRA 进行增量预训练 │ ├── sft.sh: 基于 LoRA 进行指令监督微调 │ ├── reward.sh: 基于 LoRA...
-
开发arXiv论文引擎机器人程序：基于RAG＋LangChain＋Chainlit＋ChromaDB
译者 | 朱先忠 审校 | 重楼 简介 在本文中，我将演示如何使用检索增强生成(RAG 技术构建语义研究论文引擎。具体地说，我将使用LangChain(https://www.langchain.com/ 作为构建语义引擎的主要框架，以及OpenAI公...
-
利用人工智能和机器人推动科学发展
人类研究人员将永远在科学中发挥作用，但人类在探索科学方面有许多局限，我们需要吃饭和睡觉，我们的情绪会影响行为，我们的身体很容易受到不可挽回的伤害——所有这些都可能阻碍科学成就。美国阿贡国家实验室最近的发展表明，应该让机器人做一些工作，研究人员称之为“自主...
-
Stable Diffusion插件（翻译）
Agent Scheduler（代理调度器）：一个用于排队和跟踪任务历史的工具，使得管理生成任务变得井井有条。 TemporalKit（时间稳定工具包）：这是一个全能解决方案，通过一个自动化扩展，为Stable Diffusion渲染添加时间稳定性，保持...
-
2024过半，AI卷到哪儿了？
AI创业者陈冉，发现行业里有一些“怪现象”。 很多客户向他反馈，自己很困惑。一方面，大模型更新速度太快，搞不清楚到底哪个好用;同时，自己也不知道大模型怎么跟业务结合;另外，自己的数据集究竟能不能精调出一个好用的大模型，心里也没谱。 最后的结果就是，愿意投入...
-
OpenAI把GPT-4原始版给了他们：研究不微调只靠提示词能走多远
除了OpenAI自己，居然还有别人能用上GPT-4-Base版？？ 也就是未经微调的预训练版，还不会对话聊天，只会补全句子的模型。 EPFL（瑞士洛桑联邦理工）团队申请到了访问权限，用于研究“上下文学习足以让大模型跟随指令吗？”。 也就是不用监督微调、...
-
超越Devin！姚班带队，他们创大模型编程新世界纪录
超越Devin!SWEBench排行榜上迎来了新玩家—— StarShip CodeGen Agent，姚班带队初创公司OpenCSG出品，以23.67%的成绩获得全球第二名的成绩。 同时创造了非GPT-4o基模的最高纪录（SOTA）。 我们都知道，SW...
-
大模型“分区”部署在云和边缘更合适？
作者 | David Linthicum 出品 | 51CTO技术栈（微信号：blog51cto） 众所周知，大型语言模型（LLMs）需要大量的计算资源。这意味着开发和部署主要集中在强大的集中式系统上，如公共云提供商。然而，尽管许多人认为我们需要大量的...
-
使用 Springboot3.x 实现考试系统中接打电话的识别与处理
本专题将深入探讨考试系统中常见的复杂技术问题，并提供基于Spring Boot 3.x的解决方案。涵盖屏幕切换检测与防护、接打电话识别处理、行为监控摄像头使用、网络不稳定应对等，每篇文章详细剖析问题并提供实际案例与代码示例，帮助开发者应对挑战，提升考试系...
-
Stable Diffusion 使用技巧与具体操作（详细）
Stable Diffusion 是一种基于扩散模型的图像生成技术，能够生成高质量的图像。以下是一些详细的使用技巧与具体操作，帮助你更好地利用这一技术进行创作。 1. 基本概念 Stable Diffusion 利用扩散过程生成图像，通过逐步添加噪声并...
-
一键部署！QQ AI 聊天机器人！支持ChatGPT、文心一言、讯飞星火、Bing、Bard、ChatGLM、POE，多账号，人设调教
随着人工智能技术的不断发展，智能聊天机器人已经成为我们日常生活中不可或缺的一部分。ChatGPT作为一款强大的人工智能聊天模型，能够为我们提供高效、便捷的聊天体验。那么，如何将ChatGPT接入QQ，实现智能聊天新体验呢？本文将为你详细介绍。无需太多的要求...
-
基于Wechaty实现微信接入文心一言
引言与效果 上篇文章写了怎么用Wechaty接入ChatGPT，这篇写一下怎么接入文心一言的模型。国内的模型用起来会更方便一些，而且也不用科学上网。最终实现效果如下： Wechaty机器人介绍与部署 在上一篇中已详细展开说，这一篇就不再说明...
-
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流 1、 Llama 3...
-
基于百度语音识别、文心一言大模型、百度语音合成的一套完整的语音交互（利用Python实现）
本人小白，因为毕设项目需要用的语音交互，便查网上的资料利用百度api实现，比较简单的过程，供大家借鉴批判。 项目框架大致分为3步：（1）百度语音识别可以将我们输入的语音转化为文本输入到文心一言大模型；（2）文心一言大模型根据输入以输出响应文...
-
【AIGC调研系列】Dify平台是什么
Dify平台是一个专为大型语言模型（LLM）开发和运营设计的LLMOps（Large Language Model Operations）平台。它旨在简化AI应用的创建、部署和管理过程，使开发者能够更快速、更轻松地构建和运营基于GPT等模型的AI应用。...
-
百度文心一言api Python调用ERNIE-Lite-8K-0922具体教程
ERNIE Lite是百度自研的轻量级大语言模型，兼顾优异的模型效果与推理性能，适合低算力AI加速卡推理使用。ERNIE-Lite-8K-0922（原ERNIE-Bot-turbo-0922）是模型的一个模版，本文介绍了相关API及应用。 创建chat...
-
基于 Llama-Index、Llama 3 和 Qdrant，构建一个 RAG 问答系统！
构建一个使用Llama-Index、Llama 3和Qdrant的高级重排-RAG系统 尽管大型语言模型（LLMs）有能力生成有意义且语法正确的文本，但它们面临的一个挑战是幻觉。 在LLMs中，幻觉指的是它们倾向于自信地生成错误答案，制造出看似令人信...
-
大神开发的Stable Diffusion出了安卓客户端，完全免费
Stable Diffusion是2022年发布的深度学习文本到图像生成模型。由于它是一款完全免费的开源软件，可以在大多数配备有适度GPU的电脑硬件上运行。他不像chatgpt和其他AI工具，模型（如DALL-E和Midjourney）只能通过云计算服务访...
-
“全网最全”LLM推理框架集结营 | 看似微不足道，却决定着AIGC项目的成本、效率与性能!
00-前序 随着ChatGPT、GPT-4等大语言模型的出现，彻底点燃了国内外的学者们与企业家们研发LLM的热情。国内外的大语言模型如雨后春笋一般的出现，这些大语言模型有一部分是开源的，有一部分是闭源的。 伴随着大语言模型的出现，国...
-
玩转AI，笔记本电脑安装属于自己的Llama 3 8B大模型和对话客户端
2024 年 4 月 18 日，Meta开源了 Llama 3 大模型，把 AI 的门槛降低到了最低，这是人工智能领域的一个重要飞跃。我们个人也可以部署大模型了，这简直就是给个人开发者发了个大红包！Llama 3 模型有不同的参数版本，本文主要分享我在个人...
-
LLaMA-Factory 微调训练
LLaMA-Factory 微调训练 该框架功能，标注-微调-导出-合并-部署，一整条流程都有，而且训练时消耗的gpu算力也会小一些 一，安装（推荐在linux中训练，win可以用wsl+docker） git clone https:...
-
WhisperX：新一代加密通信框架，安全与效率并重
WhisperX：新一代加密通信框架，安全与效率并重 项目地址:https://gitcode.com/m-bain/whisperX 在数字时代，隐私和数据安全日益成为我们关注的重点。WhisperX是一个新兴的开源项目，旨在提供一个高度安全、可...
-
孔夫子二手书采集
文章目录 项目演示 软件采集单本数据 网页搜索数据对比 使用场景 概述 部分核心逻辑 Vb工程图 数据导入与读取 下拉框选择参数 设置线程 使用方法 下载软件 授权 导入文件 预览处理后的数据 项目结构 附件说明 项目演...
-
OpenAI API - 使用Whisper和GPT-4模型开发一个自动化会议记录生成器
前言 本文章结合官方教程给大家介绍如何利用OpenAI的Whisper和GPT-4模型来开发一个自动化会议记录生成器。这个应用程序可以转录会议音频 一 应用程序基本介绍 Whisper和GPT-4模型：Whisper是一个用于音频转录的模型，而G...
-
小白编程神器！秒杀Copilot！
在当今的数字时代，编码已成为各个行业必不可少的技能。从应用程序开发到网页设计，编码是许多技术进步的核心。然而，不是每个人都有时间从头开始学习编码。 关注智言AI，即可免费体验无魔法版本的DALL·E3（画图）、GPT实时联网和4V功能（看图）！ 电脑...
-
OpenAI要和苹果合作：投资数百亿美元的微软不高兴了
快科技5月31日消息，据国外媒体报道，苹果与OpenAI的合作谈判已持续一年之久，并且双方计划在即将到来的苹果WWDC 2024开发者大会上正式宣布合作事宜。 据悉，合作内容可能涉及将ChatGPT集成到iOS 18系统中，这将大幅提升Siri的智能处理能...
-
OpenAI被曝帮苹果Siri换脑，微软急了：CEO约谈奥特曼
OpenAI、苹果被曝牵手成功，iPhone要变AiPhone了! 预计苹果将在6月10日的WWDC2024上首发iOS18的新AI功能，到时见分晓。 知情人士透露，Siri很可能会被AI彻底改造，可控制应用程序内的所有功能。 The Informati...
-
使用llama.cpp量化部署LLM
以llama.cpp工具为例，介绍模型量化并在本地部署的详细步骤。这里使用 Meta最新开源的 Llama3-8B 模型。 1 环境 系统应有make（MacOS/Linux自带）或cmake（Windows需自行安装）编译工具 Python 3....
-
aigc 启动器 sd-webui-aki-v4 decode_base64_to_file
下载地址： SD-WebUI启动器 绘世-启动器 | 万物档案 decode_base64_to_file报错： File "E:\BaiduNetdiskDownload\stable diffusion\sd-webui-aki-v4\e...