-
笔记本电脑本地部署ollama大模型（显存不足调用CUDA Unified Memory方法）
软硬件：win11,NVIDIA GeForce RTX 3050 显存4g 一.ollama模型最低要求 1. Llama 3.1 (8B 模型 GPU: 至少需要 1 张具有 16 GB 显存的 GPU（例如 NVIDIA Tesla V1...
-
【从Qwen2,Apple Intelligence Foundation,Gemma 2,Llama 3.1看大模型的性能提升之路】
从早期的 GPT 模型到如今复杂的开放式 LLM，大型语言模型 (LLM 的发展已经取得了长足的进步。最初，LLM 训练过程仅侧重于预训练，但后来扩展到包括预训练和后训练。后训练通常包括监督指令微调和校准，这是由 ChatGPT 推广的。 自 Chat...
-
LLAMA 3.1 论文的见解
这有什么大不了的？ LLAMA 3.1 的发布标志着 AI 开发的一个重要里程碑。开源模型首次接近领先的闭源模型的性能水平。这一转变预示着未来开源模型同样有效，任何人都可以灵活地修改和调整它们。马克·扎克伯格将此与 Linux 的开源性质进行了比较，...
-
部署本地语音聊天机器人：在Seeed Studio reComputer Jetson上部署Riva和Llama2
本地语音聊天机器人：在Seeed Studio reComputer Jetson上部署Riva和Llama2 所有教程都免费开源，请动动小手点个小星星https://github.com/Seeed-Projects/jetson-examples...
-
Nvidia 和 Mistral AI 的超精确小语言模型适用于笔记本电脑和 PC
Nvidia 和 Mistral AI 发布了一款新型的小型语言模型，据称该模型在小体积下依然具有「最先进」的准确性。该模型名为 Mistral-NemMo-Minitron 8B，是 NeMo 12B 的迷你版本，参数量从 120 亿缩减到了 80 亿。...
-
JuiceFS 在多云架构中加速大模型推理
在大模型的开发与应用中，数据预处理、模型开发、训练和推理构成四个关键环节。本文将重点探讨推理环节。在之前的博客中，社区用户 BentoML 和贝壳的案例提到了使用 JuiceFS 社区版来提高模型加载的效率。本文将结合我们的实际经验，详细介绍企业版在此场景...
-
大模型，科大讯飞不能输的一战
8月21晚间，科大讯飞发布了2024年半年度报告。尽管公司上半年实现营收93.25亿元，同比增长18.91%，但净利润却亏损至4.01亿元，同比下降644.59%;扣非后净利润继续亏损4.83亿元，同比下降58.86%，上年同期则亏损3.04亿元，亏损进一...
-
Meta Llama 3.1：AI领域的新里程碑
Meta最近推出了其最新的AI模型Llama 3.1，这不仅是一个技术上的飞跃，更是AI领域的一次重大突破。以下是Llama 3.1的一些关键技术亮点，值得每一位AI爱好者和开发者关注。 参数规模与性能 Llama 3.1包含三种规格：8B（80亿）、...
-
【愚公系列】《AIGC辅助软件开发》017-AI辅助后端编程：用ChatGPT写简单的生鲜小超市项目
? 作者简介，愚公搬代码 ?《头衔》：华为云特约编辑，华为云云享专家，华为开发者专家，华为产品云测专家，CSDN博客专家，CSDN商业化专家，阿里云专家博主，阿里云签约作者，腾讯云优秀博主，腾讯云内容共创官，掘金优秀博主，亚马逊技领云博主，51CTO博客专...
-
AIGC: 5 IT从业者如何使用AI赋能业务?
上图是一个使用AI生成的图片， 描述一下这篇文章的背景。 程序员系统学习了OpenAI提供的api接口，并熟练利用提示词结合业务解决业务问题。 现状 讲一个故事来开始今天的内容。 架构师老李在技术圈里以其卓越的技术洞察力而著称。另一边，Carter...
-
如何在本地运行Llama 3系列：完整指南
今天咱们来聊聊 AI 界的重要事情——那些像 Llama3 系列这样的超大型语言模型（LLMs），现在居然可以在咱们自己的地盘上运行啦！想象一下，这就像是把一个超级智能的助手请进了家门，而且还是私密的，不用担心信息泄露的问题。 本文，虽然是基于之前 Ll...
-
ComfyUI中的sam模型国内下载方法
was-node-suite-comfyui这个节点安装的时候，有它内部的config配置文件，里面其实给了一些下载地址，配置文件里是这么写的： "sam_model_vith_url": "https://dl.fbaipublicfiles.com/...
-
基于腾讯云高性能应用服务 HAI 搭建并使用 AI 模型 StableDiffusion 进行文生图
基于腾讯云高性能应用服务 HAI 搭建并使用 AI 模型 StableDiffusion 进行文生图 HAI是什么 高性能应用服务 HAI 与传统 GPU 云服务器 区别 使用高性能应用服务HAI 一键部署 StableDiffusion AI...
-
MagicClothing: 给人物照片换装的ComfyUI工作流（干货满满）
前言 在试验了各种ComfyUI 工作流，换了3台电脑，失败了无数次之后，终于又一次跑通了ComfyUI。 接下来会分享跑成功的各种ComfyUI工作流。 今天就拿给人物换装的新出来的这个做一个样本。 上一次文章提到给人物换装的模型[OOTDiff...
-
Ollama 部署本地大模型
目录 前言 下载安装 下载模型 接口调用 环境变量 其他模型 前言 工作需要，被指派对大模型做技术调研，又不想花钱买各大产商的key，所以就考虑部署本地的大模型，了解到 Ollama 开源框架，专为在本地机器上便捷部署和运行大型语言模...
-
网络爬虫必备工具：代理IP科普指南
文章目录 1. 网络爬虫简介 1.1 什么是网络爬虫？ 1.2 网络爬虫的应用领域 1.3 网络爬虫面临的主要挑战 2. 代理IP：爬虫的得力助手 2.1 代理IP的定义和工作原理 2.2 爬虫使用代理IP的必要性 3. 代理IP的类型...
-
Golang httputil 包深度解析：HTTP请求与响应的操控艺术
标题：Golang httputil 包深度解析：HTTP请求与响应的操控艺术 引言 在Go语言的丰富标准库中，net/http/httputil包是一个强大的工具集，它提供了操作HTTP请求和响应的高级功能。从创建自定义的HTTP代理到调试HTT...
-
常用的数据采集工具有哪些-免费获取数据信息的工具有哪些
随着社会不停地发展。人们也是越来越离不开互联网，常用的数据采集工具有哪些？今天小编就给大家盘点一下免费好用的数据采集工具，只需要点几下鼠标就能轻松获取数据，不管是导出excel还是自动发布到网站。详细参考图片一、二、三、四！ 企业人员 通过爬取动态...
-
深入剖析大模型安全问题：Langchain框架的隐藏风险
随着大模型热度持续，基于大模型的各类应用层出不穷。Langchain 作为一个以 LLM 模型为核心的开发框架，可以帮助我们灵活地创建各类应用，同时也为大模型的应用引入新的安全隐患。从今年 4 月 Langchain 被爆出在野 0day 漏洞开始，各类安...
-
【Qwen2部署实战】探索Qwen2-7B：通过FastApi框架实现API的部署与调用
系列篇章? No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...
-
印度首款AI芯片来了！公司创始人被称为印度“马斯克”
快科技8月18日消息，据媒体报道，印度汽车制造商Ola近日宣布，将于2026年推出国内首款自研AI芯片，采用ARM架构。 Ola公司的创始人Bhavish Aggarwal，被誉为印度的马斯克”，他以其直言不讳的个性和对本地制造业的积极支持，与埃隆马斯克有...
-
常见的反爬手段和解决思路（爬虫与反爬虫）
常见的反爬手段和解决思路（爬虫与反爬虫） 学习目标 1 服务器反爬的原因 2 服务器长反什么样的爬虫 （1）十分低级的应届毕业生 （2）十分低级的创业小公司 （3）不小心写错了没人去停止的失控小爬虫 （4）成型的商业对手 （5）抽风的搜索引擎...
-
【亲测】如何注册使用Midjourney
原文链接：Midjourney 如何订阅注册及使用基础教程 1.Midjourney是什么 Midjourney是一个基于人工智能的图像生成工具，它可以根据文本提示创建图像。也就是说你告诉它你想要一个什么样的图片，把你的要求告诉它，它就能按照你给的...
-
ComfyUI报错解决：Aux集成预处理器
报错内容： Error occurred when executing AIO_Preprocessor: An error happened while trying to locate the file on the Hub and we can...
-
基于AutoDL的语言大模型入门——Llama2-chat-13B-Chinese
AutoDL界面 ① autodl-tmp文件夹：数据盘，一般用来存放大的文件。 ② 其他文件夹“autodl-pub” “miniconda3” “tf-logs”等等存放在系统盘，其中tf-logs是用于存放训练过程tensorboard的...
-
利用Qt实现调用文字大模型的API，文心一言、通义千问、豆包、GPT、Gemini、Claude。
利用Qt实现调用文字大模型的API，文心一言、通义千问、豆包、GPT、Gemini、Claude。 下载地址: AI.xyz 1 Qt实现语言大模型API调用 视频——Qt实现语言大模型API调用 嘿，大家好！分享一个最近做的...
-
Maxkb——无需代码，快速构建自己的AI助手
目录 1、maxkb的介绍 2、maxkb的安装步骤 2.1、硬件需求 2.2、搭建Docker环境 2.3、安装maxkb（使用命令形式） 2.4、使用1Panel安装 2.5、访问MaxKB 3、创建AI应用 4、内嵌项目 随...
-
【Qwen-Audio部署实战】Qwen-Audio-Chat模型之对话机器人部署测试
系列篇章? No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...
-
java集成stable diffusion
在Java中直接集成Stable Diffusion模型(一个用于文本到图像生成的深度学习模型，通常基于PyTorch或TensorFlow 是非常具有挑战性的，因为Java本身并不直接支持深度学习模型的运行。不过，我们可以通过JN...
-
AI PPT智能生成系统：帮你颠覆幻灯片市场！（代码开源+海量免费模板）
解放学生和打工人的双手，让PPT创作不再是难题! 在学业和职场中，提起PPT，大家的第一反应就是痛苦.....对于天天和PPT打交道的学生和打工人来说，这3个字母就像是"熬夜"的同义词，让人不禁想起那些深夜赶工、对着电脑屏幕发呆的日子! 而现在，为了救各位...
-
【04】LLaMA-Factory微调大模型——数据准备
在上文【03】LLaMA-Factory微调大模型——多模型部署中完成了Qwen2、GLM-4、LLaMA3-8B-Chinese-Chat三个模型的部署，本文则进行数据准备，为后续的微调模型提供高质量、格式规范的数据支撑。 一、数据格式 LLaMA-...
-
Llama 3.1用了1.6万个英伟达H100 GPU，耗费......
目录 Llama 3.1发布简介 Llama 3.1模型规模与训练 大模型企业发展面临的问题与困境 算力和能耗算力方面 数据和资金方面 技术和人才方面 Llama 3.1发布简介 当地时间 2024年 7月 23号，Meta 公司发布...
-
【震撼来袭】Flux横空出世，吊打Midjourney，重塑AI艺术创作新格局！（附保姆级部署教程）
目录 一、Flux介绍 二、ComfyUI本地电脑部署 2.1、Flux模型下载 2.2、Clip模型下载 2.3、VAE模型 2.4、更新ComfyUI 2.5、导入工作流并进行测试 2.6、云服务部署并体验 一、Flux介绍...
-
开源项目Llama.cpp指南
开源项目Llama.cpp指南 llama.cppPort of Facebook's LLaMA model in C/C++项目地址:https://gitcode.com/gh_mirrors/ll/llama.cpp 1. 项目介绍 Ll...
-
2024最新AI系统【IMYAI】，超多大模型AIGC系统/AI对话/AI绘画/AI音乐/AI视频搭建部署教程
IMYAI系统官方网站：https://new.imyai.top 1. 前言 IMYAI智能助手是基于ChatGPT开发的AI智能问答系统和Midjourney-AI绘画系统，支持OpenAI-GPT全模型、Claude-3.5全模型以及国内A...
-
【AI绘画】Midjourney到底是什么？看完就懂了！！！
手把手教你入门绘图超强的AI绘画，用户只需要输入一段图片的文字描述，即可生成精美的绘画。给大家带来了全新保姆级教程资料包 （文末可获取） 一、Midjourney 的原理 由 2022 年 3 月，美国一家工作室首次推出一款 AI 制图工具，它就是...
-
从LLaMa 3 技术报告，再看LLM构建过程 ——《带你自学大语言模型》系列（番外）
本系列目录 《带你自学大语言模型》系列部分目录及计划，完整版目录见：带你自学大语言模型系列 —— 前言 第一部分 走进大语言模型（科普向） 第一章 走进大语言模型 1.1 从图灵机到GPT，人工智能经历了什么？——《带你自学大语言模型...
-
llama-agentic-system
文章目录 一、关于 llama-agentic-system 二、LLama代理系统安装和设置指南 1、创建Conda环境 2、运行FP8 3、作为包安装 4、测试安装 5、下载检查点（或使用现有模型） 6、配置推理服务器配置 7、运行推理服...
-
超详细Midjourney注册全流程
MIdjourney是什么？ Midjourney 是一个基于社区的研究实验室，提供AI绘画服务。主要通过Discord服务器运行。用户可以在对应的频道输入命令和描述来生成图片。其强调在创造性和探索和个人旅程中的使用，支持生成极具创意和多样性的图像，适...
-
据采集的三种方式-如何获取数据
随着社会的不停地发展。人们也是越来越离不开互联网，今天小编就给大家盘点一下免费收集数据的方法有三种，只需要点几下鼠标就能轻松获取数据，不管是导出excel还是自动发布到网站。详细参考图片一、二、三、四！ 企业人员 通过爬取动态网页数据分析客户行为拓...
-
PHP采集页面的四种方法
什么叫采集？ 就是使用PHP程序，把其他网站中的信息抓取到我们自己的数据库中、网站中。 可以通过三种方法来使用PHP访问到网页 1. 使用file_get_contents( 前提：在php.ini中设置允许打开一个网络...
-
搭建一个自己的MidJourney平台：开启你的赚钱之旅
搭建一个自己的MidJourney平台：开启你的赚钱之旅 在当今数字化时代，越来越多的人开始寻找在线赚钱的机会。无论你是一个技术爱好者，还是一个创业新手，搭建 MidJourney 并将其转化为一个盈利项目，都是一个绝佳的选择。本文将带你了解如何零代码搭...
-
llama-cpp-python
文章目录 一、关于 llama-cpp-python 二、安装 安装配置 支持的后端 Windows 笔记 MacOS笔记 升级和重新安装 三、高级API 1、简单示例 2、从 Hugging Face Hub 中提取模型 3、聊天完成...
-
还有小白不会用stable diffusion？史上最全的stable diffusion环境配置指南_stable diffusion服务器
Stable Diffusion的横空出世，带动了AI生成图片的又一波高潮。随后在Stable Diffusion的模型基础上，各种风格、生成内容的再训练模型层出不穷，极大的丰富了AI生成图片的多样性和精细程度；Lora、ControlNet等插件的出现，...
-
为了AI手机这们生意，厂商正在拿堆料赌未来
众所周知，对于最近这两年的手机市场来说，“内存容量”一直都是个颇受关注的话题。一方面，在如今APP普遍“膨胀”的趋势下，即便是不打游戏的用户，现在也普遍希望自己的手机能有更大的内存。 但另一方面，但凡有关注业界相关资讯的朋友可能会知道，自从去年下半年开始...
-
175道Docker面试题（上）
目录 1、什么是docker？ 2、Docker与普通虚拟机的对比： 3、Docker常用命令： 4、Docker镜像是什么？ 5、Docker容器是什么？ 6、Docker容器有几种状态？ 7、Dockerfile中最常见的指令是什么？...
-
NAT端口映射，实现外网访问内网服务器
目录 前言 一、搭建网络拓扑 1.1 配置server和pc 1.1.1 配置server0 1.1.2 配置server1 1.1.3 配置pc0 1.2 配置客户路由器 1.2.1 配置路由器IP 1.2.2 配置静态路由 1.3...
-
GPU训Llama 3.1疯狂崩溃，竟有大厂用CPU服务器跑千亿参数大模型？
马斯克19天建成由10万块H100串联的世界最大超算，已全力投入Grok3的训练中。 与此同时，外媒爆料称，OpenAI和微软联手打造的下一个超算集群，将由10万块GB200组成。 在这场AI争霸赛中，各大科技公司们卯足劲加大对GPU的投资，似乎在暗示着拥...
-
击败GPT-4o的开源模型如何炼成？关于Llama 3.1 405B，Meta都写在这篇论文里了
经历了提前两天的「意外泄露」之后，Llama 3.1 终于在昨夜由官方正式发布了。 Llama 3.1 将上下文长度扩展到了 128K，拥有 8B、70B 和 405B 三个版本，再次以一已之力抬高了大模型赛道的竞争标准。 对 AI 社区来说，...
-
Linux系统上部署Whisper。
Whisper是一个开源的自动语音识别（ASR）模型，最初由OpenAI发布。要在本地Linux系统上部署Whisper，你可以按照以下步骤进行： 1. 创建虚拟环境 为了避免依赖冲突，建议在虚拟环境中进行部署。创建并激活一个新的虚拟环境： 如果不...