-
node-llama-cpp 使用与安装指南
node-llama-cpp 使用与安装指南 node-llama-cppRun AI models locally on your machine with node.js bindings for llama.cpp. Force a JSON s...
-
如何在家用设备上运行 Llama 3.1 405B?搭建 AI 集群
在开放式 LLM 模型和封闭式 LLM 模型之间的竞争中,开放式模型的最大优势是您可以在本地运行它们。除了电力和硬件成本外,您无需依赖外部提供商或支付任何额外费用。但是,随着模型大小的增加,这种优势开始减弱。运行需要大量内存的大型模型并不容易。幸运的是,张...
-
ComfyUI系列——新手安装ComfyUI,就是这么简单!
前言 比较Midjoury、WebUI和ComfyUI 在了解ComfyUI的时候,还有其它两款类似的产品,于是就搜集了一下资料,以下是Midjoury、WebUI(通常指的是Stable Diffusion Web UI)和ComfyUI三者之间...
-
Nvidia 和 Mistral AI 的超精确小语言模型适用于笔记本电脑和 PC
Nvidia 和 Mistral AI 发布了一款新型的小型语言模型,据称该模型在小体积下依然具有「最先进」的准确性。该模型名为 Mistral-NemMo-Minitron 8B,是 NeMo 12B 的迷你版本,参数量从 120 亿缩减到了 80 亿。...
-
用Ollama 和 Open WebUI本地部署Llama 3.1 8B
说明: 本人运行环境windows11 N卡6G显存。部署Llama3.1 8B 简介 Ollama是一个开源的大型语言模型服务工具,它允许用户在自己的硬件环境中轻松部署和使用大规模预训练模型。Ollama 的主要功能是在Docker容器内部署和...
-
Mistral新旗舰决战Llama 3.1,最强开源Large 2 123B,扛鼎多语言编程全能王
【新智元导读】紧跟着Meta的重磅发布,Mistral Large 2也带着权重一起上新了,而且参数量仅为Llama 3.1 405B的三分之一。不仅在编码、数学和多语言等专业领域可与SOTA模型直接竞争,还支持单节点部署。 昨天正式发布的Llama 3...
-
AI绘画国产之光,快手的Kolors真的超级能打
theme: smartblue 点赞 + 关注 + 收藏 = 学会了 前两天,快手开源了一个AI绘画模型 Kolors,中文名叫“可图”。该模型基于数十亿图文对进行训练,支持256的上下文 token 数,支持中英双语,还支持在图片中生成...
-
[AI]如何在本地windows运行llama模型(CPU可运行)
一、为什么我们要在本地运行llama模型? 想必大家已经体验过GPT, Claude,亦或是国内开源的GLM,这些强大的模型了,但是这些大模型虽然强大但有的要么收费,要么在本地部署对硬件要求高,要么就是本地部署的配置繁琐,对小白很不友好。...
-
AI绘画Stable Diffusion:ControlNet插件inpaint_only一键扩图,竖屏变横屏大图教程!
大家好,我是程序员晓晓 大家常常讨论Photoshop beta版中的创造性填充扩图功能,已经不能用了,但是否存在替代方案呢?答案是肯定的。今天,分析如何使用Stable Diffusion来实现类似的图像扩展效果。 1、安装和升级必要插件 1、更新...
-
海外三大AI图片生成器对比(Stable Diffusion、Midjourney、DALL·E 3)
Stable Diffusion DreamStudio 是Stable Diffusion 的官方网页,价格便宜,对图片的操作性强,但同时编辑页面不太直观,对使用者的要求较高。 与 DALL·E 和 Midjourney 不同,Stable Dif...
-
AI绘画工具准备- MJ注册及SD云端部署教程
前面对AIGC有了基本认识,以及学AI绘画能干什么,为什么学习AI绘画。 接下来就开始了解AI绘画软件了,作为新手,我们无需完全理解所有内容,只需明确需要学习的内容即可。根据工作需求,决定同时学习MJ和SD。 看完大佬们的文章简单总结一下MJ和SD的区...
-
大模型的实践应用24-LLaMA-Factory微调通义千问qwen1.5-1.8B模型的实例
大家好,我是微学AI,今天给大家介绍一下大模型的实践应用24-LLaMA-Factory微调通义千问qwen1.5-1.8B模型的实例, LLaMA-Factory是一个专门用于大语言模型微调的框架,它支持多种微调方法,如LoRA、QLoRA等,并提供了丰...
-
构建您的私人语音助手:在本地运行的Whisper + Ollama + Bark之旅
构建您的私人语音助手:在本地运行的Whisper + Ollama + Bark之旅 在深入了解如何构建并本地运行自己的大型语言模型(RAG)后,今天我们将更进一步,不仅实现高级对话功能,还赋予其听和说的能力。想象一下拥有如电影《钢铁侠》中Jarvis或...
-
【AI绘画工具介绍】
AI绘画工具介绍 近年来,人工智能技术突飞猛进,AI绘画工具也应运而生,为艺术创作领域带来了前所未有的革新。这些工具以其强大的功能和易用性,吸引了越来越多的艺术家、设计师和爱好者,并正在改变着人们对艺术创作的认知和实践方式。 一、AI绘画工具的分类...
-
本地运行 Llama 3,可以中文,但不强
Llama 3 简介 大家好, 上个月 Meta 发布 Llama 3,大模型开源世界又热闹起来了。 Llama 3 提供两个版本(8B 和 70B): **8B 版本适合在消费级 GPU 上高效部署和开发; 70B 版本则专为大规模 AI...
-
使用 Llama 3 开源和 Elastic 构建 RAG
作者:Rishikesh Radhakrishnan 使用开源的 Llama 3 和 Elastic 构建 RAG Llama 3 是 Meta 最近推出的开源大型语言模型。这是 Llama 2 的后继者,根据已发布的指标,这是一个重大改进。与 G...
-
在 Apple Silicon Mac(M1、M2 或 M3)上运行最新 LLM 模型 Meta Llama 3 的分步指南
您是否正在寻找在基于 Apple Silicon 的 Mac 上运行最新 Meta Llama 3 的最简单方法?那么您来对地方了!在本指南中,我将向您展示如何在本地运行这个强大的语言模型,使您能够利用自己机器的资源来实现隐私和离线可用性。本教程将包括在...
-
如何用 Llama 3 免费本地 AI 分析数据和可视化?
帮助你消除调用大模型 API 带来的数据安全烦恼。 模型 今天我们来探讨一个有趣的话题 —— 如何使用 Llama 3 免费地进行数据分析和可视化。 Meta 团队在 2024 年 4 月发布了两款 Llama 3 新模型,一款是...
-
DeepSeek-Coder-V2代码语言模型免费吗?AI编程辅导代码生成使用方法详细教程指南
DeepSeek-Coder-V2 是一个开源的Mixture-of-Experts (MoE 代码语言模型,性能与GPT4-Turbo相当,在代码特定任务上表现卓越。它在DeepSeek-Coder-V2-Base的基础上,通过 6 万亿token的高...
-
基于AI的软件代码开发和调试:如何利用AI提高编程效率?AI在代码调试中的应用有哪些?
什么是基于AI的软件代码开发和调试? 基于AI的软件代码开发和调试是指利用人工智能技术来辅助软件开发过程中的代码编写、优化和调试。这种方法通过自动化和智能化的工具,帮助开发者提高编程效率,减少错误,优化代码质量。 基于AI的软件代码开发的核心功能 1:...
-
100% 开源 Llama 编码助手:设置 Cody 和 VSCode
好吧,今天我有一些非常令人兴奋的事情要与大家分享! 我们都知道,编码助手永久地改变了我们开发软件的方式,但 GPT-4 等高级法学硕士的高昂价格一直是许多人的绊脚石。 但好消息是:成本不再是障碍! 有了像 Code Llama 7B 这样的法学硕士,...
-
区分LLaMA、llama.cpp和Ollama
大模型本地部署和运行中,经常遇到这三个概念,llama,ollama,llama.cpp。 刚开始接触时,的确有些傻傻分不清楚。这里简单区分理解下,方便快速上手。 简单来讲,llama 是一个Meta公司开源的预训练大型语言模型,llama.cpp用于加...
-
Stable Diffusion Webui--安装与使用
最近进行的课程汇报,学习了2023年的CVPR文章《DreamBooth: Fine Tuning Text-to-Image Diffusion Models for Subject-Driven Generation》,因此尝试使用了几种方法对这篇文章...
-
探索全新的AI大语言模型和AI绘画工具:无需联网,CPU即可运行!
今天我们非常激动地向大家介绍一款革命性的AI产品——一键安装的AI大语言模型和AI绘画工具包!这不仅是一个技术突破,更是AI应用领域的一大里程碑。最令人兴奋的是,这些工具完全可以在本地运行,不需要联网,只要您的电脑配备了CPU,就能轻松使用。 一、产...
-
Chrome浏览器将内置AI大模型Gemini Nano 新版开启内测
Chrome团队宣布,正在探索“内置 AI”概念,即浏览器将具有内置 AI 模型,以便为浏览器功能和网络平台 API 启用设备上的 AI。 官方介绍称,借助内置 AI,您的网站或 Web 应用将能够针对基础模型和专家模型运行各种 AI 任务,而无需担心部...
-
在本地跑一个AI模型(5) - Stable Diffusion
在之前的文章中,我们使用ollama在本地运行了大语言模型,它可以与你聊天,帮助你理解和生成文本内容。使用coqui-tts在本地运行了文本转语音模型,它可以将大语言模型生成的文字转换成语音,让你的应用更有趣。今天我们将要介绍Stable Diffusio...
-
Llama 3消费级PC安装与运行教程
我是 Llama 的忠实粉丝。 Meta 发布其 LLM 开源代码对整个科技界来说是一项净收益,其宽松的许可证允许大多数中小型企业在几乎没有任何限制的情况下使用其 LLM(当然,在法律范围内)。 他们的最新版本是备受期待的 Llama 3。 Llama...
-
如何在本地运行Stable Diffusion生成震撼图像
2022年AI的奇迹:如何在本地运行Stable Diffusion生成震撼图像 2022年是人工智能领域的奇迹之年。Stability.ai 开源的 Stable Diffusion 模型与 OpenAI 发布的 ChatGPT,像两颗耀眼的明星,点...
-
【完整指南】如何在Visual Studio Code中轻松运行Llama 3模型?
Meta 发布了最新的开源语言模型Llama 3。因为它是开源的,你可以下载这个模型,并在自己的电脑上运行。 我清楚,你可能会想,在个人笔记本上运行一个拥有80亿参数的AI模型似乎只有技术高手才能做到。但别担心!这篇文章会提供一个简单的步骤指导,帮助每个...
-
一文读懂如何基于 Ollama 在本地运行 LLM
为什么要使用 Ollama 开源项目 ? 在当今人工智能技术飞速发展的时代,大型语言模型(LLM 无疑已成为焦点炯炯的科技明星。自从ChatGPT的推出以来,其强大的自然语言理解和生成能力便惊艳了全球,成为人工智能商业化进程中的杰出代表。 然而,这一领域...
-
AmbientGPT有哪些功能免费吗?怎么使用方法详细教程指南
AmbientGPT 是什么? AmbientGPT是一个革命性的编程辅助工具,允许开发者在本地运行GPT- 4 和基础模型,同时能够直接推断屏幕上下文,从而无需手动上传上下文信息,大大提高了代码编写和问题解决的效率。 AmbientGPT 有哪些功...
-
1panel+MaxKB+Ollama+Llama Linux部署指南
目录 1.1panel安装 2.MaxKB 1.MaxKB登录 3.Ollama(gpu)安装 1.安装英伟达容器安装包 1.配置apt源 2.更新源 3.安装工具包 2.使用GPU运行...
-
微软一夜干翻苹果Mac!GPT-4o装进全家桶,微软把全世界PC都AI了
GPT-4o诞生刚过去一周,微软线下发布会再次给全世界亿点点震撼! 一大早,纳德拉向全世界公布了首款Copilot+ PC,采用了全新NPU,并重新设计了Windows 11系统。 最最重要的是,GPT-4o已经装进了新时代的AI PC,以及40+款模...
-
谷歌计划将 Gemini Nano AI 直接内置到Chrome浏览器中
谷歌计划将其 Gemini AI 技术直接嵌入到 Chrome 浏览器的桌面中。在谷歌于本周二举行的 I/O 大会上,宣布 Chrome126版本将采用 Gemini Nano 来为浏器内的 AI 功能提供支持,包括文本生成等功能。 图源备注:图片由AI...
-
基于Gemini大模型!谷歌宣布为安卓引入新功能:AI检测诈骗电话
快科技5月15日消息,在今天凌晨举行的I/O开发者大会上,谷歌表示即将推出Android 15,并且还剧透了一些新功能。 会上谷歌宣布,为安卓系统引入AI诈骗电话检测功能,在通话中提醒可能存在的诈骗行为,并鼓励用户结束此类通话。 据悉,上述功能基于本地运...
-
AI日报:OpenAI重磅更新定档下周一;开源版EMO项目发布;微信读书上线AI问书功能;博主调教AI男友甜晕网友
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、OpenAI预告将直播Chat...
-
AI日报:Awaker 1.0写真视频击败Sora?Sora视频被指大量后期;苹果首款AI平板曝光;百万网友围观博主和AI“谈恋爱”
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、写真视频击败Sora?人大自研...
-
AI小镇现在可以通过Llama3在本地运行 支持Convex、Ollama等服务器
a16z 团队开发的 AI 小镇是一个创新的虚拟城镇项目,现在可以通过 Llama3完全在本地运行。这个项目不仅支持 Convex、Ollama,还可以支持本地 Vite 网络服务器,为开发者提供了一个强大的平台来构建和定制自己的虚拟 AI 社区。 AI...
-
Docker三分钟搞定LLama3开源大模型本地部署
概述 LLaMA-3(Large Language Model Meta AI 3)是由Meta公司开发的大型开源生成式人工智能模型。它在模型结构上与前一代LLaMA-2相比没有大的变动。 LLaMA-3模型分为不同规模的版本,包括小型、中型和大型,以适...
-
微软3.8B模型媲美GPT-3.5!小到用iPhone就能跑起来,网友:Good data is all you need!
撰文、整理 | 伊风 出品 | 51CTO技术栈(微信号:blog51cto) 这周,“小模型”之战打得可谓精彩非凡,让人目不暇接。前脚,小扎刚在采访中自豪地宣布Llama3 80亿模型几乎与此前Llama2 700亿模型的性能差不多...
-
微软发布iPhone可运行的ChatGPT级AI模型Phi-3系列 挑战OpenAI地位
近日,微软推出了一款名为Phi-3系列的小型AI模型,该模型在AI领域引起了广泛关注。Phi-3系列中的Phi-3-mini模型,仅拥有3.8B参数,却在多项基准测试中超越了拥有8B参数的Llama3模型。 微软特别强调,经过4bit量化处理的Phi-3-...
-
苹果下半年大量采用生成式人工智能 本地AI处理能力将大幅提升
所有迹象都表明,未来的苹果设备将从今年下半年开始大量利用生成式人工智能技术。尽管具体应用方式还不太确定,但业内已有诸多迹象表明,这家库比蒂诺科技巨头正在积极布局这一领域。 据彭博社报道,苹果公司将在今年晚些时候发布首款人工智能应用程序,并且这些应用将能够在...
-
五个简单好用的本地运行大模型的方法
出品 | 51CTO技术栈(微信号:blog51cto) 像ChatGPT、Claude.ai和phind这样的聊天机器人非常有用,但可能并不总是希望的问题或敏感数据由外部应用程序处理。在平台上尤其如此,在这些平台上,你的互动可能会被人类审查,并以其他方...
-
【总结】在嵌入式设备上可以离线运行的LLM--Llama
文章目录 Llama 简介 运用 另一种:MLC-LLM 一个令人沮丧的结论在资源受限的嵌入式设备上无法运行LLM(大语言模型)。 一丝曙光:tinyLlama-1.1b(10.1亿参数,需要至少2.98GB的RAM) Llam...
-
什么阻碍了GenAI的投资回报?
企业正在向生成式人工智能(GenAI)投资数千亿美元,希望它能改善他们的运营。然而,这些公司中的大多数还没有看到他们在大型语言模型(LLM)和新兴的GenAI上的投资回报。那么,是什么阻碍了我们实现GenAI所承诺的巨大回报呢? 英伟达首席执行官黄仁勋...
-
谷歌在Pixel 8上禁用自家大模型!会占用大量手机内存
快科技4月3日消息,据媒体报道,最近,谷歌因为硬件限制”问题,禁止在Pixel 8手机上运行其最新的人工智能模型Gemini Nano。 据谷歌设备和服务软件副总裁Seang Chau解释,Gemini Nano的一些AI模型需要常驻内存以随时调用。然而,...
-
爽了,AI绘画不限制使用,效果拉满!!
今年呢可谓是AI元年,不仅有功能超强的AI对话chatgpt,还有可以以文生图、以图生图的AI绘画。 在众多的AI绘画工具中,最被人熟知就是 Midjourney 和 Stable Diffusion。那么这两款主流工具有什么区别呢? 首先说一下M...
-
微软定义 AI PC 标准:本地运行 Copilot 和搭载 40 TOPS 性能的 NPU
3 月 28 日消息,近期各大厂商纷纷推出 AI PC,但究竟什么是真正的“AI PC”却一直没有明确的定义。近日,微软颁布了相关标准,规定所有运行 Windows 操作系统的 AI PC 都必须配备 Copilot 功能键。现在该标准的更多细节已...
-
AIGC 实战:Ollama 和 Hugging Face 是什么关系?
HuggingFace(拥抱脸)和Ollama都与**大型语言模型(LLMs)**有关,但它们的用途不同: HuggingFace: HuggingFace 是一个知名的平台,提供各种预训练的LLMs,包括流行的模型如GPT-3、BERT和...
-
英伟达AI Workbench正式发布,大幅度简化大模型开发流程
3月22日,英伟达在官网宣布,正式发布NVIDIA AI Workbench。 AI Workbench是一款面向AI大模型开发人员的工具包,可以帮助开发人员消除很多繁琐、复杂的部署、开发流程。 无论你的技术水平如何,开发人员都可以体验快速可靠的 GPU...