-
使用 Ollama、Llama 3.1 和 Milvus 实现Function Calling 功能
将函数调用（Function Calling）与 LLM 相结合能够扩展您的 AI 应用的能力。通过将您的大语言模型（LLM）与用户定义的 Function 或 API 集成，您可以搭建高效的应用，解决实际问题。 本文将介绍如何将 L...
-
编译运行 llama.cpp (vulkan, Intel GPU SYCL)
llama.cpp 是一个运行 AI (神经网络 语言大模型的推理程序, 支持多种 后端 (backend , 也就是不同的具体的运行方式, 比如 CPU 运行, GPU 运行等. 但是编译运行 llama.cpp 并不是那么容易的, 特别是对于 SY...
-
AIGC时代算法工程师的面试秘籍（第二十一式2024.8.19-9.1） |【三年面试五年模拟】
写在前面 【三年面试五年模拟】旨在整理&挖掘AI算法工程师在实习/校招/社招时所需的干货知识点与面试经验，力求让读者在获得心仪offer的同时，增强技术基本面。也欢迎大家提出宝贵的优化建议，一起交流学习💪 欢迎大家关注Rock...
-
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型 引言 在人工智能和自然语言处理领域，大型语言模型（LLMs）的应用越来越广泛。llama-cpp-python 是一个强大的工具，它为 llama.cpp 提供了...
-
GPUStack正式发布: 为大模型而生的开源GPU集群管理器
经过 Seal 研发团队几个月来持续的开发和测试，我们满怀期待及热情地发布新的产品 GPUStack，GPUStack 是一个用于运行LLM（大型语言模型）的开源GPU集群管理器。尽管如今大语言模型作为公共的云上服务已经被广泛推广并在公有云上变得更加易于使...
-
通义千问主力模型大幅降价85%！阿里云CTO：降价空间仍很大
快科技9月23日消息，在今年的云栖大会上，阿里云宣布对通义千问主力模型进行大幅度降价，其中Qwen-Turbo的价格直降85%，低至百万tokens仅需0.3元。 阿里云CTO周靖人在会上表示，尽管已经实现了大幅度降价，但大模型的价格并没有达到足够低”的水...
-
AI日报：公众号接入腾讯元器AI智能体；字节Loopy对口型功能在即梦上线；PixVerse全新UI发布；阿里云魔搭社区上线AIGC专区
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、数字人起飞！字节Loopy对口...
-
我向大模型求了一份Stable Diffusion的应用场景
写在前面： 茫茫人海中，有你有我，相遇相识相互琢磨，人潮人海中是你是我，装作正派面带笑容，不必过分多说 自己清楚，你我到底想要做些什么，不必在乎许多 更不必难过，终究有一天你会明白我！——黑豹乐队 Stable Diffusion 的应用场景非常广泛...
-
Black Forest Labs 的 Flux——文本转图像模型的下一个飞跃，它比 Midjourney 更好吗？
一、前言 Black Forest Labs是开创性稳定扩散模型的团队，现已发布Flux——一套最先进的模型，有望重新定义 AI 生成图像的功能。但 Flux 是否真正代表了该领域的飞跃？它与 Midjourney 等行业领导者相比如何？让我们深入...
-
Alluxio Enterprise AI on K8s 部署教程
👉 Alluxio Enterprise AI on K8s 部署教程 👈 链接为Alluxio Enterprise AI on K8s 部署视频教程。下面内容将通过文字方式主要介绍如何通过 Operator（Kubernetes 管理应用程序的扩展）在...
-
【大模型】AutoDL部署AI绘图大模型Stable Diffusion使用详解
目录 一、前言 二、AI绘图大模型概述 2.1 AI绘图大模型介绍 2.2 AI绘图大模型特点 2.3 AI绘图大模型优势 三、主流的AI绘图大模型介绍 3.1 Midjourney 3.1.1 Midjourney介绍 3.1.2...
-
Lag-Llama：时间序列大模型开源了！
之前我们介绍过TimeGPT，它是第一个时间序列的大模型，具有零样本推理、异常检测等能力。TimeGPT引发了对时间序列基础模型的更多研究，但是它是一个专有模型，只能通过API访问。 如今，终于出现一个用于时间序列预测的开源大模型：Lag-Llama...
-
Shire 智能体市场：IDE 一键安装多智能体，协同打造集体智慧 Copilot
太长不看版：在新版本（0.8）的 Shire 中，你可以通过 Shire 智能体市场，一键下载和安装多个智能体，并直接在你的当前项目中使用。与此同时，你还可以 将你的 Shire 代码段或者智能体上传到 Shire 智能体市场。 详...
-
AIGC爬虫类代码示例：Scrapy和OpenAI API实现抓取内容并生成内容
对于我从事爬虫行业多年的经验来说，编程各种需求代码真是非常吃力且细致的活，随着AI的大火，我在设想有没有可能通过AI自动化程序实现自动抓取生成想要的文本内容。前提我是打算通过结合爬虫技术（如Scrapy）和生成式AI模型（如GPT-4）来完成。 下面就是...
-
视频模型CogVideoX开源，全民AIGC时代到来了吗？
大家好，我是飞哥！ 之前不少人都以为大模型只能处理文本。但自从今年 2 月 16 日 OpenAI 在其官网发布了基于文字生成视频的模型 Sora 后，让所有人都认识到了即使对对于复杂的视频信息，大模型仍然是具备对其进行理解，以及进行 AIGC...
-
业务系统如何接入文心一言AI模型完整版
博主介绍： 大家好，我是想成为Super的Yuperman，互联网宇宙厂经验，17年医疗健康行业的码拉松奔跑者，曾担任技术专家、架构师、研发总监负责和主导多个应用架构。技术范围： 目前专注java体系，有多年java、golang、.Net、DDD、软件架...
-
从零到一，打造顶尖RAG应用！揭秘RAG技术构建全流程！
通过本文你可以了解到： 什么是RAG？ 如何搭建一个RAG应用？ 目前开源的RAG应用有哪些？ RAG简介 检索增强生成（Retrieval Augmented Generation，RAG）是一种强大的工具，整合了从庞大知识库中检索到...
-
LLAMA-FACTORY：100+语言模型的统一高效微调框架
24年3月来自北航和北大的论文“LLAMA-FACTORY: Unified Efficient Fine-Tuning of 100+ Language Models”。 高效的微调对于将大语言模型 (LLM 适应下游任务至关重要。然而，在不同模型上...
-
AIGC文本生成
文本生成是一种人工智能技术，它基于深度学习算法，根据给定的提示信息创作出有逻辑、连贯的文本内容。 文本生成所需的输入（提示或Prompt）可以是简单的关键词、一句话概述或是更复杂的指令和上下文信息。文本生成模型通过分析大量现有数据，学习语言模式，广泛应用...
-
SplunkWhisperer2：Splunk 统一转发器配置错误的本地权限提升与远程代码执行工具...
SplunkWhisperer2：Splunk 统一转发器配置错误的本地权限提升与远程代码执行工具 SplunkWhisperer2 Local privilege escalation, or remote code execution, thr...
-
新秀 FLUX.1 来袭，超越sd3！吊打Midjourney？效果惊艳
前言 最近最火的模型非FLUX.1莫属，这款由Stable Diffusion原创团队精心打造的开源AI绘画大模型，正引领着创作领域的新风尚。 接下来，我们就来一起认识一下这款模型。 一、Flux.1背后的神秘团队 Flux.1模型由Black...
-
Llama 3 五一超级课堂中实践llama3的部署，微调，量化优化部署学习总结：第三部分LMDeploy部署llama3-8b模型及量化策略
本次学习分享基于Llama3-Tutorial（Llama 3 超级课堂）分享，git地址如下 GitHub - SmartFlowAI/Llama3-Tutorial: Llama3-Tutorial（XTuner、LMDeploy、OpenCompa...
-
gpt-llama.cpp：本地部署的GPT替代方案
gpt-llama.cpp：本地部署的GPT替代方案 gpt-llama.cppA llama.cpp drop-in replacement for OpenAI's GPT endpoints, allowing GPT-powered apps...
-
LongLLaMA 项目使用教程
LongLLaMA 项目使用教程 long_llamaLongLLaMA is a large language model capable of handling long contexts. It is based on OpenLLaMA and...
-
使用LLaMA-Factory进行模型微调（LLama3-8B-instruct）
1.使用环境 Linux -Ubuntu20.04 RTX3090 24GB， LORA+sft 训练微调 2. 下载项目，虚拟环境创建及安装： git clone https://github.com/hiyouga/LLaMA-Factor...
-
SwiftWhisper 开源项目教程
SwiftWhisper 开源项目教程 SwiftWhisper🎤 The easiest way to transcribe audio in Swift项目地址:https://gitcode.com/gh_mirrors/sw/SwiftWhis...
-
阿里史上最大规模开源发布，超GPT-4o 、Llama-3.1！
今天凌晨，阿里巴巴官宣了史上最大规模的开源发布，推出了基础模型Qwen2.5、专用于编码Qwen2.5-Coder和数学的Qwen2.5-Math。 这三大类模型一共有10多个版本，包括0.5B、1.5B、3B、7B、14B、32B和72B，适用于个人、企...
-
开源项目教程：llama-utils
开源项目教程：llama-utils llama-utilsThe easiest & fastest way to run customized and fine-tuned LLMs locally or on the edge项目地址:h...
-
AI日报：ChatGPT竟主动“勾引”用户；iOS 18正式推送；Mistral AI推出免费套餐
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、ChatGPT突然给用户发消息...
-
webui automatic1111上可以跑stable diffusion 3的方法
stable diffusion 3 可以简单句子生成高质量图形，可以生成准确的文字，甚至可以支持中文。 stable diffusion 3 最初只支持API调用，最后把模型也完全开放了。Comfyui因为天生架构优势，第一时间跑起来了。既支持远程AP...
-
使用 Elastic 和 LM Studio 的 Herding Llama 3.1
作者：来自 Elastic Charles Davison, Julian Khalifa 最新的 LM Studio 0.3 更新使 Elastic 的安全 AI Assistant 能够更轻松、更快速地与 LM Studio 托管模型一起运行。在...
-
OpenAI o1式思维链，开源模型也可以有，成功案例来了
北京时间9月13日午夜，OpenAI 发布了推理性能强大的 ο1系列模型。之后，各路研究者一直在尝试挖掘 ο1卓越性能背后的技术并尝试复现它。当然，OpenAI 也想了一些方法来抑制窥探，比如有多名用户声称曾试图诱导 ο1模型公布其思维过程，然后收到了 O...
-
OpenBayes 教程上新 | FLUX ComfyUI 现已上线 ，让 SD 和 Midjourney 颤抖的文生图黑马！
横空出世的黑马 FLUX ，以其强大的图像生成能力，让 Stable Diffusion 和 Midjourney 这 2 个「昔日顶流」倍感压力。 FLUX 与 Stable Diffusion 渊源颇深，其研发公司 Black Forest Labs...
-
OpenAI o1智商120，还是被陶哲轩称为「平庸的研究生」，但实力究竟如何？
o1消息满天飞。 自从 OpenAI 发布了新模型 o1后，它就承包了 AI 领域近几天的热搜: 有人用门萨智商测试题「拷问」它，竟测得 o1智商高达120; 数学大佬陶哲轩要求 o1回答一个措辞含糊的数学问题，最终得出一个结论:o1是个平庸但不无能的研究...
-
AI智能体研发-模型篇（一）：大模型训练框架LLaMA-Factory在国内网络环境下的安装、部署及使用
一、引言 贫富差距的产生是信息差，技术贫富差距的产生亦如此。如果可以自我发现或者在别人的指导下发现优秀的开源项目，学习或工作效率真的可以事半功倍。 今天力荐的项目是LLaMA-Factory，我在去年8月份就开始使用这个项目进行模型部署和微调训练（fi...
-
浅析 GitHub Copilot 工作原理帮你更高效使用
GitHub Copilot 是一个代码补全工具，它会分析你的代码并在你输入时提供行内建议。 它还提供一个聊天界面，帮助你询问代码库的问题、生成文档、重构代码等。你可以在这里阅读博客。 在这篇博客中，我们将深入探讨在你编写代码时发生了什么，试图了解其工...
-
【LLM大模型】使用QLoRa微调Llama 2
本篇文章将介绍使用PEFT库和QLoRa方法对Llama 27b预训练模型进行微调。我们将使用自定义数据集来构建情感分析模型。只有可以对数据进行微调我们才可以将这种大模型进行符合我们数据集的定制化。 一些前置的知识 如果熟悉Google Cola...
-
ESP32-S3百度文心一言大模型AI语音聊天助手（支持自定义唤醒词训练）【手把手非常详细】【万字教程】
简介 此项目主要使用ESP32-S3实现一个AI语音聊天助手，可以通过该项目熟悉ESP32-S3 arduino的开发，百度语音识别，语音合成API调用，百度文心一言大模型API的调用方法，音频的录制及播放，SD卡的读写，Wifi的配置（smartconf...
-
【AI绘画教程】StableDiffusion真实系模型推荐，搭配ADetailer人脸修复插件，轻松生成真实故事大场景AI人像，让你的SD好用100倍！
大家好，我是画画小强 在图像生成领域，真实系模型非常重要，它们可以给我们生成高度逼真的图像，可以用于各种创意项目、广告设计和影视制作。本期教程我们将围绕几款真实系模型和Lora模型来展开。 1、真实系模型：MajicMix Realistic(麦橘写实...
-
使用Ollama本地部署Llama 3.1大模型
Llama 3.1 介绍 2024 年 7 月 24 日，Meta 宣布推出迄今为止最强大的开源模型——Llama 3.1 405B，Llama 3.1 405B 支持上下文长度为 128K Tokens， 增加了对八种语言的支持，号称第一个在常识、可操...
-
智能提醒助理系列-AIGC模型选型以及如何调用
本系列文章记录“智能提醒助理”wx公众号 建设历程。 一、需求出发点 想在现有的 “智能提醒助理” 功能中增加 智能提醒，想法是 通过用户设置的定时提醒指令，再提醒的同时，根据指令生成内容，展示给用户。 产品设计入下图所示：...
-
Llama-CPP-Python 教程
Llama-CPP-Python 教程 llama-cpp-pythonPython bindings for llama.cpp项目地址:https://gitcode.com/gh_mirrors/ll/llama-cpp-python 1....
-
AIGC与数据分析融合，引领商业智能新变革（TOP企业实践）
AIGC与数据分析融合，引领商业智能新变革（TOP企业实践） 前言 AIGC与数据分析融合 前言 在当今数字化时代，数据已成为企业发展的核心资产，而如何从海量数据中挖掘出有价值的信息，成为了企业面临的重要挑战。随着人工智能技术的飞...
-
LLaMA-Factory微调入门个人重制版
LLaMA-Factory微调入门个人重制版 说明： 首次发表日期：2024-08-30 LLaMA-Factory 官方Github仓库： https://github.com/hiyouga/LLaMA-Factory 关于 本文是对L...
-
人工智能 | MetaLlama大模型
llama 大模型介绍 我们介绍 LLaMA，这是一个基础语言模型的集合，参数范围从 7B 到 65B。我们在数万亿个Token上训练我们的模型，并表明可以专门使用公开可用的数据集来训练最先进的模型，而无需诉诸专有的和无法访问的数据集。特别是，...
-
Meta开源的Llama官方Agent：Llama-Agentic-System深度解析
TLDR • Meta 推出的 Llama as a System 将 Llama 3.1 模型转变为一个能够自主完成任务的智能代理，通过多步推理、工具使用和系统级安全机制，为构建更智能、更安全的 AI 应用开辟了新的可能性。 • Llama-A...
-
三步搞定私人AI助手 | LLaMA-3本地部署小白攻略
“ 在你的电脑上运行一个强大的AI助手，它不仅能力超群，还把所有秘密都藏在你的硬盘里。好奇这是如何实现的吗？动动手，三分钟就可以完成LLaMA-3的本地部署！ ” 01、LLaMA-3 最近在试验检索增强生成（RAG）的项目，想试试换一个强点的...
-
Ollama保姆级教程
Ollama保姆级教程 Ollama是一个开源框架，专门设计用于在本地运行大型语言模型。它的主要特点是将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括GPU使用情况，简化了在本地运行大型模型的过程。 Ollama还提供了对模型量化...
-
Esp32S3通过文心一言大模型实现智能语音对话
前言 效果展示 效果展示录制 一、开发环境介绍 1、arduino开发平台； 2、所需设备：Esp32s3、inmp441、max98357、按键，杜邦线(接线 ； 3、大模型：百...
-
FastAPI部署大模型Llama 3.1
项目地址：self-llm/models/Llama3_1/01-Llama3_1-8B-Instruct FastApi 部署调用.md at master · datawhalechina/self-llm (github.com 目的：使用Aut...