-
如何在Android上运行Llama 3.2
引言 随着Llama 3.2的发布，Meta在将强大的语言模型带到边缘和移动设备方面取得了重大进展。Llama 3.2包含了专为智能手机和平板电脑高效运行而设计的轻量级模型（1B和3B参数）。本教程将指导您通过MLC LLM库对Llama 3.2模型进...
-
Datawhale X 魔搭 AI夏令营 第四期-AIGC方向Task2笔记
baseline的流程图 Baseline代码 !pip install simple-aesthetics-predictor !pip install -v -e data-juicer !pip uninstall pytorch-...
-
Datawhale X 魔搭 AI夏令营 第四期魔搭-AIGC文生图方向Task3笔记
在task2中，已经借助AI工具对AIGC生图的代码进行精读。在本章中则更加关注于了解Lora微调的基本原理以及文生图的工作流平台工具ComfyUI的使用。 task2链接：Datawhale X 魔搭 AI夏令营 第四期魔搭-AIGC文生图方向Task...
-
LLaMA-Factory 让大模型微调变得更简单！！
背景 如果只需要构建一份任务相关的数据，就可以轻松通过网页界面的形式进行 Fine-tuning 微调操作， 那么必将大大减轻微调工作量。 今年的 ACL 2024见证了北航和北大合作的突破—论文《LLAMAFACTORY: 统一高效微调超百种语言...
-
llama-factory实战: 基于qwen2.5-7b 手把手实战 自定义数据集清洗 微调
基于qwen2.5 手把手实战 自定义数据集 微调（llama-factory） 准备工作 1.数据集准备（例:民法典.txt） 2.服务器准备（阿里云 DSW 白嫖） 3.环境配置 pip 升级 模型下载 微调助手 4.数据集处理 脚...
-
调用大模型API-文心一言
一、准备工作 进入百度智能云千帆大模型平台，点击应用接入-创建应用；按提默认完成创建 二、开始使用 单轮调用 进入API列表 - ModelBuilder以第一个ERNIE-4.0-8K为例，选择“HTTP请求调用”，把第一步创建应用的 应用A...
-
llama factory LoRA微调qwen大模型 | 新手炼丹记录(1)
往期回顾 llama factory LoRA微调qwen大模型 | 新手炼丹记录(1 -CSDN博客 大模型使用llama.cpp转换gguf格式并量化 | 新手炼丹记录(2 -CSDN博客 oll...
-
LLaMa-Factory入门教程
LLaMa-Factory是一个基于人工智能技术的开源项目，专为大型语言模型（LLMs）的微调而设计。它提供了丰富的工具和接口，使得用户能够轻松地对预训练的模型进行定制化的训练和调整，以适应特定的应用场景。以下将详细介绍如何使用LLaMa-Factory：...
-
实习结帖（flask加上AIGC实现设计符合OpenAPI要求的OpenAPI Schema，让AIGC运行时可以调用api，协助公司门后迁移新后端等）
终于，笔者的实习生活也要告一段落了，最后的几天都在忙着和公司做AIGC的项目，在搞api的设计以及公司门户网站的迁移。 牛马搬运工（牛马了3天） 先说这个门户网站的迁移，我原本以为只是换个后端（若依），数据库改改就能...
-
使用 GaLore 预训练LLaMA-7B
项目代码： https://github.com/jiaweizzhao/galorehttps://github.com/jiaweizzhao/galore 参考博客： https://zhuanlan.zhihu.com/p/686686751...
-
Emacs Copilot 安装与使用指南
Emacs Copilot 安装与使用指南 emacs-copilotLarge language model code completion for Emacs项目地址:https://gitcode.com/gh_mirrors/em/emacs-...
-
利用 FP8 量化加速 Llama-3-70B 推理
本文针对在 Amazon P5 (H100 GPU 上部署 Llama-3-70b FP8 精度模型的两种方案选型（Trion 及 LMI – Large Model Inference 容器）进行了探索，同时提供了基于 FMBench 的性能评估的最佳...
-
Midjourney Describe API 的对接和使用
Midjourney Describe API 的对接和使用 Midjourney Describe API 的主要功能是通过上传图片，获取对图片的描述。使用该 API，只需要传递图片文件地址，API 会返回图片的详细描述。无需繁琐的参数设置，即可获得...
-
微信小程序页面制作——婚礼邀请函（含代码）
✅作者简介：2022年博客新星 第八。热爱国学的Java后端开发者，修心和技术同步精进。 ?个人主页：Java Fans的博客 ?个人信条：不迁怒，不贰过。小知识，大智慧。 ?当前专栏：微信小程序开发实战 ✨特色专栏：国学周更-心性养成之路 ?本文内容：微...
-
Datawhale训练营AIGC方向 第二期
Datawhale训练营AIGC方向 第二期 AI生图模型 概念 AI生图模型属于多模态机器学习模型，通过海量的图库和文本描述的深度神经网络学习，最终的目标是可以根据输入的指示(不管是文本还是图片还是任何 生成符合语义的图片。 通俗来说...
-
DataWhale Task02：从零预训练一个tiny-llama 20923
DataWhale Task02：从零预训练一个tiny-llama 20923 原文link：https://github.com/KMnO4-zx/tiny-llm 开源内容：https://github.com/datawhalechina/t...
-
Stable-Diffusion-web UI运行环境搭建和界面配置
Stable-Diffusion-web UI运行环境搭建和界面配置 前言 一、论文 二、源码下载 三、权重模型和文件下载 （1）下载sd-v1-4.ckpt模型 （2）下载openai/clip-vit-large-patch14模型...
-
＜Project-3 Video2SubTitle＞ Python coding Flask应用：从视频中，提取对白，生成独立的字幕文件 浏览器页面交互 调用cuda, Whisper模型
原因： 在网上看到一个视频没有字幕。 记者问小泉纯一郎 (前日本首相 ，我只是好奇，想知道Y说的是什么。 上面这个帖子里的视频：https://x.com/i/status/1834489208398115295 视频没有字幕，那就自己做...
-
LLaMA-Factory源码分析
搭建远程容器调试环境 docker-compose部署 使用LLaMA-Factory源码中的docker/docker-cuda下的Dockerfile和docker-compose.yml构建镜像，启动其服务。Dockerfile使用官方默认，只需...
-
AIGC与前端结合，可以应用哪些场景
AIGC（AI Generated Content，人工智能生成内容）在前端开发中的应用正变得越来越广泛。通过结合 AI 和前端技术，可以实现更智能、个性化的用户体验。以下是 AIGC 在前端开发中的一些主要应用场景和技术实现方式： 1. 内容生成与个...
-
【Datawhale X 魔搭AI夏令营】AIGC方向 Task 1+2
目录 写在前面 Task 1 赛题解读——可图Kolors-LoRA风格故事挑战赛 文生图 文生图基础知识 提示词 LoRA ComfyUI 参考图控制 Task 2 前沿探索：了解AI生图技术的能力和局限 Deepfake 必要...
-
使用 Ollama、Llama 3.1 和 Milvus 实现Function Calling 功能
将函数调用（Function Calling）与 LLM 相结合能够扩展您的 AI 应用的能力。通过将您的大语言模型（LLM）与用户定义的 Function 或 API 集成，您可以搭建高效的应用，解决实际问题。 本文将介绍如何将 L...
-
AIGC 项目使用文档
AIGC 项目使用文档 AIGC 项目地址: https://gitcode.com/gh_mirrors/ai/AIGC 1. 项目目录结构及介绍 AIGC 项目的目录结构如下： AIGC/ ├── README.md ├──...
-
Stable Diffusion Web UI UX 项目安装与使用指南
Stable Diffusion Web UI UX 项目安装与使用指南 stable-diffusion-webui-ux Stable Diffusion web UI UX 项目地址: https://gitcode.com/gh_mir...
-
Datawhale X 魔搭 AI夏令营--AIGC Task3
Datawhale X 魔搭 AI夏令营–AIGC Task3 文章目录 Datawhale X 魔搭 AI夏令营--AIGC Task3 ComfyUI 实践 Lora微调 ComfyUI 目前主流GUI有三种：使用...
-
AIGC时代算法工程师的面试秘籍（第二十一式2024.8.19-9.1） |【三年面试五年模拟】
写在前面 【三年面试五年模拟】旨在整理&挖掘AI算法工程师在实习/校招/社招时所需的干货知识点与面试经验，力求让读者在获得心仪offer的同时，增强技术基本面。也欢迎大家提出宝贵的优化建议，一起交流学习? 欢迎大家关注Rock...
-
stable-diffusion-xl_pytorch生成高质量的图像的AIGC模型
stable-diffusion-xl_pytorch 论文 SDXL: Improving Latent Diffusion Models for High-Resolution Image Synthesis https://arxiv.org/...
-
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型 引言 在人工智能和自然语言处理领域，大型语言模型（LLMs）的应用越来越广泛。llama-cpp-python 是一个强大的工具，它为 llama.cpp 提供了...
-
Datawhale X 魔搭 AI夏令营AIGC方向task3
ComfyUI 样例 下载并安装 ComfyUI # #@title Environment Setup from pathlib import Path OPTIONS = {} UPDATE_COMFY_UI = True #@param {...
-
Lawyer LLaMA(中文法律大模型本地部署)
Lawyer LLaMA(中文法律大模型本地部署 1.模型选择（lawyer-llama-13b-v2） 2.运行环境 1.建议使用Python 3.8及以上版本。 2.主要依赖库如下： transformers >=...
-
11、LLaMA-Factory自定义数据集微调
1、数据集定义 针对实际的微调需求，使用专门针对业务垂直领域的私有数据进行大模型微调才是我们需要做的。因此，我们需要探讨如何在LLaMA-Factory项目及上述创建的微调流程中引入自定义数据集进行微调。**对于LLaMA-Factory项目，目前...
-
业务系统如何接入文心一言AI模型完整版
博主介绍： 大家好，我是想成为Super的Yuperman，互联网宇宙厂经验，17年医疗健康行业的码拉松奔跑者，曾担任技术专家、架构师、研发总监负责和主导多个应用架构。技术范围： 目前专注java体系，有多年java、golang、.Net、DDD、软件架...
-
使用LLaMA-Factory进行模型微调（LLama3-8B-instruct）
1.使用环境 Linux -Ubuntu20.04 RTX3090 24GB， LORA+sft 训练微调 2. 下载项目，虚拟环境创建及安装： git clone https://github.com/hiyouga/LLaMA-Factor...
-
使用微调神器LLaMA-Factory轻松改变大语言模型的自我认知
一、引言 在本地化部署大语言模型时，为了能够改变大语言模型的自我认知，最简单的方式，就是使用系统提示词（system_prompt）的方式，譬如在与大模型进行对话时，首先将这段话作为message发送给大模型——{"role":"system","con...
-
Copilot for Microsoft 365 Plugins 示例项目教程
Copilot for Microsoft 365 Plugins 示例项目教程 Copilot-for-M365-Plugins-Samples Microsoft Copilot for Microsoft 365 Plugins sample...
-
Datawhale X 魔塔 AI夏令营 AIGC方向Task2
小白学习笔记，如有错误请各位大佬指正 一、AI生图背景介绍 1.AICG领域介绍 AIGC（Artificial Intelligence Generated Content）领域涉及使用人工智能技术生成各种类型的内容，包括文本、图像、...
-
【AI绘画】可控版 Flux + Controlnet ，强势来袭！（附整合包）
大家好，我是写编程的木木。 Flux是一个全新的物种，吊打一众商业引擎，且免费开源。Comfyui官方团队一直在追踪和适配Flux，以完美平替Midjourney，这是开源的一次伟大胜利！国内外各大公司也在逐步将自己的AI绘图引擎替换为Flux。 新...
-
【AIGC】AI编程工具合集及其特点介绍
??欢迎大家来到我们的天空?? ??如果文章内容对您有所触动，别忘了点赞、关注，收藏！ ? 作者简介：我们的天空 ?《头衔》：大厂高级软件测试工程师，阿里云开发者社区专家博主，CSDN人工智能领域新星创作者。 ?《博客》：人工智能，深度学习，...
-
【LLM大模型】使用QLoRa微调Llama 2
本篇文章将介绍使用PEFT库和QLoRa方法对Llama 27b预训练模型进行微调。我们将使用自定义数据集来构建情感分析模型。只有可以对数据进行微调我们才可以将这种大模型进行符合我们数据集的定制化。 一些前置的知识 如果熟悉Google Cola...
-
ESP32-S3百度文心一言大模型AI语音聊天助手（支持自定义唤醒词训练）【手把手非常详细】【万字教程】
简介 此项目主要使用ESP32-S3实现一个AI语音聊天助手，可以通过该项目熟悉ESP32-S3 arduino的开发，百度语音识别，语音合成API调用，百度文心一言大模型API的调用方法，音频的录制及播放，SD卡的读写，Wifi的配置（smartconf...
-
智能提醒助理系列-AIGC模型选型以及如何调用
本系列文章记录“智能提醒助理”wx公众号 建设历程。 一、需求出发点 想在现有的 “智能提醒助理” 功能中增加 智能提醒，想法是 通过用户设置的定时提醒指令，再提醒的同时，根据指令生成内容，展示给用户。 产品设计入下图所示：...
-
LLaMA-Factory微调入门个人重制版
LLaMA-Factory微调入门个人重制版 说明： 首次发表日期：2024-08-30 LLaMA-Factory 官方Github仓库： https://github.com/hiyouga/LLaMA-Factory 关于 本文是对L...
-
小白mac下载chinese-llama-2-7b全过程！
所有步骤来源： https://my.oschina.net/qyhstech/blog/11046186 只是小白第一次下记录，也为其他小白做个参考！ 环境起步 用这个命令，然后你的base就会变成miaomiao， 然后你在...
-
audioWhisper 项目使用教程
audioWhisper 项目使用教程 audioWhisperListen to any audio stream on your machine and print out the transcribed or translated audio.项...
-
Ollama保姆级教程
Ollama保姆级教程 Ollama是一个开源框架，专门设计用于在本地运行大型语言模型。它的主要特点是将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括GPU使用情况，简化了在本地运行大型模型的过程。 Ollama还提供了对模型量化...
-
Jetson 部署 Faster Whisper
文章目录 Whisper Faster Whisper 安装使用 尝试WSL部署 尝试 Jetson 部署 时间戳 实时转录 Whisper Whisper 是一种通用语音识别模型。它是在大量不同音频数据集上进行训练的，也是一...
-
Esp32S3通过文心一言大模型实现智能语音对话
前言 效果展示 效果展示录制 一、开发环境介绍 1、arduino开发平台； 2、所需设备：Esp32s3、inmp441、max98357、按键，杜邦线(接线 ； 3、大模型：百...
-
FastAPI部署大模型Llama 3.1
项目地址：self-llm/models/Llama3_1/01-Llama3_1-8B-Instruct FastApi 部署调用.md at master · datawhalechina/self-llm (github.com 目的：使用Aut...
-
Azure openai speech to text -Whisper “code“:“404“,“message“: “Resource not found“
题意：Azure OpenAI 语音转文本 - Whisper 报错 "code":"404","message": "Resource not found 问题背景： i'm trying to transcribe a audio file...
-
大模型_基于医疗领域用lora微调医疗数据及LLaMA微调ChatDoctor模型
文章目录 ChatDoctor 目标 方法 结果 结论 收集和准备医患对话数据集 创建外部知识数据库 具有知识大脑的自主聊天医生的开发 模型培训 结果 数据和模型： 微调 推理 ChatDoctor 目标 这项研究的主要...