-
RWKV-7 预览版、大量新论文...RWKV 社区 9 月动态速览
欢迎大家收看《RWKV 社区最新动态》第五期，本期内容收录了 RWKV 社区 2024 年 9 月的最新动态。 9 月动态省流版（TL;DR） RWKV 官方新闻动态 RWKV-7 发布预览版 RWKV-7 论文撰写已面向社区开放...
-
llama网络结构及源码
目录 模型初始化 config lm_head transformer wte h rms_1/rms_2 attn c_attn c_proj 线性层mlp ln_f rope_cache mask_cache kv_cac...
-
【HuggingFace Transformers】LlamaModel源码解析
LlamaModel源码解析 1. LlamaModel 介绍 2. LlamaModel类 源码解析 3. 4维因果注意力掩码生成 1. LlamaModel 介绍 LlamaModel 是一个基于 Transformer 架构...
-
开源项目教程：llama-utils
开源项目教程：llama-utils llama-utilsThe easiest & fastest way to run customized and fine-tuned LLMs locally or on the edge项目地址:h...
-
无需训练的 Diffusion MoE 方案 (SegMoE): Segmind Mixture of Diffusion Experts
Paper name SegMoE: Segmind Mixture of Diffusion Experts Paper Reading Note Blog URL: https://blog.segmind.com/introducing-seg...
-
【国产异构加速卡】基于llama.cpp实现Llama3模型的guff格式转换、4bit量化以及推理加速
重要说明：本文从网上资料整理而来，仅记录博主学习相关知识点的过程，侵删。 序言 本文使用llama.cpp框架，对 Llama3-8B-Instruct 模型进行gguf格式转换，8bit量化，并在CPU和GPU上对8bit模型进行推理。 测试平台...
-
【AIGC从零开始】AIGC小白学习心得第二讲：3D生成模型
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、Stable Video 3D（sv3d） 二、TripoSR 三、LRM系列 1.LRM 2.GS-LRM 3.OpenLRM 四、CRM 五...
-
笔记本本地部署100b以上千亿级别LLM，并在手机端接入
前言 本文将演示如何在笔记本上运行千亿级模型，后端 Koboldcpp 运行在 Ubuntu ，前端界面使用安卓手机通过 Termux 且使用 SillyTavern 进行连接，模型使用 104B 的 Command R Plus 的 Q4KM 量化，...
-
107 深入解析Llama Index的响应合成器 llamaindex.core.response_synthesizers.facotry.py
深入解析Llama Index的响应合成器 在自然语言处理（NLP）领域，Llama Index 是一个强大的工具，用于构建和处理复杂的语言模型。本文将深入探讨 Llama Index 中的一个关键组件——响应合成器（Response Synthesi...
-
万元机型备货70%！苹果押宝iPhone 16 Pro系列：相信AI能让大家踊跃换机
快科技8月28日消息，据供应链最新消息，苹果坚信AI能够拉动换机潮，所以也是疯狂押宝iPhone 16 Pro系列，只不过大家真的会为此买单吗？ 供应链消息人士透露，由于苹果对iPhone 16系列四款机型进行区别对待，所以完整支持AI功能的Pro系列机型...
-
使用FastChat快速部署LLM服务
原文：https://zhuanlan.zhihu.com/p/705915093 FastChat 是一个用于训练、服务和评估基于LLM的聊天机器人的开放平台，它的核心功能包括： 最先进模型（例如 Vicuna、MT-Bench）的训练和评估代码。...
-
论文阅读-Transformer Layers as Painters
1. 摘要 尽管大语言模型现在已经被广泛的应用于各种任务，但是目前对其并没有一个很好的认知。为了弄清楚删除和重组预训练模型不同层的影响，本文设计了一系列的实验。通过实验表明，预训练语言模型中的lower和final layers与中间层分布不一致，并且...
-
【Reflextion论文总结】
Reflextion论文总结 文章目录 Reflextion论文总结 1、简介 2、创新点 3、主要内容 整体框架 记忆组件 流程 4、自我反思适用情形 5、实验结果 6、Langchain实现 AnswerQuestion I...
-
【AI绘画】FLUX：这款新的人工智能图像生成器非常善于创造人手
FLUX.1 是 Stable Diffusion 的公开重量级继承者，可将文本转化为图像。 FLUX.1 dev 生成图像：“A beautiful queen of the universe holding up her hands, face in...
-
【机器学习】机器学习与医疗健康在疾病预测中的融合应用与性能优化新探索
文章目录 引言 第一章：机器学习在医疗健康中的应用 1.1 数据预处理 1.1.1 数据清洗 1.1.2 数据归一化 1.1.3 特征工程 1.2 模型选择 1.2.1 逻辑回归 1.2.2 决策树 1.2.3 随机森林 1.2...
-
百度大模型文心一言api 请求错误码 一览表
错误码说明 千帆大模型平台API包含两类，分别为大模型能力API和大模型平台管控API，具体细分如下： 大模型能力API 对话Chat 续写Completions 向量Embeddings 图像Images 大模型平台管控API...
-
AI绘画Stable Diffusion 生成智能家电产品效果图，我给AI的 vs AI给我的，AI电商进阶教程！
大家好，我是程序员晓晓 今天给大家分享一下如何用AI绘画制作电商产品海报图，全程干货诚意满满，赶快学起来吧！ 图文教程 首先，我们使用的是AI绘画工具 Stable Diffusion（如需要SD的安装包可看我往期入门教程AI绘画专题—Sta...
-
【Python】科研代码学习：十六 Model架构的代码细节，附架构图：Llama 为例 （v4.28.0）
【Python】科研代码学习：十六 Model与网络架构 的代码细节：Llama 为例（v4.28.0） 前言 导入依赖 `LlamaRMSNorm`：改进的 层正则化 `LlamaRotaryEmbedding`：旋转式位置编码 `Llama...
-
【OrangePi AIpro】香橙派 AIpro运行大模型之Stable diffusion与 llama2
前言：在学生年代，小编用过香橙派4B、树莓派3B、树莓派4B、ROCK Pi4等开发板，每次拿到新开发板的时候，总会迫不及待地装上系统，当做一个小型电脑玩上一波，然后再将一些功能在上面实现或者将算法部署到上面，体验下性能的提升，相信每一个技术爱好者都如此，...
-
不会写英文提示词？Stable Diffusion提示词大全+插件推荐，快来看看吧！
提示词： 在使用 Stable difussion 这类 AI 绘画大模型，英文不好的朋友遇到最大的难题应该就是提示词该怎么写？如果是使用 Stable Diffusion Web UI，其实有很多插件可以解决这个问题，今天小编就给大家分享一些常用的提...
-
【ComfyUI】Stable Diffusion 3 加Controlnet
基于 instantX-research/diffusers_sd3_control: 🤗 Diffusers: State-of-the-art diffusion models for image and audio generation in PyT...
-
AI绘画人物（头像）设计提示词大全
1、 年龄性别 age sex 中文 英文 中文 英文 幼年，男 Childhood, male 少年，女 Adolescence, female 幼年，女 Childhood, female 青年，男 Youth, male 少年，男...
-
Whisper.cpp 0基础搭建音频文件转文字(Windows下C++)
介绍 whisper.cpp是一个开源项目，它是对OpenAI的Whisper模型的C/C++移植实现。 OpenAI的Whisper是一个自动语音识别（ASR）系统，经过大量多语言和多任务的监督数据训练，能够进行多语言语音识别、语音翻译和语言识别等任...
-
Llama-Code Shield解读：大模型代码安全护盾解析
引言 大模型目前被广泛用于生成代码数据，能有效地提高研发效率。但LLM生成的代码中潜藏的安全漏洞，也成了悬在头顶的达摩克利斯之剑。最近，Llama-3的问世，不仅带来了新的代码生成能力，更配备了Code Shield这一安全检测利器，为LL...
-
[Stable Diffusion/LDM] High-Resolution Image Synthesis with Latent Diffusion Models
这篇讲解很详细，可以参考：https://zhuanlan.zhihu.com/p/634573765 附上苏神的讲解：生成扩散模型漫谈（二十二）：信噪比与大图生成（上） - 科学空间|Scientific Spaces...
-
Stable Diffusion 3 Medium 正式开源，用户对此产品评价如何？
前两天 Stability.AI 终于开源了 Stable Diffusion 3，虽然只是中杯的 Medium 版本，没有放出当初宣布的 8B 版本[1]，但也在很多方面取得了进步。本想第一时间尝鲜测试，但这几天出差在外，使用颇不方便。 正好老朋友揽睿...
-
Stable Diffusion文生图-图生图-ControINet插件-线稿上色-生产全套表情包-3D Openpose-局部重绘-换衣服，换姿势人设三视图一键生成教程大全
Stable Diffusion 一、**文生图入门与提示词基础** 采样工具介绍 1.提示词权重语法 2.负面提示词 3.参数设置 二、提示词六要素 1685612692298.png 三、通用反向提示词 四、随机种子使用示例 获取随机...
-
[AIGC] MyBatis-Plus中如何使用XML进行CRUD操作？
在MyBatis-Plus中，我们可以非常方便地使用XML进行CRUD（创建、读取、更新、删除）操作。以下是一些基本步骤和示例，希望能帮助到还在初学阶段的您。 文章目录 1. 创建Mapper接口 2. 创建Mapper XML 文...
-
stable-diffusion 3 体验部署流程（ComfyUI)
环境准备 下载及简介 git clone https://huggingface.co/stabilityai/stable-diffusion-3-medium SD3 checkpoints： sd3_medium_incl_clips.s...
-
硬核解读KubeEdge基于大模型边云协同的机器人语义分割算法
本文分享自华为云社区《KubeEdge：基于大模型边云协同的机器人语义分割算法》，作者：云容器大未来。 近年来快速发展的视觉大模型(例如 SAM 在促进高精度的智能感知方面具有很大的潜力。然而，边缘环境中的资源限制往往会限制这种视觉大模型在本地部署，从...
-
Meta Llama 3 性能提升与推理服务部署
利用 NVIDIA TensorRT-LLM 和 NVIDIA Triton 推理服务器提升 Meta Llama 3 性能 我们很高兴地宣布 NVIDIA TensorRT-LLM 支持 Meta Llama 3 系列模型，从而加速和优化您的 L...
-
AIGC——ComfyUI使用SDXL双模型的工作流（附件SDXL模型下载）
SDXL算法概述 SDXL（Stable Diffusion XL）是Stable Diffusion公司发布的一款图像生成大模型。在以往的模型基础上，SDXL进行了极大的升级，其base模型参数数量达到了35亿，refiner模型参数数量达到了66亿...
-
【腾讯云 HAI域探秘】——即时职场生存指南小游戏以及【自行搭建Stable Diffusion图片AI绘制 ChatGLM2-6B AI进行智能对话 Pytorch2
六、jupyter_lab操作步骤 1、进入jupyter_lab操作页面 操作页面效果 2、面板功能介绍 3、启动服务 命令如下，直接复制并【ctrl+v】即可 cd /root/stable-diffusion-webu...
-
基于Ascend C的FlashAttention算子性能优化最佳实践
本文分享自华为云社区《基于Ascend C的FlashAttention算子性能优化最佳实践》，作者：昇腾CANN。 LLM的Attention部分处理给计算系统带来巨大的计算和访存压力。业界先后出现FlashAttention、FlashAttenti...
-
OpenAI自研芯片进展曝光！百万年薪挖角谷歌
快科技6月9日消息，OpenAI的自研芯片计划近日取得显著进展，该公司正积极从谷歌TPU团队招募顶尖人才，以扩展其芯片研发团队。 这一策略显示出OpenAI减少对英伟达芯片依赖的决心，并有望在未来建造更多晶圆厂，为AI芯片需求提供稳定供给。 据SemiAn...
-
本地使用 Ollama 驱动 Llama 3，Phi-3 构建智能代理（附代码）
本文介绍如何使用langchain中的ollama库实现低参数Llama 3，Phi-3模型实现本地函数调用及结构化文本输出。 函数调用介绍 函数调用的一个很好的参考是名为 “Gorilla” 的论文，该论文探讨了函数调用的概念，并提供了一个函数调用...
-
MVP 聚技站｜生成式 AI 系列（五）：M365 极致驾驭 - Copilot 实战攻略
点击蓝字 关注我们 MVP 聚技站 微软最有价值专家推出“MVP 聚技站”系列主题专栏，邀请多位微软最有价值专家，针对初学者、开发者感兴趣的技术话题，带来专业的技术课程讲解与实践经验分享，帮助大家更快掌握最新的技术技能。 随着人工智能...
-
LLaMA3（Meta）微调SFT实战Meta-Llama-3-8B-Instruct
LlaMA3-SFT LlaMA3-SFT, Meta-Llama-3-8B/Meta-Llama-3-8B-Instruct微调(transformers /LORA(peft /推理 项目地址 https://github.com/yong...
-
使用Rag和Sem-Rag提供上下文增强AI编码助手
通过将检索增强生成和语义记忆纳入 AI 编码助手，提升开发人员的生产力、效率和准确性。 译自Enhancing AI Coding Assistants with Context Using RAG and SEM-RAG，作者 Janakiram MS...
-
基于机器学习的金融欺诈检测模型
作者 | 陈峻 审校 | 重楼 引言 如今，基于互联网服务的欺诈案例时常登顶媒体头条，而使用在线服务和数字交易的金融行业尤其成为了重灾区。网络洗钱、保险欺诈、网银盗用、虚假银行交易等复杂金融欺诈行为层出不穷，我们亟待通过行之有效的欺诈识别与检测的...
-
AIGC论文阅读——[Visual Speech-Aware Perceptual 3D Facial Expression Reconstruction from Videos]
AIGC论文阅读——[Visual Speech-Aware Perceptual 3D Facial Expression Reconstruction from Videos] 论文地址：https://arxiv.org/abs/2207.110...
-
whisper-v3模型部署环境执行
1. 安装whisperV3 github git clone https://github.com/openai/whisper.git pip install -U openai-whisper pip install setuptools-ru...
-
使用 Springboot3.x 实现考试系统中接打电话的识别与处理
本专题将深入探讨考试系统中常见的复杂技术问题，并提供基于Spring Boot 3.x的解决方案。涵盖屏幕切换检测与防护、接打电话识别处理、行为监控摄像头使用、网络不稳定应对等，每篇文章详细剖析问题并提供实际案例与代码示例，帮助开发者应对挑战，提升考试系...
-
AI绘画Stable Diffusion，手把手教你反推提示词
“ AI绘画，学会生成卡通人物的工具后，通过一些高级提示词，就能生成质量不错的图片，掌握个人快速变现能力……” 经常在小红书或其他公众号上看到别人家的图片内容很高级，等自己去写提示词又提笔忘字。 不是因为你英文不好，主要是没有具体概念。有没有工具可以一...
-
32专家MoE大模型免费商用！性能全面对标Llama3，单token推理消耗仅5.28%
每个token只需要5.28%的算力，精度就能全面对标Llama 3。 开源大模型，再添一位重量级选手—— 来自浪潮信息的32专家MoE模型，源2.0-M32。 不仅拥有极高的回报投入比，而且全面开放，训练代码和模型权重都可任意下载，商业使用也免费、无需...
-
超强！必会的十大机器学习算法
1.线性回归 线性回归是用于预测建模的最简单且使用最广泛的机器学习算法之一。 它是一种监督学习算法，用于根据一个或多个自变量预测因变量的值。 定义 线性回归的核心是根据观察到的数据拟合线性模型。 线性模型由以下方程表示： 其中 是因变量（我们想要预测...
-
Springboot整合文心一言----非流式响应与流式响应（前后端）
所谓非流式响应就是直接等待百度把答案生成好之后直接返回给你，而后者这是一一种流的形式，百度一边生成答案，一边将答案进行返回，这样就是我们在使用ChatGPT中最常见的一种表现了，它回答问题的时候总是一个字一个字的出来。这两回答方式都有一定的...
-
国产开源Sora上新：全面支持国产AI算力，可用ReVideo视频编辑，北大-兔展团队出品
北大-兔展联合发起的Sora开源复现计划Open-Sora-Plan，今起可以生成最长约21秒的视频了! 生成的视频水平，如下展示。先看这个长一点的，9.2s: 当然了，老规矩，这一次的所有数据、代码和模型，继续开源。 目前，Open-Sora-Plan在...
-
“Usemall爬虫”探秘：深入理解爬虫技术及其应用
在当今信息化、数字化的时代，数据已经成为了一种宝贵的资源。而爬虫技术，作为获取这些数据的重要手段之一，越来越受到人们的关注。其中，“usemall爬虫”以其高效、灵活的特点，在众多爬虫工具中脱颖而出。本文将带领大家深入了解“usemall爬虫”的原理、应用...
-
【GitHub】github学生认证，在vscode中使用copilot的教程
github学生认证并使用copilot教程 写在最前面 一.注册github账号 1.1、注册 1.2、完善你的profile 二、Github 学生认证 注意事项：不完善的说明 三、Copilot 四、在 Visual Studio C...