-
RWKV-7 预览版、大量新论文...RWKV 社区 9 月动态速览
欢迎大家收看《RWKV 社区最新动态》第五期，本期内容收录了 RWKV 社区 2024 年 9 月的最新动态。 9 月动态省流版（TL;DR） RWKV 官方新闻动态 RWKV-7 发布预览版 RWKV-7 论文撰写已面向社区开放...
-
【人工智能绪论】一次性搞懂什么是AIGC！
? 个人主页：十二月的猫-CSDN博客 ? 系列专栏：深度学习_十二月的猫的博客-CSDN博客 ?? 十二月的寒冬阻挡不了春天的脚步，十二点的黑夜遮蔽不住黎明的曙光 ? 专栏持续更新中~~~✨ 目录 1. 前言 2. AIGC发展历程...
-
LLM | llama.cpp 安装使用（支持CPU、Metal及CUDA的单卡/多卡推理）
1. 详细步骤 1.1 安装 cuda 等 nvidia 依赖（非CUDA环境运行可跳过） # 以 CUDA Toolkit 12.4: Ubuntu-22.04/24.04(x86_64 为例，注意区分 WSL 和 Ubuntu，详见 http...
-
llama3.cuda: 纯C/CUDA实现的Llama 3模型使用教程
llama3.cuda: 纯C/CUDA实现的Llama 3模型使用教程 llama3.cudallama3.cuda is a pure C/CUDA implementation for Llama 3 model.项目地址:https://git...
-
LLaMA-Lite：轻量级Llama模型简介与实战指南
LLaMA-Lite：轻量级Llama模型简介与实战指南 llama-lite Embeddings focused small version of Llama NLP model 项目地址: https://gitcode.com/gh_m...
-
【丹摩智算实战】手把手教你Llama 3.1 8B部署：开启自然语言处理新篇章
前言 在自然语言处理（NLP）领域，大模型（LLM）的发展日新月异，为各种应用场景带来了前所未有的能力。近日，Meta公司宣布推出了其最新的开源模型——Llama 3.1，这一消息在行业内引起了广泛关注。本文将详细介绍Llama 3.1的背景、特点、部...
-
基于Llama构建的语音语言模型LLaMA-Omni；增强记忆的长文本建模检索方法；全功能的AI应用AnythingLLM
✨ 1: LLaMA-Omni LLaMA-Omni是基于Llama-3.1-8B-Instruct构建的语音语言模型，支持高质量低延迟的语音互动。 LLaMA-Omni是一个基于Llama-3.1-8B-Instruct构建的语音语言模型...
-
[从0开始AIGC][LLM]：LLM中Encoder-Only or Decoder-Only？为什么主流LLM是Decoder-Only？
LLM中Encoder-Only or Decoder-Only & 为什么主流LLM是Decoder-Only？ 文章目录 LLM中Encoder-Only or Decoder-Only & 为什么主流LLM是Dec...
-
128 深入解析Llama Index的响应合成生成 llamaindex.core.response_synthesizers.generation.py
深入解析Llama Index的响应合成生成 在自然语言处理（NLP）领域，Llama Index 是一个强大的工具，用于构建和处理复杂的语言模型。本文将深入探讨 Llama Index 中的生成器模块（Generation），并通过详细的代码示例和技...
-
用TensorRT-LLM进行LLama的推理和部署
Deploy an AI Coding Assistant with NVIDIA TensorRT-LLM and NVIDIA Triton | NVIDIA Technical BlogQuick Start Guide — tensorrt_llm...
-
llama网络结构及源码
目录 模型初始化 config lm_head transformer wte h rms_1/rms_2 attn c_attn c_proj 线性层mlp ln_f rope_cache mask_cache kv_cac...
-
LLM入门——在Colab上部署Llama2
LLM入门——在Colab上部署Llama2 2024/07/09 本文属于“LLM入门”系列，该系列是笔者自学LLM时记录的一些实践记录与心得，可能存在错误或过时的部分，请读者谅解。 对于LLM入门学者，我推荐从Large Language...
-
AIGC实战之如何构建出更好的大模型RAG系统
大家好，我是爱编程的喵喵。双985硕士毕业，现担任全栈工程师一职，热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。喜欢通过博客...
-
大规模语言模型从理论到实践 LLaMA分布式训练实践
大规模语言模型从理论到实践 LLaMA分布式训练实践 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 1. 背景介绍 1.1 问题的由来 随着深度学习的快速发展，大规模语言模型（La...
-
AIGC行业的发展前景与市场需求
简介：探讨当前时机是否适合进入AIGC行业，考虑行业发展阶段和市场需求。 方向一：行业前景 AIGC（人工智能生成内容）行业是近年来随着人工智能技术的快速发展而兴起的一个新兴领域，它涉及到使用人工智能技术来自动生成文本、图像、音频和视频等内容。...
-
Nvidia AI 发布 Llama-Minitron 3.1 4B：通过修剪和提炼 Llama 3.1 8B 构建的新语言模型
Nvidia 刚刚发布了语言模型的新版本，不过这次是一个小型语言模型：Llama-3.1-Minitron 4B 模型。这意味着它是语言模型不断发展的重要步骤之一，通过剪枝和知识提炼等尖端技术，将大型模型的效率与小型模型相结合。 Llama-3.1-...
-
llama神经网络的结构，llama-3-8b.layers=32 llama-3-70b.layers=80； 2000汉字举例说明
AI大模型全套学习资料 “最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。 这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。 我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。 我意识到有很多经验和知识...
-
WebLlama：基于Llama-3的网页浏览助手开发指南
WebLlama：基于Llama-3的网页浏览助手开发指南 webllamaLlama-3 agents that can browse the web by following instructions and talking to you项目地址:...
-
揭秘AI世界：一网打尽大模型、AIGC等热门概念，快速提升你的学习力！
AI（人工智能） 人工智能 (AI 是对人类智慧行为的仿真。它涵盖了各种技术和领域，目的是让计算机模仿、延伸甚至超越人类智能。 本质就是帮人工作做事的工具。 AGI（通用人工智能） AGI，全称为Artificial General Inte...
-
探索语言的极限：高效运行LLaMA模型的开源宝藏 —— llama_infer
探索语言的极限：高效运行LLaMA模型的开源宝藏 —— llama_infer llama_inferInference script for Meta's LLaMA models using Hugging Face wrapper项目地址:htt...
-
新一代模型微调方案LLama-Pro ，快来围观！！！
❝ 大家好，我是 Bob! ? 一个想和大家慢慢变富的 AI 程序员? 分享 AI 前沿技术、项目经验、面试技巧! 欢迎关注我，一起探索，一起破圈！? Y LLAMA PRO论文笔记 直达链接： 摘要 这篇论文介绍了一种名为L...
-
【ShuQiHere】从极客湾的自动写作业机器人说起：OCR技术背后的秘密
【ShuQiHere】 前不久，极客湾推出了一款“自动写作业机器人”，这款机器人的发布在网络上掀起了一阵讨论的热潮。它不仅能识别作业中的题目，还能快速地给出答案。对许多观众来说，这无疑是“黑科技”的完美体现，但对于喜欢刨根问底的技术宅们来说，这背后的技...
-
浅谈AIGC的底层技术
人工智能生成内容（Artificial Intelligence Generated Content, 简称AIGC）是近年来AI技术发展的一个重要领域，它利用机器学习和自然语言处理等技术，让计算机能够自主创作文章、音乐、图像等多种类型的内容。本文将深入浅...
-
探索高效能的CPU版语言模型 —— 深入解读LLaMa CPU Fork
探索高效能的CPU版语言模型 —— 深入解读LLaMa CPU Fork llama-cpu项目地址:https://gitcode.com/gh_mirrors/ll/llama-cpu 在人工智能的广阔领域中，语言模型的进步一直是推动技术前沿的...
-
107 深入解析Llama Index的响应合成器 llamaindex.core.response_synthesizers.facotry.py
深入解析Llama Index的响应合成器 在自然语言处理（NLP）领域，Llama Index 是一个强大的工具，用于构建和处理复杂的语言模型。本文将深入探讨 Llama Index 中的一个关键组件——响应合成器（Response Synthesi...
-
AIGC 与 ChatGPT 的区别与联系
前言 在人工智能技术飞速发展的今天，生成式人工智能内容（AIGC）和对话式 AI（如 ChatGPT）成为了备受瞩目的话题。虽然这两者在技术基础和应用领域上有很多重叠之处，但它们也各自有独特的特点和用途。本文将深入探讨 AIGC 与 ChatGPT 的...
-
记录Linux上安装LLaMA Factory v0.8.3 增量预训练/监督微调
序：SFT 和 PT 的区分 sft（Supervised Fine-Tuning，监督微调） 定义：sft是一种基于监督学习的微调方法，它使用标记好的数据（即带有输入、指令和期望输出的数据集）来进一步训练已经预训练好的模型。这种方法允许模型...
-
一文看懂llama2(原理&模型&训练）
一文看懂Llama2（原理&模型&训练） 一、引言 Llama2是Meta（原Facebook AI）最新开源的大型语言模型，它基于Transformer架构进行了多项优化和改进，旨在提供更高效、更准确的自然语言处理能力。Llama2...
-
Coze工作流之使用Stable Diffusion插件实现儿童故事绘本
不清楚coze使用的可以参考这篇文章coze全方位剖析 也推荐这个免费AI知识库给大家 ?AI洞察者中心｜知识库 - 飞书云文档 (feishu.cn 话不...
-
AIGC大模型产品经理高频面试大揭秘‼️
近期有十几个学生在面试大模型产品经理（薪资还可以，详情见下图），根据他们面试（包括1-4面）中出现高频大于3次的问题汇总如下，一共32道题目（有答案）。 29.讲讲T5和Bart的区别，讲讲Bart的DAE任务 T5（Text-to-Text Tr...
-
一文搞懂大模型！基础知识、 LLM 应用、 RAG 、 Agent 与未来发展
LLM 探秘：想要深入了解人工智能界的“新宠”大型语言模型（LLM）吗？本文将带你走进 LLM 的世界，从入门知识到实际应用，全方位解读这个充满魔力的“大模型”。我们将一起揭开 LLM 的神秘面纱，领略其在各个领域的独特魅力。无论你是初学者还是有一定基础的...
-
探索Llama 3.1 : 405B参数模型：部署、硬件配置、测试与训练的心得
引言 随着人工智能技术的快速发展，大规模语言模型（Large Language Models, LLMs）在自然语言处理（NLP）领域取得了显著的突破。MetaAI最新发布的Llama 3.1 : 405B参数模型，凭借其庞大的参数规模和先进的架构，展...
-
大模型框架汇总：大模型框架Ollama、大模型框架vLLM、大模型框架LightLLM、大模型框架llama.cpp、大模型框架LocalAI、大模型框架veGiantModel
常见的大模型框架：大模型框架Ollama、大模型框架vLLM、大模型框架LightLLM、大模型框架llama.cpp、大模型框架LocalAI、大模型框架veGiantModel： 大模型框架是指用于训练、推理和部署大型语言模型（LLMs）的软件工具和...
-
小琳AI课堂：Llama——NLP界的多面手
? Llama: NLP界的多面手 ? 引言： 大家好，这里是小琳AI课堂。今天，我们要探索的是自然语言处理（NLP）领域的一位明星——Llama。? Llama，由Meta AI（原Facebook AI）开发，以其轻量级、高效和易用性著称，是处...
-
一文看懂llama2 (原理&模型&训练)
LLaMA2是一种基于Transformer架构的先进语言模型，广泛应用于自然语言处理（NLP）任务，如文本生成、机器翻译和问答系统等。本文将从其核心原理、模型结构以及训练方法三个方面进行详细探讨。 一、核心原理 LLaMA2的核心原理是基于自注意力机...
-
AI、AGI、AIGC与AIGC、NLP、LLM，ChatGPT区分
这些术语和技术都是人工智能（AI）领域的重要组成部分，它们之间有复杂的关系和相互交织的依存。以下是它们之间的关系和各自的定义： AI（人工智能）： 定义：AI是指能够执行通常需要人类智能才能完成的任务的系统。这包括感知、推理、学习、决策和自...
-
部署本地语音聊天机器人：在Seeed Studio reComputer Jetson上部署Riva和Llama2
本地语音聊天机器人：在Seeed Studio reComputer Jetson上部署Riva和Llama2 所有教程都免费开源，请动动小手点个小星星https://github.com/Seeed-Projects/jetson-examples...
-
AI测试入门：认识AIGC与多模态技术
AI测试入门：认识AIGC与多模态技术 前言 一、 什么是AIGC？ 二、 AIGC的技术基础 三、 AIGC的工作原理 四、AIGC的应用场景 4.1. 媒体与出版 4.2. 市场营销 4.3. 教育 4.4. 游戏开发 4.5. 艺术创作...
-
AIGC：开启智能创作新时代
一、AIGC 的兴起与发展 AIGC 的兴起与发展 AIGC 的兴起是多种因素共同作用的结果。从技术层面看，深度学习算法的不断优化，如 Transformer 架构的出现，使得模型能够处理更复杂的数据和任务，为 AIGC 的发展提供了强大的技术支撑。预...
-
Stable Diffusion 模型的安装和使用
一、SD模型简介 Stable Diffusion的绘图风格主要由模型来控制，基础模型主要由二次元图片训练获得，所以在不安装其他模型的情况下，只能生成二次元风格的图像。 模型能够有效地控制生成的画风和内容。 常用的模型网站有： Stable...
-
探索中文智能的未来：Chinese-LLaMA-Alpaca-3 项目深度解析
探索中文智能的未来：Chinese-LLaMA-Alpaca-3 项目深度解析 Chinese-LLaMA-Alpacaymcui/Chinese-LLaMA-Alpaca 是一个基于 LLaMA 的中文自然语言处理模型。适合在自然语言处理、机器学习和...
-
Whisper JAX 深度使用指南
Whisper JAX 深度使用指南 whisper-jaxJAX implementation of OpenAI's Whisper model for up to 70x speed-up on TPU.项目地址:https://gitcode....
-
学习AIGC的推荐书单：基本概念、技术原理、应用场景、行业影响等
学习AIGC（AI Generated Content，人工智能生成内容）的推荐书单可以涵盖多个方面，包括AIGC的基本概念、技术原理、应用场景、行业影响以及未来趋势等。 晓北斗推荐-图书《生命3.0》 以下是一份精心挑选的书...
-
AIGC技术的现状、应用与未来发展
AIGC是一个充满魅力愿景。想象一下，通过先进的人工智能技术，不仅可以创造出吸引人的文本、生动的图像、动感的视频，还能制作出悦耳的音频——所有这些都是自动生成的！我们来介绍这些技术背后的原理，它们是如何运作的，以及它们在我们的生活中能扮演什么样的角色。从娱...
-
AIGC核心剖析：NLP与生成模型的协同作用
目录 AIGC核心剖析：NLP与生成模型的协同作用 NLP的基础与挑战 生成模型的强大能力 NLP与生成模型的协同作用 1. 机器翻译 2. 文本摘要 3. 对话系统 结论 AIGC核心剖析：NLP与生成模型的协同作用 在人工智能...
-
Llama-3的安装和使用方法和案例应用
LLMs之Llama3：LLama-3是一款非常实用的自然语言处理工具，支持多种自然语言处理任务，如文本分类、情感分析、命名实体识别等。下面是LLama-3的简介、安装和使用方法、案例应用之详细攻略。 一、简介 LLama-3是一款基于LLama模型的...
-
LLaMA-Factory：手把手教你从零微调大模型！
引言 随着人工智能技术的飞速发展，大型语言模型（LLM）在自然语言处理（NLP）领域扮演着越来越重要的角色。然而，预训练的模型往往需要针对特定任务进行微调，以提高其在特定领域的性能。LLaMA-Factory作为一个高效、易用的微调工具，为广大开发者提...
-
**AIGC：人工智能生成内容的深度解析**
AIGC：人工智能生成内容的深度解析 一、引言 随着人工智能技术的飞速发展，一种新兴的概念——“AIGC”（Artificial Intelligence Generated Content，即人工智能生成内容）正逐渐进入人们的视野，并在多个领域展现出...
-
LLaMA-MoE：基于参数复用的混合专家模型构建方法探索
自Mixtral以来，大家对混合专家模型（Mixture-of-Experts，MoE）的关注越来越高。然而从零训练MoE模型的成本极大，需要耗费海量的计算资源。为此，我们探索了一种基于参数复用的MoE快速构建方法。 该方法首先将LLaMA...
-
用LoRA微调 Llama 2：定制大型语言模型进行问答
Fine-tune Llama 2 with LoRA: Customizing a large language model for question-answering — ROCm Blogs (amd.com 在这篇博客中，我们将展示如何在AM...