-
Meta教你5步学会用Llama2：我见过最简单的大模型教学
在这篇博客中，Meta 探讨了使用 Llama 2 的五个步骤，以便使用者在自己的项目中充分利用 Llama 2 的优势。同时详细介绍 Llama 2 的关键概念、设置方法、可用资源，并提供一步步设置和运行 Llama 2 的流程。 Meta 开源的 L...
-
单个消费级GPU笔记本win电脑测试LLaMA模型
1、LLaMa模型代码： GitHub - facebookresearch/llama: Inference code for LLaMA models 不同模型对参数规模要求不同，有7B、13B、30B(33B 和65B四个...
-
文献阅读：LLaMA: Open and Efficient Foundation Language Models
文献阅读：LLaMA: Open and Efficient Foundation Language Models 1. 文章简介 2. 模型训练 1. 训练数据 2. 模型结构 3. 模型训练 1. Optimiz...
-
大模型部署手记（12）LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+text-gen+中文对话
1.简介： 组织机构：Meta（Facebook） 代码仓：https://github.com/facebookresearch/llama 模型：chinese-alpaca-2-7b-hf 下载：使用百度网盘下载 硬件环境：暗影精灵7Plu...
-
模型杂谈：使用 IN8 量化推理运行 Meta “开源泄露”的大模型（LLaMA）
接着之前文章《模型杂谈：快速上手元宇宙大厂 Meta “开源泄露”的大模型（LLaMA）》一文中的话题，继续聊聊如何使用 INT8 量化的方式来让低显存的设备能够将模型运行起来。 写在前面 前几天，在知乎上看到《如何评价 LLaMA 模型泄露？》问题...
-
三分钟快速构建大语言模型AI知识库
FastGPT FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！ 知识库核心流程图 图片 图片来源：https://doc.fa...
-
xFormers安装使用
xFormers是一个模块化和可编程的Transformer建模库，可以加速图像的生成。 这种优化仅适用于nvidia gpus，它加快了图像生成，并降低了vram的使用量，而成本产生了非确定性的结果。 下载地址： https://github.co...
-
LLaMA-2论文阅读
1. 基本介绍 LLaMA-2是2023年7月24日Meta发布的LLaMA第二代，跟LLaMA-1几个显著区别: 免费可商用版本的大模型 context上下文增加了一倍，从2K变为了4K 训练的总token数从1.0T/1.4T增加为2.0T(...
-
LLMs之LLaMA-2：源码解读之所有py文件(包括example_text_completion.py/example_chat_completion.py+model.py/generation
LLMs之LLaMA-2：源码解读之所有py文件(包括example_text_completion.py/example_chat_completion.py+model.py/generation.py/tokenizer.py 目录 一、l...
-
【文生图系列】 Stable Diffusion v2复现教程
文章目录 xformers bug 记录 txt2img diffusers 参考 基础环境承接Stable Diffusion v1, 详情请见我的博文【文生图系列】 Stable Diffusion v1复现教程。然后更新pyto...
-
LLM-20230225：LLaMA（大羊驼）【参数量： 70 亿、130 亿、330 亿、650 亿】【旨在推动 LLM 领域的小型化、平民化研究】【Meta】
Meta AI 同时在其官方发布了论文《LLaMA: Open and Efficient Foundation Language Models》 源码：https://github.com/facebookresearch/llama 论文...
-
stable-diffusion项目环境配置
stable-diffusion项目环境配置 python解释器 python要求python要求3.10以上的版本 本机物理环境不满足要求,建议使用anaconda创建虚拟环境 conda create – name diffusion pyth...
-
Ubuntu llama 2搭建及部署，同时附问题与解决方案
本机环境： AMD Ryzen7480 OH with Radeon Graphics(16 CPUs ,~2.9GHz Card name: NVIDIA GeForce RTX 2060 虚拟机环境： 内存：4G 存储：100G 一、搭建...
-
LLama大模型初体验——Linux服务器部署LLama注意事项
LLama大模型初体验——Linux服务器部署LLama注意事项 一、基本步骤 基本步骤可以参考这个链接：超详细Llama2部署教程——个人gpt体验攻略！ llama开源仓库：https://github.com/facebookresearc...
-
Hayo AI：国内朋友的居家旅行必备良药，融入了 ChatGPT 和绘图 Stable diffusion
“ Hayo AI 在应用内直接融入了现有的热门AI大模型工具：Stable Diffusion 和 Chat GPT-4/GPT-3.5，可直接聊天、出图。” 01 — 必备良药 最近有朋友对 ChatGPT 感兴趣，但是苦于...
-
部署lawyer-llama
Git - Downloading PackageGit - Downloading PackageGit - Downloading Package 下载git，wget需要下载一下 （GNU Wget 1.21.4 for Windows）， Wi...
-
LLMs之Vicuna：在Linux服务器系统上实Vicuna-7B本地化部署(基于facebookresearch的GitHub)进行模型权重合并(llama-7b模型与delta模型权重)、模型部
LLMs之Vicuna：在Linux服务器系统上实Vicuna-7B本地化部署(基于facebookresearch的GitHub 进行模型权重合并(llama-7b模型与delta模型权重 、模型部署且实现模型推理全流程步骤的图文教程(非常详细 ...
-
AIGC入门 - LLM 信息概览
在阅读本文之前，建议阅读文章：《GPT，GPT-2，GPT-3，InstructGPT的进化之路》 本文将介绍以下 LLM OPT LLaMa Alpaca Vicuna Moss chatGLM Baichuan Openbuddy 一、OPT...
-
ImageBind与Stable diffusion使用记录
参考代码 ImageBind：GitHub - facebookresearch/ImageBind: ImageBind One Embedding Space to Bind Them All ImageBind + stable-diffusio...
-
玩转stable-diffusion之xformers安装
1、xformers是SD的加速模块，没有他可以继续运行，可以正常生成图片。只是xformers可以帮助提升图片的生成速度。 2、安装完SD后，启动出现xformers未安装的情况 No module 'xformers'. Proceeding w...
-
[大模型] LLaMA系列大模型调研与整理-llama/alpaca/lora（部分）
文章目录 LLaMA大模型及其衍生模型 1. LLaMA 2. stanford_alpaca 3. ChatDoctor 4. alpaca-lora 5. Chinese-LLaMA-Alpaca 6. BELLE 大模型综述 A Su...
-
Meta 推出的 LLaMA 大语言模型部署教程
Facebo推出的LLaMA模型 简介： LLaMA（Lager Language Model From Meta），这是一个从7B到65B参数的基础语言模型的集合。它在数万亿的文本tokens上训练的模型，并表明在不求助于专有和不可访问的数据集，而仅...
-
安装stable-diffusion的错误 xformers 安装解决
1、xformers是SD的加速模块，没有他可以继续运行，可以正常生成图片。只是xformers可以帮助提升图片的生成速度。 2、安装完SD后，启动出现xformers未安装的情况 No module 'xformers'. Proceeding wi...
-
LLama 2部署教程+私有模型分发
近日，Meta发布了LLama的最新版本——LLama2，尽管其对中文的处理能力尚有待提升，但其整体表现无疑是令人瞩目的。在发布当天，我便迫切地将其下载下来进行试用，发现相比之前的版本，LLama2在多个方面都实现了显著的进步，特别是在编程能力上的提升更为...
-
llama.cpp一种在本地CPU上部署的量化模型（超低配推理llama）
0x00 背景 前不久，Meta前脚发布完开源大语言模型LLaMA， 随后就被网友“泄漏”，直接放了一个磁力链接下载链接。 然而那些手头没有顶级显卡的朋友们，就只能看看而已了 但是 Georgi Gerganov 开源了一个项目llama.cpp...
-
LoRa模型训练教程（炼丹，Stable Diffusion）
1. lora介绍（Low Rank Adaption） 何为LoRA？LoRA并不是扩散模型专有的技术，而是从隔壁语言模型（LLM）迁移过来的，旨在解决避免将整个模型参数拷贝下来才能对模型进行调校的问题。因为大型语言模型的参数量过于恐怖，比如最近新出...
-
Windows10上使用llama-recipes(LoRA)来对llama-2-7b做fine-tune
刚刚在Windows10上搭建环境来对llama2做finetune，里面坑还是挺多的，这里把印象中的坑整理了一下以作备忘。 llama-recipes是meta的开源项目，Github地址为：GitHub - facebookresearch/llam...
-
ChatGPT开源平替(2)llama
最近，FacebookResearch 开源了他们最新的大语言模型 LLaMA，训练使用多达14,000 tokens 语料，包含不同大小参数量的模型 7B、13B 、30B、 65B，研究者可以根据自身算力配置进行选择。 ...
-
Meta最新模型LLaMA细节与代码详解
Meta最新模型LLaMA细节与代码详解 0. 简介 1. 项目环境依赖 2. 模型细节 2.1 RMS Pre-Norm 2.2 SwiGLU激活函数 2.3 RoPE旋转位置编码 3. 代码解读 3.1 tokenizer 3.2 m...
-
Meta重磅更新，小扎在元宇宙里养了会做家务的狗！人形化身超逼真，AI智能体在真实物理世界和人互动
今天开始，人类离帮忙做家务的机器人，又近了一步！ Meta宣布推出Habitat 3.0，目的是开发出社会化的AI智能体，这意味着社交智能机器人已经进入新的里程碑阶段。 这些具身智能背后的关键，当然就是AI Agent。有了它们，机器人可以和人类协作...