-
Llama-2 vs. Llama-3：利用微型基准测试（井字游戏）评估大模型
编者按： 如何更好地评估和比较不同版本的大语言模型？传统的学术基准测试固然重要，但往往难以全面反映模型在实际应用场景中的表现。在此背景下，本文作者别出心裁，通过让 Llama-2 和 Llama-3 模型进行井字游戏对决，为我们提供了一个新颖而有趣的模型评...
-
⌈ 传知代码 ⌋ LLaMA 开放高效基础语言模型
?前情提要? 本文是传知代码平台中的相关前沿知识与技术的分享~ 接下来我们即将进入一个全新的空间，对技术有一个全新的视角~ 本文所涉及所有资源均在传知代码平台可获取 以下的内容一定会让你对AI 赋能时代有一个颠覆性的认识哦！！！ 以下内容干货满满...
-
Stable Diffusion的本地部署、训练和使用
1.环境信息 显卡：NVIDIA GeForce RTX 3060 Laptop GPU 系统：Windows 11 CUDA版本：11.6 Python.exe版本：3.10.6 GPU挂载运行 2.实验内容 2.1 本地部署...
-
大模型到底有没有智能？一篇文章给你讲明明白白
生成式人工智能 (GenAI[1] 和大语言模型 (LLM[2] ，这两个词汇想必已在大家的耳边萦绕多时。它们如惊涛骇浪般席卷了整个科技界，登上了各大新闻头条。ChatGPT，这个神奇的对话助手，也许已成为你形影不离的良师益友。 然而，在这场方兴未艾的...
-
大规模语言模型--LLaMA 家族
LLaMA 模型集合由 Meta AI 于 2023 年 2 月推出， 包括四种尺寸(7B 、13B 、30B 和 65B 。由于 LLaMA 的 开放性和有效性， 自从 LLaMA 一经发布， 就受到了研究界和工业界的广泛关注。LLaMA 模型在开放基准...
-
文心一言 vs GPT-4 ----全面横向比较
文心一言 (Wenxin Yiyan 和 GPT-4 是两个强大的人工智能语言模型，它们在处理自然语言方面表现出了出色的能力。但它们有一些关键的区别和优势。以下是它们的横向比较： 公司和平台： * 文心一言是由百度开发的中文语言模型，专...
-
Llama中文大模型-模型预训练
Atom系列模型包含Atom-7B和Atom-13B，基于Llama2做了中文能力的持续优化。Atom-7B和Atom-7B-Chat目前已完全开源，支持商用，可在Hugging Face仓库获取模型:https://huggingface.co/Flag...
-
【总结】在嵌入式设备上可以离线运行的LLM--Llama
文章目录 Llama 简介 运用 另一种：MLC-LLM 一个令人沮丧的结论在资源受限的嵌入式设备上无法运行LLM（大语言模型）。 一丝曙光：tinyLlama-1.1b（10.1亿参数，需要至少2.98GB的RAM） Llam...
-
LLM将成历史？开源bGPT或颠覆深度学习范式：直接模拟二进制，开启模拟数字世界新纪元！
微软亚洲研究院推出的最新成果bGPT，这种基于字节的Transformer模型，为我们探索数字世界开辟了新的大门。 与传统的基于词表的语言模型不同，bGPT的独特之处在于其对原始二进制数据的直接处理能力，不受特定格式或任务的限制，其目标是全面模拟数字世界...
-
基于Discuz打造高效内容采集站点的全方位解析
在网络信息爆炸的今天，如何从海量数据中获取有价值的信息成为内容创造者的重要任务之一。作为拥有庞大会员基数的知名社区软件平台，Discuz具备着内容聚合、用户交互以及良好的拓展性等多种功能特性。基于Discuz的灵活性与高扩展性，许多站长和网站管理者将视线转...
-
基于Discuz论坛规则采集的必要性与实施方法
Discuz作为一个功能丰富且受到众多站长欢迎的论坛软件系统，无论是在社交媒体时代的初始，还是当下的细分领域中都一直备受推崇。那么对于需要搭建或是运营管理这样一座庞大的互动桥梁——“论坛”的时候，“有没有采集Discuz论坛规则”这个问题的答案是明晰且具有...
-
南大俞扬深度解读：什么是「世界模型」？
随着媒体狂炒Sora，OpenAI的介绍材料中称Sora是「world simulator」，世界模型这个词又进入视野，但很少有文章来介绍世界模型。 这里回顾一下什么是世界模型，以及讨论Sora是不是world simulator。 什么是world...
-
爆火Sora的背后 | 聊聊什么是world models！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 随着媒体狂炒Sora，OpenAI的介绍材料中称Sora是 “world simulator”，世界模型这个词又进入视野，但很少有文章来介绍世界模型。这里回顾一下什么是世界模型，以及讨论Sora是不是...
-
如何使用MyScale将知识库引入OpenAI的GPT
译者 | 李睿 审校 | 重楼 2023年11月6日，OpenAI公司对外发布了ChatGPT。在这个无代码平台上，专业(或业余 开发人员可以使用工具和提示构建定制的GPT或聊天机器人，有效地改变他们与OpenAI GPT的交互。以前的交互（LangCh...
-
训不动Mixtral，要不试试LLaMA-MoE？
深度学习自然语言处理 原创作者：cola 随着各种各样增强版LLaMA的出现，Mixture-of-Expert(MoE 类模型越来越受大家关注。而LLaMA-MoE正是基于LLaMA系列和SlimPajama的MoE模型。它显著的一个好处...
-
AI绘画Stable Diffusion进阶使用
本文讲解，模型底模，VAE美化模型，Lora模型，hypernetwork。 文本Stable Diffusion 简称sd欢迎关注 使用模型 C站：https://civitai.com/ huggingface：https://huggingfa...
-
详解各种LLM系列｜LLaMA 1 模型架构、预训练、部署优化特点总结
作者 | Sunnyyyyy 整理 | NewBeeNLP https://zhuanlan.zhihu.com/p/668698204 后台留言『交流』，加入 NewBee讨论组 LLaMA 是Meta在2...
-
大模型之火烧出1亿级用户应用，百模大战2024谁将赢得决战？
2024年，是大模型落地的关键一年，国内外的大厂都在动作频频。但要想打造出首个超级AI原生应用，还是要敢啃技术硬骨头，这已成业内共识。 AI社区的研究者们，这几天都在翘首以盼一条大新闻—— 有传言说，谷歌用来对打ChatGPT超级大杀器Gemini Ult...
-
ChatGPT高效提问—基础知识（AIGC）
ChatGPT高效提问—基础知识 为了更好地学习AI和prompt相关知识，有必要了解AI领域的几个专业概念。 1.1 初识AIGC AIGC（artificial intelligence generated content）即人工智能生成的内...
-
【AI作图】Midjourney保姆级注册&使用教程
哈喽，大家好，我是木易巷~ 目前AI的发展速度简直太快了，之前科技进步按年、月为单位，现在简直是按天！！ 这不，木易巷最近尝试了一下Midjourney，作图效果真的很不错。Midjourney的AI绘画是现在最火的一款Ai绘画工具，它利用最先进...
-
史上首个100%开源大模型重磅登场！破纪录公开代码/权重/数据集/训练全过程，AMD都能训
多年来，语言模型一直是自然语言处理（NLP）技术的核心，考虑到模型背后的巨大商业价值，最大最先进的模型的技术细节都是不公开的。 现在，真·完全开源的大模型来了！ 来自艾伦人工智能研究所、华盛顿大学、耶鲁大学、纽约大学和卡内基梅隆大学的研究人员，联合发表了...
-
LLaMA、Baichuan、ChatGLM、Qwen、天工等大模型对比
12.10更新：Qwen技术报告核心解读 Baichuan Baichuan 2: Open Large-scale Language Models 数据处理：数据频率和质量，使用聚类和去重方法，基于LSH和dense embedding方...
-
高效底座模型LLaMA
论文标题：LLaMA: Open and Efficient Foundation Language Models 论文链接：https://arxiv.org/abs/2302.13971 论文来源：Meta AI 一、概述 大型语...
-
stable-diffusion、stable-diffusion-webui、novelai、naifu区别介绍
文章目录 1. Stable Diffusion Reference 2. Stable Diffusion WebUI Reference 3. NovelAI Reference 4. Naifu Reference 区别简述 Refere...
-
[NLP]LLaMA与LLamMA2解读
摘要 Meta最近提出了LLaMA(开放和高效的基础语言模型 模型参数包括从7B到65B等多个版本。最值得注意的是，LLaMA-13B的性能优于GPT-3，而体积却小了10倍以上，LLaMA-65B与Chinchilla-70B和PaLM-540B具有竞...
-
【Stable Diffusion XL】huggingface diffusers 官方教程解读
文章目录 01 Tutorial Deconstruct a basic pipeline Deconstruct the Stable Diffusion pipeline Autopipeline Train a diffusion mo...
-
Meta最新模型LLaMA详解（含部署+论文）
来源：投稿 作者：毛华庆 编辑：学姐 前言 本课程来自深度之眼《大模型——前沿论文带读训练营》公开课，部分截图来自课程视频。 文章标题：LLaMA: Open and Efficient Foundation Language Mode...
-
一个评测模型+10个问题，摸清盘古、通义千问、文心一言、ChatGPT的“家底”！...
数据智能产业创新服务媒体 ——聚焦数智 · 改变商业 毫无疑问，全球已经在进行大模型的军备竞赛了，“有头有脸”的科技巨头都不会缺席。昨天阿里巴巴内测了通义千问，今天华为公布了盘古大模型的最新进展。不久前百度公布了文心一言...
-
LLaMA模型论文《LLaMA: Open and Efficient Foundation Language Models》阅读笔记
文章目录 1. 简介 2.方法 2.1 预训练数据 2.2 网络架构 2.3 优化器 2.4 高效的实现 3.论文其余部分 4. 参考资料 1. 简介 LLaMA是meta在2023年2月开源的大模型，在这之后，很多开源模型都...
-
Llama中文社区开源预训练Atom-7B-chat大模型体验与本地化部署实测(基于CPU，适配无GPU的场景)
一、模型简介 原子大模型Atom由Llama中文社区和原子回声联合打造，在中文大模型评测榜单C-Eval中位居前十（8月21日评测提交时间）。 Atom系列模型包含Atom-7B和Atom-...
-
最强英文开源模型LLaMA架构探秘，从原理到源码
导读：LLaMA 65B是由Meta AI（原Facebook AI）发布并宣布开源的真正意义上的千亿级别大语言模型，发布之初（2023年2月24日）曾引起不小的轰动。LLaMA的横空出世，更像是模型大战中一个搅局者。虽然它的效果（performance）...
-
大语言模型训练数据常见的4种处理方法
本文分享自华为云社区《浅谈如何处理大语言模型训练数据之一常见的数据处理方法》，作者： 码上开花_Lancer。 大语言模型训练需要数万亿的各类型数据。如何构造海量“高质量”数据对于大语言模型的训练具有至关重要的作用。虽然，截止到2023 年9 月为止，还...
-
LLaMA-META发布单卡就能跑的大模型
2023年2月25日，Meta使用2048张A100 GPU，花费21天训练的Transformer大模型LLaMA开源了。 1.4T tokenstakes approximately 21 days 以下是觉得论文中重要的一些要点 1）...
-
Stable-Diffusion深度学习文本到图像生成模型
1. Stable Diffusion 1.1 用法和争议 1.2 许可证 1.3 不可控性 1.4 一点想法 1.5 用途 1.6 教程链接 2. Setup 2.1 Draw Things 2.2 diffusionbee 2.3 AUTOMATI...
-
AI研究者成功通过“诗歌攻击”揭示ChatGPT的训练数据来源
来自 Google Deepmind、华盛顿大学、康奈尔大学、卡内基梅隆大学、加州大学伯克利分校和苏黎世联邦理工学院的一组研究人员成功地让 Open AI 的聊天机器人 Chat GPT 揭示了用于训练 AI 模型的一些数据。 研究团队使用了一种创新性的手...
-
辅助编程coding的两种工具：Github Copilot、Cursor
目录 Cursor 简介 下载地址： 使用技巧： CHAT: example 1： 注意： example 2： Github Copilot 官网 简介 以插件方式安装 pycharm 自动写代码 example 1：写一个mys...
-
MacOS-use-Stable-Diffusion
导航 (返回顶部 1. Stable Diffusion 1.1 用法和争议 1.2 许可证 1.3 不可控性 1.4 一点想法 1.5 用途 1.6 教程链接 2. Setup 2.1...
-
copilot平替tabnine解析
1.copilot 借着最近chatgpt大火的东风，copilot又重新火了一把。 什么是copilot？直接上wiki百科上的解释 GitHub Copilot是GitHub和OpenAI合作开发的一个人工智能工具，用户在使用Visual Stu...
-
Meta AI研究团队新AI模型： Llama 2 大语言模型
Llama是Facebook Research团队开发的基础语言模型集，旨在提供广泛的语言理解能力。它基于转换器架构，参数范围从7B到65B。通过使用Llama模型，研究人员和开发人员可以构建更先进的自然语言处理系统。您可以在GitHub上找到相关的代...
-
LLMs之LLaMA：《LLaMA: Open and Efficient Foundation Language Models》翻译与解读
LLMs之LLaMA：《LLaMA: Open and Efficient Foundation Language Models》翻译与解读 导读：该论文提出了一个开源的大规模语言模型LLaMA，2048个A100-80G训练21天。该...
-
ChatGPT 使用到的机器学习技术
作者 | Bright Liao 在《程序员眼中的 ChatGPT》一文中，我们聊到了开发人员对于ChatGPT的认知。本文来聊一聊ChatGPT用到的机器学习技术。 机器学习技术的发展 要聊ChatGPT用到的机器学习技术，我们不得不回顾一下机器学...
-
【CVHub】《万字长文带你解读AIGC》系列之入门篇
本文来源“CVHub”公众号，侵权删，干货满满。 作者丨派派星 来源丨CVHub 原文链接：《万字长文带你解读AIGC》系列之入门篇 0. 导读 图0 随着ChatGPT的病毒式传播，生成式人工智能(AIGC, a.k.a AI-gener...
-
Stable Diffusion 原理介绍与源码分析（二、DDPM、DDIM、PLMS算法分析）
Stable Diffusion 原理介绍与源码分析（二、DDPM、DDIM、PLMS） 文章目录 Stable Diffusion 原理介绍与源码分析（二、DDPM、DDIM、PLMS） 系列文章 前言（与正文无关，可忽略） 总览...
-
[大模型] LLaMA系列大模型调研与整理-llama/alpaca/lora（部分）
文章目录 LLaMA大模型及其衍生模型 1. LLaMA 2. stanford_alpaca 3. ChatDoctor 4. alpaca-lora 5. Chinese-LLaMA-Alpaca 6. BELLE 大模型综述 A Su...
-
【AI 绘图】Stable Diffusion WebUI 本地安装教程（Windows，兼容 NVIDIA、AMD 显卡）
文章目录 硬性要求 Stable Diffusion 简介 Stable Diffusion WebUI 简介 1. 安装 Python 3.10.6（较新版本的 Python 不支持 torch） 2. 安装 Git 3. 下载 stable...
-
LLMs：LLaMA Efficient Tuning(一款可高效微调【全参数/LoRA/QLoRA】主流大模型【ChatGLM-2/LLaMA-2/Baichuan等】的高效工具【预训练+指令监督微
LLMs：LLaMA Efficient Tuning(一款可高效微调【全参数/LoRA/QLoRA】主流大模型【ChatGLM-2/LLaMA-2/Baichuan等】的高效工具【预训练+指令监督微调+奖励模型训练+PPO 训练+DPO 训练】 的简介、...
-
使用Llama index构建多代理 RAG
检索增强生成(RAG 已成为增强大型语言模型(LLM 能力的一种强大技术。通过从知识来源中检索相关信息并将其纳入提示，RAG为LLM提供了有用的上下文，以产生基于事实的输出。 但是现有的单代理RAG系统面临着检索效率低下、高延迟和次优提示的挑战。这些问题...
-
八张3090，1天压缩万亿参数大模型！3.2TB骤降至160GB，压缩率高达20倍
随着GPT-4的架构被知名业内大佬「开源」，混合专家架构（MoE）再次成为了研究的重点。 GPT-4拥有16个专家模型，总共包含1.8万亿个参数。每生成一个token需要使用大约2800亿参数和560TFLOPs 然而，模型更快、更准确的代价，则是巨大...
-
Agent 应用于提示工程
如果Agent模仿了人类在现实世界中的操作方式，那么，能否应用于提示工程即Prompt Engingeering 呢？ 从LLM到Prompt Engineering 大型语言模型(LLM 是一种基于Transformer的模型，已经在一个巨大的语料库或...