-
在低配Windows上部署原版llama.cpp
现在大语言模型的部署，通常都需要大的GPU才能实现，如果是仅仅想研究一下，大语言模型的算法，我们是很想能够直接在我们的工作电脑上就能直接运行的，llama.cpp就是很好的实现。 LLaMa.cpp使用int4这种数值格式，其显著降低了内存需求，并且在大...
-
OpenAI、微软押注，大模型应用的尽头是AI Agent ？｜对话面壁智能
你见过Agent们“吵架”么? “这个产品需要具备XX需求，为什么没有?”，“你提出的需求完全不合理，技术上达不到!”，现场顿时乱作一团，越来越多的“员工”也被卷进了这场大乱斗中。 激烈的争吵声越过了屏幕外，面壁智能的测试人员通过后台日志，发现Agents...
-
Whisper.cpp 编译使用
Whisper.cpp 编译使用 whisper.cpp 是牛人 ggerganov 对 openai 的 whisper 语音识别模型用 C++ 重新实现的项目，开源在 github 上，具有轻量、性能高，实用性强等特点。这篇文章主要记录在 wind...
-
LLM 系列 | 21 : Code Llama实战(上篇) : 模型简介与评测
引言 小伙伴们好，我是《小窗幽记机器学习》的小编：卖热干面的小女孩。 个人CSDN首页：JasonLiu1919_面向对象的程序设计,深度学习,C++-CSDN博客 今天开始以2篇小作文介绍代码大语言模型Code Llama。上篇主要介绍Co...
-
Stable Diffusion: 利用Latent Diffusion Models实现高分辨率图像合成
原文链接： Stable Diffusion: 利用Latent Diffusion Models实现高分辨率图像合成 High-Resolution Image Synthesis with Latent Diffusion Models...
-
百度文心一言4.0抢先体验教程！
? 展望：关注我, AI学习之旅上，我与您一同成长！ 一、 引言 想快速体验文心一言4.0，但又觉得技术难度太高？别担心，我来手把手教你！ ? 10月17日，文心一言4.0震撼亮相，带着一系列闪亮的AI原生应用与服务。这包括了 百度新搜索、百度...
-
足够惊艳，使用Alpaca-Lora基于LLaMA(7B)二十分钟完成微调，效果比肩斯坦福羊驼
之前尝试了从0到1复现斯坦福羊驼（Stanford Alpaca 7B），Stanford Alpaca 是在 LLaMA 整个模型上微调，即对预训练模型中的所有参数都进行微调（full fine-tuning）。但该方法对于硬件成本要求仍然偏高且训练低效...
-
AIGC入门 - LLM 信息概览
在阅读本文之前，建议阅读文章：《GPT，GPT-2，GPT-3，InstructGPT的进化之路》 本文将介绍以下 LLM OPT LLaMa Alpaca Vicuna Moss chatGLM Baichuan Openbuddy 一、OPT...
-
微调Whisper语音识别模型和加速推理
前言 OpenAI在开源了号称其英文语音辨识能力已达到人类水准的Whisper项目，且它亦支持其它98种语言的自动语音辨识。Whisper所提供的自动语音识与翻译任务，它们能将各种语言的语音变成文本，也能将这些文本翻译成英文。本项目主要的目的是为了对W...
-
AIGC视频生成/编辑技术调研报告
人物AIGC：FaceChain人物写真生成工业级开源项目，欢迎上github体验。 简介： 随着图像生成领域的研究飞速发展，基于diffusion的生成式模型取得效果上的大突破。在图像生成/编辑产品大爆发的今天，视频生成/编辑技术也引起了学术界和产...
-
OpenAI 上线新功能力捧 RAG，开发者真的不需要向量数据库了？
近期， OpenAI 的开发者大会迅速成为各大媒体及开发者的热议焦点，有人甚至发出疑问“向量数据库是不是失宠了？” 这并非空穴来风。的确，OpenAI 在现场频频放出大招，宣布推出 GPT-4 Turbo 模型、全新 Assistants API 和一系...
-
Visutal Studio2022 如何使用Github copilot
visual studio 2019 升级最新版本的2019也并没有搜索到，直接升级到visual studio 2022，看发布介绍也是2022的copilot Copilot 是一款由 OpenAI 开发的基于 GPT 模型的代码生成工具，可帮助开发...
-
AI 绘画Stable Diffusion 研究（三）sd模型种类介绍及安装使用详解
本文使用工具，作者:秋葉aaaki 免责声明: 工具免费提供 无任何盈利目的 大家好，我是风雨无阻。 今天为大家带来的是 AI 绘画Stable Diffusion 研究（三）sd模型种类介绍及安装使用详解。 目前，AI 绘画Stable Diff...
-
利用AIGC做副业，月入过万不是梦
文章目录 背景 为什么是写作 如何操作 申请各大创作平台的账号 吸引人关注，增加粉丝 利用AIGC来创作 看看其他好友分享的收入情况 当然还有一些大神级别的人物。 背景 最近，尝试利用AIGC在头条号、微信公众号上开始写文章，...
-
[算法前沿]--000-大模型LLaMA在docker环境搭建以及运行教程（含模型压缩）
文章目录 LLaMA 论文 步骤 搭建步骤 运行7B模型 运行13B模型 未来已来,大模型依据压缩模型的方式,可以在普通的PC上运行. LLaMA Facebook的LLaMA 模型和Georgi Gerganov 的ll...
-
开源一键拥有你自己的ChatGPT+Midjourney网页服务,用不用是另一回事，先收藏！
功能支持 原ChatGPT-Next-Web所有功能 midjourney imgine 想象 midjourney upscale 放大 midjourney variation 变幻 midjourney describe 识...
-
Meta 工程师：明年全球 AI 推理用电量仅需新增两座核电站即可满足
11 月 14 日消息，Meta 生成式人工智能工程总监谢尔盖・埃杜诺夫近日在硅谷数字工人论坛上分享了他对人工智能推理需求的预测。他认为，明年全球新增的人工智能应用推理需求，如果使用合理规模的语言模型，仅需两座核电站的发电量就可以满足。 人工智能推理是...
-
微软AI研究提出AI模型HMD-NeMo：可基于部分手部动作准确生成全身动作
在混合现实场景中，生成准确和真实的全身虚拟角色动作一直是一个持久性的挑战。传统解决方案通常使用头戴式设备（HMDs），依赖有限的输入信号，如头部和手部的6自由度(DoF 。然而，最近的进展在从头部和手部信号生成全身动作方面取得了令人印象深刻的表现。然而，它...
-
手把手教你搭建微信聊天机器人系列（一）：文心一言（百度千帆ERNIE-Bot大模型）API测试
今年年初chatgpt大火，国产gpt文心一言也提供了内测服务，大家可以去访问官网申请体验。文心一言APP上的功能更加强大，可以看这个测评文章。作为程序猿的我们，想接入文心一言的能力，比如开发一个聊天机器人，要怎么做呢？百度在其开发者平台开...
-
Meta工程师称全球AI推理用电仅需新增两座核电站即可满足
近日，Meta公司的生成式人工智能工程总监谢尔盖·埃杜诺夫在硅谷数字工人论坛上透露，为满足明年全球不断增长的人工智能应用推理需求，仅需新增两座核电站的发电量即可。 埃杜诺夫表示，他仅通过简单的数学计算得出这个结果。他专门分析了人工智能“推理”阶段的用电量。...
-
在 Visual Studio 2022 中使用 GitHub Copilot chat
本文通过实际应用场景和示例代码展示了 GitHub Copilot Chat 在 Visual Studio 2022 中的优势和特点。最后，鼓励读者在实际工作中尝试使用 Copilot Chat，以提升开发效率和代码质量。希望这些信息和经验能为你在使用G...
-
LLM系列 | 19 : Llama 2实战(上篇)-本地部署(附代码)
简介 小伙伴们好，我是《小窗幽记机器学习》的小编：卖热干面的小女孩。紧接前文：万字长文细说ChatGPT的前世今生，后续会尝试以理论+实践的方式逐步对主流的各大LLM进行实测和汉化。今天这篇关于Llama2的小作文其实比较长，所以分为上下两篇，上篇...
-
OpenAI新功能揭秘：多模态时代的到来
作者 | 崔皓 审校 | 重楼 摘要 本文介绍了OpenAI的最新进展，重点关注其在多模态技术领域的突破。文章首先探讨了GPT-4 Turbo模型的优化和多模态功能的融合，如图像生成和文本到语音转换。随后，作者深入解析多模态技术的工作原理，特别是文本到图...
-
【PaLM2】PaLM2 大语言模型与 Bard 使用体验
欢迎关注【youcans的学习笔记】原创作品，火热更新中 【Google I/O 2023】PaLM2 大语言模型与 Bard 使用体验 1. PaLM2 大型语言模型 1.1 谷歌发布 PaLM2 1.2 PaLM2 的功能与性能...
-
关于AI 绘画，我给你总结了一份详细的关键词（Prompt 知识）
写在前面 随着人工智能技术的不断发展，越来越多的应用场景被发掘。其中，AI绘画是一种新兴的领域，其应用范围涵盖了数字媒体、游戏设计、动画制作、艺术创作等多个领域。在本文中，我们将介绍AI绘画的基本概念、发展历程、技术原理以及应用前景。 基本概念...
-
openai开源的whisper在huggingface中使用例子（语音转文字中文）
openai开源的语音转文字支持多语言在huggingface中使用例子。 目前发现多语言模型large-v2支持中文是繁体，因此需要繁体转简体。 后续编写微调训练例子 GitHub地址： https://github.com/openai/whispe...
-
[深度学习]stable diffusion的提示词总结
1、提升画面质量的提示词： HDR, HD，UHD, 64K (HDR、UHD、4K、8K和64K 表示图片效果，带来的改变可以试试，不过也会影响渲染出图的时间，会根据你要求的画面质量延长时间。 Highly detailed 增加很多的细节，有时候描述...
-
自动代码Copilot背后的模型
文章目录 1.引入 2.评估框架 3.评估数据集 4.模型方法 5.实验结果 6.总结 7.参考 之前，我已经介绍过Github发布的自动代码Copilot的使用方法，感兴趣的可以看这篇文章：Copilot要收费了？ 今天主要介绍一...
-
谷歌DeepMind爆火动画18秒解释LLM原理，网友蒙圈！组团求GPT-4下场分析
Google DeepMind最近在自己的视频博客上上传了一段视频，「简单明了地」演示了大语言模型的工作原理，引发了网友的激烈讨论。 网友看了之后纷纷表示： 「终于，他们发了点普通人能看懂的东西了」。 「哦豁，这下懂了」 「对，就是这么简单！」 「太...
-
如何申请文心一言&文心千帆大模型API调用资格、获取access_token，并使用SpringBoot接入文心一言API
前段时间，百度文心一言&文心千帆大模型开放了API调用的测试，接下来，教大家申请测试资格并接入文心千帆大模型的API。 一、文心一言&文心千帆的测试资格申请 1. 确保拥有一个百度智能云的账号 右上角点击注册，内容如实填写并完成实...
-
[大模型] 搭建llama主流大模型训练环境
关键词：大模型，LLAMA，CUDA，模型训练 1. 基础环境 OS： Ubuntu 18.04GPU： 4*A100(40G (单机4卡A100 40G CUDA：11.7cuDNN： 8.4.1 (需要登录官网后下载 nccl： 2.12.12...
-
零基础手把手教你如何使用Laf免费玩转Midjourney
一、什么是Laf？ Laf 是一个 Serverless 框架，提供开箱即用的云函数，云数据库，对象存储等能力，是一个非常干净清爽的开发平台，不仅入门简单，还能像写博客一样写代码！最重要的是，敲重点，三分钟即可上线 ChatGPT 应用！ 若想深入了解...
-
全方位深度测评AI代码助手Amazon CodeWhisperer
背景 随着互联网技术的不断发展，程序员们面临着越来越多的挑战，如代码复杂度不断提高、代码错误难以避免、团队协作效率低下等。传统的开发工具已经无法满足程序员们的需求，因此这几年基于人工智能技术的代码助手应运而生。AI代码助手的目的是通过自动化的方式帮助程...
-
【文末送书】AIGC时代的数据分析与可视化
欢迎关注博主 Mindtechnist 或加入【智能科技社区】一起学习和分享Linux、C、C++、Python、Matlab，机器人运动控制、多机器人协作，智能优化算法，滤波估计、多传感器信息融合，机器学习，人工智能等相关领域的知识和技术。搜索关注公粽号...
-
LLaMA系列 | LLaMA和LLaMA-2精简总结
文章目录 1、LLaMA 1.1、模型结构 1.2、训练方式 1.3、结论 2、LLaMA-2 2.1、相比LLaMA1的升级 2.3、模型结构 2.3.1、MHA, MQA, GQA区别与联系 2.4、训练方式 1、L...
-
NLP实践——Llama-2 多轮对话prompt构建
NLP实践——Llama-2 多轮对话prompt构建 1. 问题提出 2. prompt的正确形式 3. 效果测试 4. 结尾 1. 问题提出 最近，META开源了Llama-2模型，受到了广泛的关注和好评，然而，在官方给的使用...
-
语言作“纽带”，拳打脚踢各模态，超越Imagebind
北大联合腾讯打造了一个多模态15边形战士！ 以语言为中心，“拳打脚踢”视频、音频、深度、红外理解等各模态。 具体来说，研究人员提出了一个叫做LanguageBind的多模态预训练框架。 用语言作为与其它模态之间的纽带，冻结语言编码器，然后用对比学习方法...
-
1分钟诞生一个新GPT！3天内定制GPT大爆发，理想型男友、科研利器全网刷屏
1分钟诞生一个新的GPT！ 不到一周的时间，各种定制GPT全球大爆发，增长速度已经完全超乎所有人的想象。 这恰恰，印证了Altman在开发者大会所说的一句话，「我们正在孕育新物种，它们正在迅速增殖。」 全网都在唱衰Agent初创公司，甚至就连开发者的...
-
调用百度文心AI作画API实现中文-图像跨模态生成
作者介绍 乔冠华，女，西安工程大学电子信息学院，2020级硕士研究生，张宏伟人工智能课题组。 研究方向：机器视觉与人工智能。 电子邮件：1078914066@qq.com 一．文心AI作画API介绍 1. 文心AI作画 文心ERNIE-...
-
Text-to-SQL小白入门（五）开源最强代码大模型Code Llama
摘要 本文介绍了Code Llama大模型的基本概括，包含了论文的摘要、结果、结论以及核心方法，对于了解和实践Code Llama有一定帮助。 论文概述 上一篇介绍了指令进化大模型WizardLM，留了一个坑，补上Code Llama论文学习，...
-
五个可以无限免费的AI写作工具
目前有不少优秀的AI写作助手工具,为用户提供免费的写作生成服务。我推荐5个无限免费的AI写工具如下: 1. ChatGPT: 这是OpenAI研发的大规模语言模型,可以进行智能写作和创意脑storm。它可以根据提示生成不同格式、风格的长文本,如故事、说...
-
[大模型] LLaMA系列大模型调研与整理-llama/alpaca/lora（部分）
文章目录 LLaMA大模型及其衍生模型 1. LLaMA 2. stanford_alpaca 3. ChatDoctor 4. alpaca-lora 5. Chinese-LLaMA-Alpaca 6. BELLE 大模型综述 A Su...
-
文心大模型使用——文心一言API
文章目录 0 前置操作 1 单轮对话 2 多轮对话 3 流式单轮对话 4 流式多轮对话 整体流程 0 前置操作 API_KEY、SECRET_KEY自行购买 import requests import json impor...
-
Meta的LLama模型非官方下载方法
简介 Llama模型是一个用于自然语言处理的大型语言模型，它由Meta AI开发，拥有65亿个参数。该模型的目的是帮助研究者在AI的子领域中推进他们的工作。Llama模型结构巨大，最小的模型LLaMA 7B也经过了超过1万亿个代币的训练。Llama模型...
-
【AIGC】BaiChuan7B开源大模型介绍、部署以及创建接口服务
模型介绍 baichuan-7B是由百川智能开发的一个开源的大规模预训练模型。基于Transformer结构，在大约1.2万亿tokens上训练的70亿参数模型，支持中英双语，上下文窗口长度为4096。在标准的中文和英文权威benchmark（C-EV...
-
AIGC 爆火，浪潮信息要做大模型的数据存储大底座
AIGC 在 2023 年爆火，各类大模型层出不穷，参数动辄达到千亿数量级。这些背后，数据的类型和形式也走向复杂多样。例如大模型会采用到我们真实物理世界中的文字、视觉、音频、3D、雷达、多谱等复杂多样的不同模态信号和数据，数据则又存在结构化、半结构化、非结...
-
【人工智能】ChatGTP从入门到精通
当谈论自然语言处理和文本生成技术时，Chat GPT 是一个备受瞩目的话题。作为一种基于深度学习的语言模型，Chat GPT 在近几年里已经展现出了惊人的能力，可以生成几乎无法区分与人类写作的文本，并在自然语言处理领域的各种任务中都表现出色。Chat GP...
-
Meta 推出的 LLaMA 大语言模型部署教程
Facebo推出的LLaMA模型 简介： LLaMA（Lager Language Model From Meta），这是一个从7B到65B参数的基础语言模型的集合。它在数万亿的文本tokens上训练的模型，并表明在不求助于专有和不可访问的数据集，而仅...
-
Stable Diffusion之Scheduler模块比对生成结果
项目场景： 替换Stable Diffusion的Scheduler模块并对结果进行分析 diffusers包含多个用于扩散过程的预置scheduler function，用于接收经过训练的模型的输出，扩散过程正在迭代的样本，以及返回去噪样本的...
-
大语言模型之十五-预训练和监督微调中文LLama-2
这篇博客是继《大语言模型之十二 SentencePiece扩充LLama2中文词汇》、《大语言模型之十三 LLama2中文推理》和《大语言模型之十四-PEFT的LoRA》 前面博客演示了中文词汇的扩充以及给予LoRA方法的预训练模型参数合并，并没有给出Lo...