-
【书籍】强化学习第二版（英文版电子版下载、github源码）-附copilot翻译的中英文目录...
Python代码：https://github.com/ShangtongZhang/reinforcement-learning-an-introduction 英文原版书籍下载：http://incompleteideas.net/bo...
-
.Net接入AzureOpenAI、OpenAI、通义千问、智谱AI、讯飞星火、文心一言大语言模型。
前言 现在在网上搜索.NET接入大模型的帖子很少，有些官方案例只提供java和python的SDK，所以有了这篇.Net的接入大模型文章，目前仅实现对话模型的调用。 这里仅举例通义千问，其他模型实现可以参考Gi他Hub 对您有帮助的话帮忙点个star...
-
引言:ChatGPT与AIGC技术的发展与应用
1.背景介绍 1. 背景介绍 自2012年的AlexNet成功地赢得了ImageNet Large Scale Visual Recognition Challenge(ILSVRC ，深度学习技术开始引以为奉。随着算法的不断发展和优化，深度...
-
【网安AIGC专题10.19】论文6（顶会ISSTA 2023）：提出新Java漏洞自动修复数据集：数据集 VJBench+大语言模型、APR技术+代码转换方法+LLM和DL-APR模型的挑战与机会
How Effective Are Neural Networks for Fixing Security Vulnerabilities 写在最前面 摘要 贡献 发现 介绍 背景：漏洞修复需求和Java漏洞修复方向 动机 方法 贡献...
-
【深度学习】AIGC ，ControlNet 论文，原理，训练，部署，实战，教程（一）
论文：https://arxiv.53yu.com/pdf/2302.05543 代码：https://github.com/lllyasviel/ControlNet 得分几个博客完成这个事情的记录了，此篇是第一篇，摘录了一些论文内容。ControlN...
-
Android 拍照以及相册中选择(适配高版本)————上传头像并裁剪(一)
前言 在项目研发中，相信大家都遇到过给用户增加头像照片的需求。 随着手机版本的不断更新，android 8、android 9、android 10、android 12、android 13、鸿蒙系统等等；遇到这个功能需...
-
AIGC: 关于ChatGPT中进行情感分析的功能
概念 GPT是基于大模型去进行的机器学习的训练，对于机器学习相关的概念它是比较了解的 比如: 文本的分类, 文本的情感分析等等 相关的机器学习的功能,GPT如何支持？是否有相关接口供我们调用? 有的，文档地址: https://platfor...
-
Code Llama 70B霸榜3连发，练习5个月击败GPT-4！小扎LeCun亲自官宣上新
今天，Meta正式发布了Code Llama 70B，作为Code Llama系列中规模最大，性能最强的版本，一举击败了GPT-4！ 目前，模型共有三个版本，均可免费用于研究和商业目的： CodeLlama - 70B：基础代码模型； CodeLlama...
-
编程能力超GPT-4，羊驼代码版“超大杯”来了，小扎还亲自剧透Llama3
羊驼家族的“最强开源代码模型”，迎来了它的“超大杯”—— 就在今天凌晨，Meta宣布推出Code Llama的70B版本。 图片 在HumanEval测试中，Code Llama-70B的表现在开源代码模型中位列第一，甚至超越了GPT-4。 此次发布的超...
-
Unity3d引擎中使用AIGC生成的360全景图(天空盒)
前言 在这里与Skybox AI一起，一键打造体验无限的360°世界，这是这个AIGC一键生成全景图的网站欢迎语。 刚使用它是23年中旬，在没有空去给客户实地拍摄全景图时，可以快速用它生成一些相关的全景图，用作前期沟通的VR demo。当时使用所有都...
-
【AIGC】从零手写一个GPT
手写一个GPT 在GPT，确切的说是Transformer，出现之前，一个问题长久地困扰着人们——如何让两句内容不同、但语义相近的句子得到较为接近的表示。 比如我们有两句话 我喜欢你 吾中意你 它们作为句子内容并不一样，但是表达的含义却...
-
全球代码质量骤降，罪魁祸首竟是AI！1.53亿行代码深度分析报告出炉
AI正在使全球的代码质量下降！ 最近，GitClear发布的一项调查报告显示，用AI写代码，会让代码的质量和可维护性不断下降。 这引起了全网热烈讨论： 「借助AI提供商，您可以将代码生成速度提高50%（即使是您不理解或无法编写的代码），但代价是代码的质...
-
Stable Diffusion XL总结
Stable Diffusion XL是一个二阶段的级联扩散模型，包括Base模型和Refiner模型。其中Base模型的主要工作和Stable Diffusion一致，具备文生图，图生图，图像inpainting等能力。在Base模型之后，级联了Refi...
-
AIGC智能编程：提高编程效率与代码质量的安全可靠之选
AIGC智能编程的安全性和可靠性如何？ 介绍 随着人工智能技术的不断发展，AIGC（Artificial Intelligence Guided Coding）智能编程成为了越来越热门的领域。AIGC智能编程是指利用人工智能技术来辅助编写代码，提高编...
-
GitHub Copilot Labs 体验「收手吧，外面全是 ChatGPT」
本文正在参加 ✍? 技术视角深入 ChatGPT 征文活动 相信大家或多或少都体验过了 ChatGPT，或者更进一步，在 IDE 中也装上了对应的插件 不过真正在 coding 中用上的频率有多高呢？可能大多数人都只是尝个鲜然后就忘了，至少就我而...
-
高效底座模型LLaMA
论文标题：LLaMA: Open and Efficient Foundation Language Models 论文链接：https://arxiv.org/abs/2302.13971 论文来源：Meta AI 一、概述 大型语...
-
使用推测解码 (Speculative Decoding) 使 Whisper 实现 2 倍的推理加速
Open AI 推出的 Whisper 是一个通用语音转录模型，在各种基准和音频条件下都取得了非常棒的结果。最新的 large-v3 模型登顶了 OpenASR 排行榜，被评为最佳的开源英语语音转录模型。该模型在 Common Voice 15 数据...
-
【AIGC入门一】Transformers 模型结构详解及代码解析
Transformers 开启了NLP一个新时代，注意力模块目前各类大模型的重要结构。作为刚入门LLM的新手，怎么能不感受一下这个“变形金刚的魅力”呢？ 目录 Transformers ——Attention is all You Need 背景...
-
倚天屠龙：Github Copilot vs Cursor
武林至尊，宝刀屠龙。号令天下，莫敢不从。倚天不出，谁与争锋！ 作为开发人员吃饭的家伙，一款好的开发工具对开发人员的帮助是无法估量的。还记得在学校读书的时候，当时流行CS架构的RAD，Delphi和VisualBasic大行其道。就因为Delphi开发快，...
-
CodeOps：使用LLM和模块化编码加快开发进程
译者 | 布加迪 审校 | 重楼 2009年，DevOps（开发运维）作为一种运维模型而出现，适用于想要充分发挥敏捷软件开发方法潜力的团队。它使这些团队能够尽快地构建和部署，为快速、迭代的开发建立一种新的范式。 随之而来的是全球软件开发的爆炸式增长，D...
-
大模型推理速度飙升3.6倍，「美杜莎」论文来了，贾扬清：最优雅加速推理方案之一
如你我所知，在大型语言模型（LLM）的运行逻辑中，随着规模大小的增加，语言生成的质量会随着提高。不过，这也导致了推理延迟的增加，从而对实际应用构成了重大挑战。 从系统角度来看，LLM 推理主要受内存限制，主要延迟瓶颈源于加速器的内存带宽而非算术计算。这一...
-
使用SPIN技术对LLM进行自我博弈微调训练
2024年是大型语言模型(llm 的快速发展的一年，对于大语言模型的训练一个重要的方法是对齐方法，它包括使用人类样本的监督微调(SFT 和依赖人类偏好的人类反馈强化学习(RLHF 。这些方法在llm中发挥了至关重要的作用，但是对齐方法对人工注释数据有的大...
-
消灭「幻觉」！谷歌全新ASPIRE方法让LLM给自己打分，效果碾压10x体量模型
大模型的「幻觉」问题马上要有解了？ 威斯康星麦迪逊大学和谷歌的研究人员最近开发了一个名为ASPIRE的系统，可以让大模型对自己的输出给出评分。 如果用户看到模型的生成的结果评分不高，就能意识到这个回复可能是幻觉。 如果系统可以进一步筛选评分的结果进行输...
-
ChatGPT无法胜任的五种编程任务
作者丨Nate Rosidi 译者 | 布加迪 审校 | 重楼 出品 | 51CTO技术栈（微信号：blog51cto） 我喜欢把ChatGPT看作是StackOverflow的智能版，它大有帮助，但短期内不会取代专业人士。作为一名前数据科学家，Cha...
-
AIGC专栏2——Stable Diffusion结构解析-以文本生成图像（文生图，txt2img）为例
AIGC专栏2——Stable Diffusion结构解析-以文本生成图像（文生图，txt2img）为例 学习前言 源码下载地址 网络构建 一、什么是Stable Diffusion（SD） 二、Stable Diffusion的组成 三、生...
-
LCM-LoRA：通用stable diffusion 加速模块！2023.11.13顶会论文速递！
整理：AI算法与图像处理 欢迎关注公众号 AI算法与图像处理，获取更多干货： 推荐 微信交流群现已有2000+从业人员交流群，欢迎进群交流学习，微信：nvshenj125 B站最新成果demo分享地址：https://s...
-
AIGC的底层核心结构Transformer是如何彻底改变NLP游戏规则的？OJAC近屿智能带你一探究竟
Look！?我们的大模型商业化落地产品 ?更多AI资讯请??关注 Free三天集训营助教在线为您火热答疑??? 没有Transformer，就没有NLP的突破，听起来有些夸张，但事实确实如此。什么是Transformer？Transforme...
-
Stable Diffusion 源码解析（1）
参考1：https://blog.csdn.net/Eric_1993/article/details/129393890 参考2：https://zhuanlan.zhihu.com/p/613337342 1.StableDiff...
-
[NLP]LLaMA与LLamMA2解读
摘要 Meta最近提出了LLaMA(开放和高效的基础语言模型 模型参数包括从7B到65B等多个版本。最值得注意的是，LLaMA-13B的性能优于GPT-3，而体积却小了10倍以上，LLaMA-65B与Chinchilla-70B和PaLM-540B具有竞...
-
AIGC: 关于ChatGPT中基于Whisper模型实现音频转文本
概述 到目前，GPT只能去接收文本的输入，但是在现实的生活当中，会有语音的需求 GPT也有相关的能力接入，我们就需要一个能够将语音内容转换成文本的能力 当然其他第三方的软件或者接口也是支持这个功能 在 Open AI 有一个语音转文本的模型叫...
-
AIGC：使用生成对抗网络GAN实现MINST手写数字图像生成
1 生成对抗网络 生成对抗网络（Generative Adversarial Networks, GAN）是一种非常经典的生成式模型，它受到双人零和博弈的启发，让两个神经网络在相互博弈中进行学习，开创了生成式模型的新范式。从 2017 年以后，GAN相...
-
2023年的深度学习入门指南(24) - 处理音频的大模型 OpenAI Whisper
2023年的深度学习入门指南(24 - 处理音频的大模型 OpenAI Whisper 在这一讲之前，我们所用的大模型都是针对文本的。这一讲我们增加一个新的领域，即音频。我们将介绍OpenAI的Whisper模型，它是一个处理音频的大模型。 Wh...
-
Tokenization 指南：字节对编码，WordPiece等方法Python代码详解
在2022年11月OpenAI的ChatGPT发布之后，大型语言模型(llm 变得非常受欢迎。从那时起，这些语言模型的使用得到了爆炸式的发展，这在一定程度上得益于HuggingFace的Transformer库和PyTorch等库。 计算机要处理语言，...
-
【生成模型】Stable Diffusion原理+代码
文章目录 前言 一、Latent space 二、AutoEncoder 和 VAE 1.AutoEncoder: 2.VAE： 三、Diffusion扩散模型 1.前向过程 2.逆向过程 四、多模态 cross attention 五...
-
[玩转AIGC]LLaMA2训练中文文章撰写神器（数据准备，数据处理，模型训练，模型推理）
目录 一、下载并加载中文数据集 二、中文数据集处理 1、数据格式 2、数据集处理之tokenizer训练格式 1）先将一篇篇文本拼凑到一起（只是简单的拼凑一起，用于训练tokenizer） 2）将数据集进行合并 3、数据集处理之模型（ll...
-
LLM系列 | 22 : Code Llama实战(下篇)：本地部署、量化及GPT-4对比
引言 模型简介 依赖安装 模型inference 代码补全 4-bit版模型 代码填充 指令编码 Code Llama vs ChatGPT vs GPT4 小结 引言 青山隐隐水迢迢，秋尽江南草未凋。...
-
Transformer的无限之路：位置编码视角下的长度外推综述
在自然语言处理（Natural Language Processing，NLP）领域，Transformer 模型因其在序列建模中的卓越性能而受到广泛关注。然而，Transformer 及在其基础之上的大语言模型（Large Language Model...
-
大模型部署手记（13）LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+LangChain+摘要问答
1.简介： 组织机构：Meta（Facebook） 代码仓：GitHub - facebookresearch/llama: Inference code for LLaMA models 模型：chinese-alpaca-2-7b-hf、text...
-
如何高效部署大模型？CMU最新万字综述纵览LLM推理MLSys优化技术
在人工智能（AI）的快速发展背景下，大语言模型（LLMs）凭借其在语言相关任务上的杰出表现，已成为 AI 领域的重要推动力。然而，随着这些模型在各种应用中的普及，它们的复杂性和规模也为其部署和服务带来了前所未有的挑战。LLM 部署和服务面临着密集的计算强...
-
LLMs之LLaMA-2：LLaMA-2的简介(技术细节)、安装、使用方法(开源-免费用于研究和商业用途)之详细攻略
LLMs之LLaMA-2：LLaMA-2的简介(技术细节 、安装、使用方法(开源-免费用于研究和商业用途 之详细攻略 导读：2023年7月18日，Meta重磅发布Llama 2！这是一组预训练和微调的大型语言模型（LLM），规模从70亿到700亿个...
-
AI聊天机器人，一个就够了：文心一言、讯飞星火、通义千问AI聊天机器人深度对比（一）
一些结论 本次为第一部分的测评，综合结论：讯飞星火 > 文心一言 = 通义千问。 文本生成能力：文心一言 = 讯飞星火 > 通义千问，讯飞星火表现亮眼，文心一言作为国内AI聊天机器人的先发者，在创意写作方面略不尽如人意。 代...
-
GitHub Copilot 替代品？
应该没人不知道代码补全这个东西了吧，第一次使用 GitHub Copilot 之后，只觉得真香，现在居然还有一点离不了了。后面因为收费原因，就没再用了，找了一个 tabnine 替代，用了几天，体验是真的比不上 GitHub Copilot。 现在市面上...
-
GauHuman开源：基于Gaussian Splatting，高质量3D人体快速重建和实时渲染框架
论文名称：GauHuman: Articulated Gaussian Splatting from Monocular Human Videos 论文下载地址：https://arxiv.org/abs/2312.02973 项目主页：https...
-
AIGC之论文笔记DALL-E
文章目录 Zero-Shot Text-to-Image Generation 一. 简介 二. 方法 2.1. 第一阶段：Learning the visual codebook 2.1.1 回顾VQ-VAE 2.1.2...
-
爬虫数据采集基础
目录 浏览器插件 极简插件 fake_useragent模块 爬虫通讯原理 HTTP 和 HTTPS 请求 响应 会话和Cookies 无状态HTTP socket介绍 七层协议： 流程图 请求报文格式 使用socke...
-
AIGC之文本内容生成概述（下）——Transformer
在上一篇文章中，我们一口气介绍了LSTM、Word2Vec、GloVe、ELMo等四种模型的技术发展，以及每种模型的优缺点与应用场景，全文超过一万字，显得冗长且繁杂，在下文部分我们将分开介绍Transformer、BERT、GPT1/GPT2/GPT3/C...
-
Llama~transformers搭建
本例从零开始基于transformers库逐模块搭建和解读Llama模型源码(中文可以翻译成羊驼 。 并且训练它来实现一个有趣的实例：两数之和。 输入输出类似如下： 输入："12345+54321=" 输出："66666" 我们把这个任务当做一个...
-
万字长文谈自动驾驶BEV感知
本文经自动驾驶之心公众号授权转载，转载请联系出处。 prologue 这有可能是更的最长的文章系列了，先说为什么，一方面是看到分割大模型对小模型的提升效果需要时间，另一方面是之前对自动驾驶的BEV算法做了很长时间的预研，自己也应该好好梳理一下了。 （很...
-
爬虫技术——一篇全搞定！
目录： 目录 目录： 1. 爬虫介绍 1.1 爬虫是什么 1.2 爬虫步骤 1.3 爬虫分类 1.3.1 通用爬虫 1.3.2 聚焦爬虫 编辑 1.4 一些常见的反爬手段 2. Urllib 2.1 urllib库的使用 2...
-
AI平台：aiXcoder
aiXcoder智能软件开发工具 intelligent software development tool. What is aiXcoder?aiXcoder is an innovative, intelligent programming robo...