-
近期关于AIGC方面的学习笔记和思路整理
LLM 对于LLM，我现在重点关注在这几个方面： 开源且可私有化部署的代码生成模型： 因为大部分软件企业对于安全都很重视，文档、数据、代码一般都会尽量避免被泄露。所以很难使用类似Copilot或者OpenAI的Bito这种需要连到互联网上的服务。如果...
-
扩展说明: 指令微调 Llama 2
这篇博客是一篇来自 Meta AI，关于指令微调 Llama 2 的扩展说明。旨在聚焦构建指令数据集，有了它，我们则可以使用自己的指令来微调 Llama 2 基础模型。 目标是构建一个能够基于输入内容来生成指令的模型。这么做背后的逻辑是，模型如此...
-
一图揽尽全球LLM崛起之路；LLM概念速查清单；DALL·E提示词红宝书·在线版；fast.ai新课带你从零实现Stable Diffusion | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? LLM 崛起之路：全球大语言模型「规模增长」可视化交互图 https://informationisbeautiful.net/visual...
-
周鸿祎谈Sora模型：中美AI差距可能还在加大
2月17日消息，近日，OpenAI 发布了 Sora 模型，该模型可根据用户输入的文本提示词描述，生成一段60秒钟的视频内容。从OpenAI公开的演示视频来看效果非常超现实。 昨日，360董事长周鸿祎在微博发文，谈到OpenAI的文字转视频模型Sora。他...
-
驾辰龙跨Llama持Wasm，玩转Yi模型迎新春过大年（上）
大年初一，看着春晚迎新年。今年新年很特别，AI工具添光彩。今天就来感受下最新的AI神器天选组合“WasmEdge+Yi-34B”，只要短短三步，为这个甲辰龙年带来一份九紫离火运的科技感。 环境准备 这次用的算力是OpenBayes提供的英伟达RTX_4...
-
ChatGPT论文：大语言模型LLM之战:Dolly、LLaMA 、Vicuna、Guanaco、Bard、ChatGPT--在自然语言转SQL(NL2SQL、Text-to-SQL)的比较（二）
3 评价结果 3.1 Spider 数据集 表 2 列出了各种提示策略和模型组合的执行准确性 (EX 和测试套件 (TS 的准确性。我们的主要发现是： 开源模型在 Spider 数据集上遇到了困难：尽管参数数量和模型性能之间存在正相关关系...
-
从声音到形象，AIGC 赋能的 TT 语音年度盛典有多好玩？
摘要： 23年是 AIGC 暴热的一年，这一年我们既兴奋又彷徨。兴奋之处在于新技术持续突破，业界“百模大战”的白热化，一些创新应用开始崭露头角，例如 ChatGPT 和 DALL·E 3，Midjourney，HeyGen， 星野，Copilot 等。彷...
-
在人工智能时代，Django + 简单的 HTML + Whisper + mixtral-8x7b-instruct + SQLite 实现了一个 TODO应用
这里写自定义目录标题 构建 AI-powered TODO 应用 新的思考 构建 AI-powered TODO 应用 人工智能TODO应用程序演示https://ivan-tolkunov–surukoto-run.modal....
-
免费的实时AI编程助手：Amazon CodeWhisperer使用体验
文章目录 前言 什么是 Amazon CodeWhisperer Amazon CodeWhisperer功能特性 Amazon CodeWhisperer安装配置 Amazon CodeWhisperer本地初体验 AWS Cod...
-
LLMs之Llama2 70B：使用 PyTorch FSDP 微调 Llama 2 70B实现全部过程讲解之详细攻略
LLMs之Llama2 70B：使用 PyTorch FSDP 微调 Llama 2 70B实现全部过程讲解之详细攻略 目录 使用 PyTorch FSDP 微调 Llama 2 70B 引言 FSDP 工作流 使用的硬件 微调 LLa...
-
每日互动（个推）CTO叶新江：AIGC时代，大模型推动数据要素商业化
ChatGPT在一夜之间火爆互联网，让AIGC受到世界范围内的高度关注。时至今日，AIGC热度持续高涨，各大互联网公司争相布局这一领域。日渐成熟的技术、显著的降本增效优势以及日益增长的市场需求等因素，已经推动AIGC成为互联网公司新一轮必争之地。 在近期...
-
读懂ChatGPT、AIGC和元宇宙
参考来源： 书名：一本书读懂ChatGPT、AIGC和元宇宙 作者：王喜文 出版社：电子工业出版社 出版时间：2023年5月 ISBN：9787121453571 斯克称ChatGPT将颠覆世界； 微软为ChatGPT投资数百亿美元， 并计划将其整...
-
LLaMA 入门指南
LLaMA 入门指南 LLaMA 入门指南 LLaMA的简介 LLaMA模型的主要结构 Transformer架构 多层自注意力层 前馈神经网络 Layer Normalization和残差连接 LLaMA模型的变体 Base版本 La...
-
英伟达官宣AI聊天机器人，本地RTX显卡运行，这是要挑战OpenAI？
OpenAI 进军芯片领域，英伟达自己造聊天机器人，这是 Sam vs Jensen 的时代? 下载地址:https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/ 在这波 AI...
-
LLM自动进行数据分析-论文《Data-Copilot: Bridging Billions of Data and Humans with Autonomous Workflow》笔记
文章目录 概要 接口设计Interface Design Explore Data by Self-Request Interface definition Interface Merging Interface Implementation...
-
19｜Whisper+ChatGPT：请AI代你听播客
今天，我们的课程开始进入一个新的主题了，那就是语音识别。过去几周我们介绍的 ChatGPT 虽然很强大，但是只能接受文本的输入。而在现实生活中，很多时候我们并不方便停下来打字。很多内容比如像播客也没有文字版，所以这个时候，我们就需要一个能够将语音内容转换成...
-
揭开向量索引概念的神秘面纱
自从ChatGPT公开发布以来，人们几乎没有一天不讨论LLM（大型语言模型）、RAG（检索增强生成：Retrieval Augmented Generation）和向量数据库的新内容。技术世界充斥着LLM的可能性，LLM被视为将改变我们生活的最新技术：...
-
清华系2B模型杀出，性能吊打LLaMA-13B
2 月 1 日，面壁智能与清华大学自然语言处理实验室共同开源了系列端侧语言大模型 MiniCPM，主体语言模型 MiniCPM-2B 仅有 24 亿（2.4B）的非词嵌入参数量。 在综合性榜单上与 Mistral-7B 相近，在中文、数学、代码能力表现更...
-
GPT-4绝对性能暴涨74.4%！UIUC苹果华人团队提出CodeAct，用Python代码统一LLM智能体行动
一直以来，LLM智能体被众多业界AI大佬看好，甚至有望成为将人类从琐碎工作中解放出来的利器。 但是，它们该如何与世界进行最佳互动? 最近，来自UIUC和苹果的华人研究员，提出了一种全新的智能体框架——CodeAct。 它通过采用可执行的Python代码，来...
-
LLM是世界模型的新证据？ChatGPT能理解WiFi等物理信号，并猜出你的位置
大语言模型是否是世界模型? 大语言模型除了在数字世界完成如写作或翻译等任务，它们能否理解并处理物理世界中的信息并进而完成更广泛的任务呢? 最近来自香港科技大学（HKUST）、南洋理工大学(NTU 与加利福尼亚大学洛杉矶分校(UCLA 的研究者们提供了新的思...
-
大模型开车哪家强？普渡研究给指南：GPT-4真行啊
现在一句口令，就能指挥汽车了。 比如说声“我开会要迟到了”“我不想让我朋友等太久”等等，车就能理解，并且自动加速起来。 如果这次行程有不满意的，只需要给汽车提供反馈建议:“要在充分保障安全的前提下”，汽车的自动驾驶行为就会在下次行程中进行自我修正。 这是来...
-
每日一看大模型新闻（2023.12.13）趣味项目CLoT:训练LLM更幽默地回答问题；用RLHF 2%的算力让LLM停止有害输出，字节提出LLM遗忘学习；2.7B能打Llama 2 70B，微软祭出
1.产品发布 1.1 2.7B能打Llama 2 70B，微软祭出「小语言模型」 发布时间：2023-12-13 2.7B能打Llama 2 70B，微软祭出「小语言模型」！96块A100 14天训出Phi-2，碾压谷歌Gemini na...
-
【Copilot使用】
Copilot是什么 copilot有多火，1月4日，科技巨头微软在官网上宣布将为Windows 11 PC推出Copilot键。 Copilot是微软在Windows 11中加入的AI助手，该AI助手是一个集成了在操作系统中的侧边栏工具，可以帮助用户...
-
将AI融入CG特效工作流；对谈Dify创始人张路宇；关于Llama 2的一切资源；普林斯顿LLM高阶课程；LLM当前的10大挑战 | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? 将AI融入CG特效工作流，体验极致的效率提升 BV1pP411r7HY 这是 B站UP主 @特效小哥studio 和 @拓星研究所 联...
-
用通俗易懂的方式讲解：使用Llama-2、PgVector和LlamaIndex，构建大模型 RAG 全流程
近年来，大型语言模型（LLM）取得了显著的进步，然而大模型缺点之一是幻觉问题，即“一本正经的胡说八道”。其中RAG（Retrieval Augmented Generation，检索增强生成）是解决幻觉比较有效的方法。 本文，我们将深入研究使用trans...
-
AIGC内容分享(六十五)：AIGC是如何让1688主图焕发新春的 | 更换产品背景
目录 前言 一、整体方案 二、品质主图生产 三、品质主图投放 四、一些数据和线上case 五、立足当下 六、展望未来 更换产品背景 Step 01 Step 02 Step 03 Step 04 Step 05 前言 本...
-
LLaMA-Factory添加adalora
感谢https://github.com/tsingcoo/LLaMA-Efficient-Tuning/commit/f3a532f56b4aa7d4200f24d93fade4b2c9042736和https://github.com/huggingf...
-
OpenAI豪赌7万亿，能买4个英伟达！奥特曼芯片帝国占全球GDP 10%，或引世界经济末日？
昨天，Sam Altman筹资7万亿美元建芯片帝国的新闻一出，舆论哗然。 7万亿美元，是全球GDP的10%，大约是美国GDP的1/4，或者2/5个中国的GDP。 这个数字实在令人难以理解，除非OpenAI确信，自己的技术就从根本上重塑整个世界。否则，人...
-
国内大厂这么玩AI就对了！AI绘画版权攻防「黑魔法」；用AI赚到钱的人做对了什么；Agent机遇全解析；2024生成式AI学习路线图 | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? 小红书「AI涂鸦」，抖音「AI扩图」，国内大厂找到了AI正确打开方式 配图说明：小红书AI创作工具「此刻」 使用方式：点击首页底部「+」...
-
元壤教育“AIGC大模型应用开发工程师”课纲，学习这套课程就够了
元壤教育（公众号ID：yuanrang_edu）：专注于AIGC大模型应用开发工程师和AIGC+数字人全栈运营师就业培训，帮助3000万大学生和职业人士构建AIGC新职场的高速公路。 人工智能是新电力。正如大约 100 年前电力改变了许多行业一...
-
【ScienceAI Weekly】AI+生物凝聚物初创公司宣布裁员15%；科技部明确科研中的AIGC红线；讯飞医疗递表港交所
AI for Science 的新成果、新动态、新视角—— 全球首家将生物分子凝聚体应用于药物发现的公司，宣布裁减 18 个职位 谷歌 DeepMind 发布 AlphaGeometry Evaxion Biotech 宣布用 AI 开发定制癌症疫苗...
-
上海人工智能实验室发布LLaMA-Adapter | 如何1小时训练你的多模态大模型用于下游任务
本文首发于微信公众号 CVHub，未经授权不得以任何形式售卖或私自转载到其它平台，违者必究！ Title: LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-...
-
奥特曼7万亿美元芯片帝国野心曝光，OpenAI日产1000亿单词欲接管全世界！
【新智元导读】Sam Altman表示，自己需要7万亿美元建起全球的芯片帝国，他已经在全球搜罗金主，包括中东土豪。 就在刚刚，Sam Altman发推表示: 如今，OpenAI每天能够创造出约1000亿字的内容，而全世界的人类每天总共能产生约100万亿字。...
-
WhisperBot：整合了Mistral大型语言模型的实时语音转文本系统
项目简介 欢迎来到 WhisperBot。WhisperBot 基于 WhisperLive 和 WhisperSpeech 的功能而构建，在实时语音到文本管道之上集成了大型语言模型 Mistral (LLM 。WhisperLive 依赖于 OpenA...
-
AIGC｜LangChain新手入门指南，5分钟速读版！
如果你用大语言模型来构建AI应用，那你一定不可能绕过LangChain,LangChain是现在最热门的AI应用框架之一，去年年底才刚刚发布，它在github上已经有了4.6万颗星的点赞了，在github社区上，每天都有众多大佬，用它创造一些很新很酷的应用...
-
用通俗易懂的方式讲解：十分钟读懂 Stable Diffusion 运行原理
AIGC 热潮正猛烈地席卷开来，可以说 Stable Diffusion 开源发布把 AI 图像生成提高了全新高度，特别是 ControlNet 和 T2I-Adapter 控制模块的提出进一步提高生成可控性，也在逐渐改变一部分行业的生产模式。惊艳其出色表...
-
羊驼2:开放的基础和微调聊天模型--Llama 2论文阅读
论文地址：https://arxiv.org/pdf/2307.09288.pdfd 代码地址：GitHub - facebookresearch/llama-recipes: Examples and recipes for Llama 2 model...
-
新添“代理”概念，用 GitHub Copilot 追求极致编码智能
企业申请Azure OpenAI绿色通道 →记得评论私信~还可加入交流群~ 如果您前段时间关注了 GitHub Universe，您应该看到了人工智能在整个开发者工作流程中取得的巨大进展、创新和愿景。在这篇文章中，我们将专注于介绍过去几个月以来在...
-
AIGC（MLLM、VLM、LLM、SD）系列——论文解读目录
涉及面广：多模态生成模型——MLLM （ 目前集中在视觉语言模型——VLM）、大语言模型——LLM、生成模型（SD系列）、对比学习的经典模型（CLIP系列）。 持续更新：对于已经完成解读的会附上链接（有的会在一些场景做尝试，也会附上链接供大家快速参考结果...
-
AI新工具(20240203) 文心一言APP数字分身；HuggingChat Assistants等
文心一言APP数字分身-一键生成专属数字分身 文心一言数字分身是一项新功能，用户只需一张照片和录制三句语音，就能创建一个专属的数字分身。这个数字分身还支持个性化定义名称、声音、MBTI性格等，用户可以选择是否公开自己的数字分身。这个功能的上线大大缩短...
-
详解各种LLM系列｜LLaMA 1 模型架构、预训练、部署优化特点总结
作者 | Sunnyyyyy 整理 | NewBeeNLP https://zhuanlan.zhihu.com/p/668698204 后台留言『交流』，加入 NewBee讨论组 LLaMA 是Meta在2...
-
AIGC 语言大模型研究报告
AIGC 研究报告 这份报告可以被划分为两大部分。 第一部分集中于ChatGPT的发展和运作原理，为了增强理解，我们将先探讨自然语言处理的历史发展。 第二部分主要聚焦于由大模型引领的新的研究领域，并深入介绍在每个领域中可以进行的具体研究工作及思...
-
Llama-7b-hf和vicuna-7b-delta-v0合并成vicuna-7b-v0
最近使用pandagpt需要vicuna-7b-v0，重新过了一遍，前段时间部署了vicuna-7b-v3，还是有不少差别的，transforms和fastchat版本更新导致许多地方不匹配，出现很多错误，记录一下。 更多相关内容可见Fastchat实战...
-
中文LLaMa和Alpaca大语言模型开源方案 | 扩充中文词表 & 针对中文语料进行高效编码
欢迎关注『CVHub』官方微信公众号！ Title: Efficient and Effective Text Encoding for Chinese Llama and AlpacaPDF: https://arxiv.org/pdf/23...
-
使用 Amazon SageMaker 和 Amazon CodeWhisperer，解锁数据见解
关键字: [Amazon Web Services re:Invent 2023, Amazon Kendra, Generative Ai, Amazon Sagemaker, Amazon Kendra, Amazon Bedrock, Vector...
-
llama/llama2论文解读
llama 摘要 llama在约1.4T的token上，训练出参数量7B到65B的模型，其模型规模如下 在仅使用开源数据集的情况下，llama-13B在多数benchmarks上与GPT-3效果相当；llama-65B也与最好的模型（Chin...
-
苹果展示 AI 新模型 MGIE，可一句话精修图片
2 月 8 日消息，相比较微软的风生水起，苹果公司在 AI 领域的布局显得低调很多，但这并不意味着苹果在该领域就没有丝毫建树。苹果公司近日发布了名为“MGIE”的新型开源人工智能模型，它可以根据自然语言指令编辑图像。 图源：VentureBeat 与...
-
AI工具（20240116）：Copilot Pro，Fitten Code等
Copilot Pro Copilot Pro是微软推出的Copilot的付费增强版本,通过提供优先访问GPT-4等最新AI模型,大大提升用户的创造力和工作效率。该服务可与Microsoft 365订阅捆绑使用,支持在Word、Excel等Offic...
-
玩LLM和StableDiffusion常说的LoRA到底是什么
论文地址：LoRA: Low-Rank Adaptation of Large Language Models LoRA是一种用于adapters和大模型迁移的技术,全称为Low-Rank Adaptation of Large Language M...
-
通义千问团队发布Qwen1.5 聊天模型性能大幅提升
在近期几个月的深入探索之后，通义千问团队终于迎来了其开源系列Qwen的下一个重要版本——Qwen1.5。 Qwen1.5的亮点之一是其丰富的模型系列，涵盖了从0.5B到72B的六种不同大小的基础和聊天模型。此外，团队还开源了包括Int4和Int8的GPTQ...