-
LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention
Paper name LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention Paper Reading Note Paper URL: htt...
-
李飞飞DeepMind全新「代码链」碾压CoT！大模型用Python代码推理，性能暴涨12%
思维链（CoT），最具开拓性和影响力的提示工程技术之一，能增强LLM在推理决策中的表现。 那么，如果大模型可以在代码中「思考」，会如何呢？ 最近，谷歌DeepMind、斯坦福、UC伯克利团队联手提出了全新技术——「代码链」（CoC）。 论文地址：htt...
-
谷歌被打脸！Gemini Pro被证实和GPT3.5差距不大
谷歌最新发布的Gemini Pro自发布以来备受瞩目，谷歌声称其优于GPT-3.5。然而，CMU的研究通过深入的实验对比，展示了GPT-3.5在多个任务上的全面优势。Gemini Pro虽然在某些任务上稍显不足，但整体表现与GPT-3.5相近，为大模型领域...
-
零一万物回应「抄袭 LLaMA」；京东原副总裁试用可穿戴人工喉丨 RTE 开发者日报 Vol.85
开发者朋友们大家好： 这里是 「RTE 开发者日报」 ，每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE （Real Time Engagement） 领域内「有话题的 新闻 」、「有态度的 观点 」、「有意思的 数据 」、「有思考的...
-
CMU权威对比Gemini，GPT-3和Mistral8×7B！GPT-3.5依旧拿捏Gemini，开源模型差距依然不小
谷歌最近发布的Gemini掀起了不小的波澜。 毕竟，大语言模型领域几乎是OpenAI的GPT一家独大的局面。 不过作为吃瓜群众，当然希望科技公司都卷起来，大模型都打起来！ 所以，作为科技巨无霸谷歌的亲儿子，Gemini自然承受了很高的期待。 虽然Gemi...
-
工具：Copilot实战经验分享
在人工智能（AI）和机器学习（ML）领域，Copilot已经成为一个备受瞩目的工具。它是由微软和OpenAI联合开发的，以帮助开发者更高效地完成编程任务。在这篇文章中，我将分享一些关于Copilot的实战经验，以及如何利用它来提高编程效率。 Copil...
-
昆仑万维或将引领国内 AIGC 技术发展
AIGC 发展历程 如果说 2021 年是元宇宙元年，那么 2022 年绝对可以称作 AIGC 元年。自从 Accomplice 于 2021 年 10 月推出 Disco Diffusion 以来，AIGC 受到了前所未有的关注，相关产品和技术更是以...
-
stable-diffusion安装和简单测试
参考：https://github.com/CompVis/stable-diffusion理解DALL·E 2， Stable Diffusion和 Midjourney的工作原理Latent Diffusion Models论文解读【生成式AI】淺談圖...
-
深度解读 | 搭载谷歌最强大模型Gemini的Bard能否赶上ChatGPT
大家好，我是极智视界，欢迎关注我的公众号，获取我的更多前沿科技分享 昨天早上看到了相关的报道，谷歌昨天发布了 "号称最强的大模型" Gemini，还是熟悉的字眼、还是熟悉的配方。之前谷歌一直在 AIGC 的竞争相对于微软的 OpenAI 全方位处于下风...
-
【Ai篇】10 款AI聊天机器人\AI绘画免费使用
【Ai篇】10 款AI聊天机器人\\AI绘画免费使用 1、GPT机器人 GPT机器人是一款免费的AI聊天机器人和AI绘画软件，AI聊天机器人支持GPT-4，而且支持AI绘画，可通过文本描述进行AI绘画创作，软件免费开放使用，无需注册登录，目前支持安卓，...
-
【LLM】LLaMA简介：一个650亿参数的基础大型语言模型
LLaMA简介：一个650亿参数的基础大型语言模型 Paper Setup 其他资料 作为 Meta 对开放科学承诺的一部分，今天我们将公开发布 LLaMA (大型语言模型 Meta AI ，这是一个最先进的大型语言基础模型，旨在帮...
-
Llama 2免费托管及API提供
Llama 2 是 Meta 最新的文本生成模型，目前其性能优于所有开源替代方案。 推荐：用 NSDT编辑器 快速搭建可编程3D场景 1、强大的Llama 2 它击败了 Falcon-40B（之前最好的开源基础模型），与 GPT-3....
-
OpenAI宣布向所有用户免费开放ChatGPT语音功能
12月22日消息，据外媒报道，OpenAI宣布向所有用户免费开放ChatGPT语音功能。这意味着用户可以与ChatGPT进行自然的语音对话，而无需支付任何费用。 据悉，该功能于今年9月份推出，以前只向使用iPhone或iPad的ChatGPT Plus和E...
-
研究揭示：谷歌Gemini Pro在基准测试中落后于免费ChatGPT
根据卡内基梅隆大学的最新研究报告，谷歌最新推出的大型语言模型Gemini Pro在基准测试中未能达到预期水平，不仅落后于GPT-3.5，还远远不及GPT-4。 Gemini Pro的研究结果与谷歌在Gemini发布会上所提供的信息相矛盾，凸显了对中立基准测...
-
4090成A100平替？token生成速度只比A100低18%，上交大推理引擎火了
不仅如此，PowerInfer 与最先进的本地LLM推理框架 llama.cpp 相比，在单个 RTX 4090 (24G 上运行 Falcon (ReLU -40B-FP16，实现了 11 倍多的加速，还能保持模型的准确性。 具体来说，PowerIn...
-
苹果 AI 新突破：在 iPhone 上部署大型语言模型成为可能
苹果公司的人工智能研究人员表示，在将大型语言模型（LLMs）部署到 iPhone 和其他内存有限的苹果设备上取得了关键性突破。他们发明了一种创新的闪存利用技术，可有效应对内存限制问题。 LLMs 与内存限制 像 ChatGPT 和 Claude 这样基于...
-
我的大模型观：我眼中的LLM
文章目录 大模型是有智能的。 也许，大模型是一场骗局？ 从头训练or微调 我想象中的大模型架构 大厂的大模型 中小厂和个人开发该何去何从？ 今年，大模型火的一塌糊涂。最近几个月paper with code上，前几名的论文几乎都是生成模...
-
Llama 架构分析
从代码角度进行Llama 架构分析 Llama 架构分析 前言 Llama 架构分析 分词 网络主干 DecoderLayer Attention MLP 下游任务 因果推理 文本分类 Llama 架构分析...
-
开发者笑疯了！ LLaMa惊天泄露引爆ChatGPT平替狂潮，开源LLM领域变天
来源: 新智源 微信号：AI-era Meta的LLaMA模型开源，让文本大模型迎来了Stable Diffustion时刻。谁都没想 谁能想到，一次意外的LLaMA泄漏，竟点燃了开源LLM领域最大的创新火花。 一系列表现出色的Chat...
-
研究：大模型在回答中会重复有害的错误信息
对大型语言模型的新研究表明，它们重复了阴谋论、有害的刻板印象和其他形式的错误信息。 在最近的一项研究中，滑铁卢大学的研究人员系统地测试了 ChatGPT 早期版本对六类陈述的理解:事实、阴谋、争议、误解、刻板印象和虚构。这是滑铁卢研究人员研究人机交互并探索...
-
文心一言AI大模型，前端接入
文心一言AI大模型，前端接入 一、参考接口资料 模型广场：https://console.bce.baidu.com/qianfan/modelcenter/model/buildIn/list 我的应用：https://console.bce.bai...
-
AI绘画：StableDiffusion炼丹Lora攻略-实战萌宠图片生成
Lora攻略-实战萌宠图片生成 写在前面的话 一：准备 二、Lora作用 1.AI模特 2.炼衣服Lora 3.改变画风/画面背景 Lora模型究竟是什么？ 三、如何炼制自己的Lora模型？ 四、炼丹前的准备（**下载整合包**） 五、选择...
-
Gemini Pro还不如GPT-3.5，CMU深入对比研究：保证公平透明可重复
谷歌Gemini实力到底如何？卡耐基梅隆大学来了场专业客观第三方比较。 为保证公平，所有模型使用相同的提示和生成参数，并且提供可重复的代码和完全透明的结果。 不会像谷歌官方发布会那样，用CoT@32对比5-shot了。 一句话结果：Gemini Pr...
-
摸底谷歌Gemini：CMU全面测评，Gemini Pro不敌GPT 3.5 Turbo
前段时间，谷歌发布了对标 OpenAI GPT 模型的竞品 ——Gemini。这个大模型共有三个版本 ——Ultra（能力最强）、Pro 和 Nano。研究团队公布的测试结果显示，Ultra 版本在许多任务中优于 GPT4，而 Pro 版本与 GPT-3...
-
你真的会写 Prompt ? 剖析 RAG 应用中的指代消解
随着 ChatGPT 等大语言模型(LLM 的不断发展，越来越多的研究人员开始关注语言模型的应用。 其中，检索增强生成（Retrieval-augmented generation，RAG）是一种针对知识密集型 NLP 任务的生成方法，它通过在生成过程中...
-
大语言模型训练数据常见的4种处理方法
本文分享自华为云社区《浅谈如何处理大语言模型训练数据之一常见的数据处理方法》，作者： 码上开花_Lancer。 大语言模型训练需要数万亿的各类型数据。如何构造海量“高质量”数据对于大语言模型的训练具有至关重要的作用。虽然，截止到2023 年9 月为止，还...
-
创业公司推出AI圣诞老人，孩子可与之进行逼真语音通话
如果人工智能真的来抢人类的工作，那么这个星期可能是个好时机，尤其是帮助地球上最忙碌的人的时候。 总部位于西雅图的创业公司Fixie，专注于帮助企业将大型语言模型融入其软件堆栈，推出了HiSanta.ai。这是一个网络体验，让人们可以与圣诞老人、鲁道夫、圣诞...
-
研究人员发现，谷歌Gemini表现不如GPT-3.5 Turbo
在近期的一项研究中，来自卡内基梅隆大学和BerriAI的研究团队对Google Gemini Pro进行了深入的评估，并发现其在多项任务中表现不如OpenAI的GPT-3.5Turbo。这一发现无疑是对Google在生成式人工智能领域与OpenAI竞争的雄...
-
ChatGPT的2023：打开AI新世界
12月16日，The Verge 根据获取的内部文件和 Lark（飞书）聊天记录报道称，字节跳动曾秘密使用 OpenAI 的模型输出文本来训练自己的大语言模型。 即便中止使用 GPT 生成文本之后，代号为 Project Seed（种子计划）的项目各阶段，...
-
MosaicML 推出 30B 模型 — 挑战 LLaMA、Falcon 和 GPT
MosaicML正在推出其第二个开源大型语言模型（LLM），称为MPT-30B，这是继五月份首次推出的较小的MPT-7B模型之后。 为了讨论新模型及其对开发人员的意义，我采访了MosaicML联合创始人兼首席执行官Naveen Rao。他之前的创业公司是...
-
OpenAI：如GPT-5太危险，董事会有权阻止奥特曼发布
OpenAI发布新公告：董事会现在有权否决奥特曼的决定。 特别是针对GPT-5等前沿模型安全风险是否过高，是否对外发布等关键问题。 图片 作为上个月内讧的后果之一，总裁Greg Brockman与前首席科学家Ilya Sutskever已退出董事会，公司...
-
编码碾压ChatGPT！UIUC清华联手发布7B参数Magicoder，代码数据权重全开源
开源「代码大模型」来了！ UIUC清华团队的研究人员发布了Magicoder，不到7B参数，就能在代码生成领域与顶级代码模型不相上下。 值得一提的是，Magicoder的代码、权重和数据，毫无保留完全开源。 论文地址：https://arxiv.org...
-
分享一个国内可用的免费GPT4-AI提问AI绘画网站工具
一、前言 ChatGPT GPT4.0，Midjourney绘画，相信对大家应该不感到陌生吧？简单来说，GPT-4技术比之前的GPT-3.5相对来说更加智能，会根据用户的要求生成多种内容甚至也可以和用户进行创作交流。 然而，GPT-4对普通用户来说都是需...
-
Midjourney指令操作、promt框架、参数设置教程
引言：基于Chatgpt的应用如雨后春笋，这波浪潮正当时。最近在摸索图片生成有价值的应用场景，使用过程中整理了一些指令秘籍，一同分享出来。 1、原理 Midjourney的人工智能绘画技术基于GPT-3.5模型，使用了先进的神经网络算法，通过输入简单...
-
【大模型】LLaMA
目录 1. 模型介绍 2. 权重下载 1. 模型介绍 LLaMA 是 2023 年 Meta 发布的基础大语言模型，该模型有四个版本，分别是7B、13B、33B、65B参数的模型。相对于 GPT 类的模型，LLaMA 更加轻量一些，主要体现在...
-
OpenAI「登月计划」剑指超级AI！LeCun提出AGI之路七阶段，打造世界模型是首位
通用AGI，或许近在咫尺。 OpenAI下一步「登月计划」，就是实现人类期待已久的超级人工智能，而到达这一步的前提是——解决超级AI对齐问题。 就在前几天，首席科学家Ilya带头OpenAI超级对齐团队取了的实质性成果。他们发表的最新论文，首次确定了超...
-
OpenAI官方的Prompt工程指南：你可以这么玩ChatGPT
随着 ChatGPT、GPT-4 等大型语言模型（LLM）的出现，提示工程（Prompt Engineering）变得越来越重要。很多人将 prompt 视为 LLM 的咒语，其好坏直接影响模型输出的结果。 如何写好 prompt，已经成为 LLM 研究...
-
突发！OpenAI封禁字节跳动账户！内部爆料滥用GPT生成内容
整理丨诺亚 外媒The Verge于北京时间今日凌晨报道，在生成式AI的疯狂竞赛中，字节跳动一直在秘密利用OpenAI的技术“走捷径”，直指字节跳动在中国使用GPT生成的数据来训练自己的大模型，违反了微软和OpenAI的开发者许可。不久后，OpenAI...
-
大模型那么火，教你一键Modelarts玩转开源LlaMA(羊驼)大模型
图1.1 GPT-2 模型结构 关于训练集，其来源都是公开数据集，无任何定制数据集，保证了其工作与开源兼容和可复现。整个训练数据集在 token 化之后大约包含 1.4T 的 token。其中，LLaMA-65B 和 LLaMA-33B 是在 1.4万亿...
-
openAI灰度测试GPT4.5 实现六大能力增强
近日，有消息称OpenAI 正在灰度测试最新模型GPT4.5turbo，而宝玉、歸藏等博主也纷纷表示自己的版本已经更新到GPT4.5。 据GPT4.5turbo问答结果显示，相较于之前的GPT-4-turbo，新模型在多个方面实现了六大能力的增强。 首先，...
-
我们聊聊如何增强ChatGPT处理模糊问题能力
提示工程技术可帮助大语言模型在检索增强生成系统中处理代词等复杂核心参照物。 译自Improving ChatGPT’s Ability to Understand Ambiguous Prompts，作者 Cheney Zhang 是 Zilliz 的一...
-
AIGC专题报告：ChatGPT纪要分享
今天分享的AIGC系列深度研究报告：《AIGC专题报告：ChatGPT纪要分享》。 （报告出品方：久谦中台） 报告共计：135页 OpenAI 高管解密 ChatGPT ¶ GPT-3 是一种大型语言模型，被训练用来在给定上下文中预测下...
-
LLaMA-META发布单卡就能跑的大模型
2023年2月25日，Meta使用2048张A100 GPU，花费21天训练的Transformer大模型LLaMA开源了。 1.4T tokenstakes approximately 21 days 以下是觉得论文中重要的一些要点 1）...
-
源代码is all you need！7B代码小模型同尺寸无敌，性能媲美ChatGPT和谷歌Gemini
Hugging Face 技术负责人 Philipp Schmid 表示：“代码自动补全工具，如 GitHub Copilot，已被超过一百万开发者使用，帮助他们的编码速度提高了 55%。看到像 Magicoder 和 OSS-INSTRUCT 这样的开...
-
Mistral携微软引爆「小语言模型」潮！Mistral中杯代码能力完胜GPT-4，成本暴降2/3
最近，「小语言模型」忽然成为热点。 本周一，刚刚完成4.15亿美元融资的法国AI初创公司Mistral，发布了Mixtral 8x7B模型。 这个开源模型尽管尺寸不大，小到足以在一台内存100GB以上的电脑上运行，然而在某些基准测试中却能和GPT-3....
-
3个问题！验明GPT-4真身；基于GPT科研加速技巧汇总；Midjourney神仙教程；印象笔记有AI功能啦 | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? 『GPT-4 验明真身的三个经典问题』快速区分 GPT-3.5 与 GPT-4，快来对答案 这里收集了几个免费使用 GPT-4 的工具，社区小伙...
-
【Google Bard】公测已开始，与文心一言、chatGPT相比如何？
一、Google Bard简介 自从2022年11月30日，openAI开放聊天机器人chatGPT之后，其热度一直居高不下。 openAI公司成立于2015年，成立后不久，微软就对其工作给予了大力支持，包括资金援助、以及提供高性能服务器。 在这些...
-
最强文生图跨模态大模型：Stable Diffusion
文章目录 一、概述 二、Stable Diffusion v1 & v2 2.1 简介 2.2 LAION-5B数据集 2.3 CLIP条件控制模型 2.4 模型训练 三、Stable Diffusion 发展 3.1 图形界面...
-
用GPT-2监督GPT-4，防止AI毁灭人类? OpenAI Ilya超级对齐团队首篇论文出炉
就在刚刚，OpenAI首席科学家Ilya领衔的超级对齐团队，发布了成立以来的首篇论文！ 团队声称，已经发现了对超人类模型进行实证对齐的新研究方向。 未来超级AI系统对齐的一个核心挑战——人类需要监督比自己更聪明人工智能系统。 OpenAI的最新研究做了...
-
OpenAI开源超级对齐方法：用GPT-2，监督、微调GPT-4
12月15日，OpenAI在官网公布了最新研究论文和开源项目——如何用小模型监督大模型，实现更好的新型对齐方法。 目前，大模型的主流对齐方法是RLHF（人类反馈强化学习）。但随着大模型朝着多模态、AGI发展，神经元变得庞大、复杂且难控制，RLHF便有点力...