-
速通LLaMA2：《Llama 2: Open Foundation and Fine-Tuned Chat Models》全文解读
文章目录 概览 LLaMA和LLaMA2的区别 Abstract Introduction Pretraining Fine-tuning 1. 概括 2、Supervised Fine-Tuning（SFT） 3、⭐Reinforcemen...
-
RAG 的优化进阶与引入 Reranker
引言 在简单的 RAG 系统中，通过结合检索和生成技术，已经可以显著提升了对复杂查询的响应质量。Reranker 作为 RAG 系统中一个关键的进阶组件，通过对原 RAG 中检索到的内容进行重新组织，可以进一步提高系统的准确性。 本文将深入探讨 RA...
-
LLaMA 3 背后的大规模 GPU 集群 RoCE 网络建设
模型越来越大，需要的 GPU 越来越多；与此同时 GPU 性能也在不断增强，配套的网络带宽也不断增加到 400G（Blackwell GPU 甚至需要到 800 Gbps）。Ranking 模型还在迁移到 GPU 的早期阶段，但使用 GPU 的规模也在不断...
-
【大语言模型LLMs】Llama系列简介
【大语言模型LLMs】Llama系列简介 文章目录 【大语言模型LLMs】Llama系列简介 1. LLaMa 1.1 引言 1.2 方法 1.2.1 预训练数据 1.2.2 架构 1.2.3 优化器 1.2.4 效率 2....
-
AI应用的流量“炼金术”
“五个离职同事里，至少有三个人在搞应用”，一位刚从大厂离职的员工告诉光子星球。 大厂高管出走、组团找融资，大热项目组成员离职看应用，是目前AI赛道最真实的写照。 进入2024年，模型层大局已定，鲜少有新玩家能够进入。而卷生卷死的AI应用，门槛不高，投入成本...
-
独立开发变现周刊：一个 AI 个人穿搭App年收入300万美元
目录 1、PDF Guru Anki: 一款开源以PDF为中心的办公学习工具箱 2、Langflow:一个开源构建多代理和RAG应用程序的可视化框架 3、【粉丝自荐】Color4Bg:一款酷炫的背景图生成工具 4、如何通过Telegram频道实现每月收入...
-
独立开发变现周刊（第142期）：一个 AI 个人穿搭App年收入300万美元
目录 1、PDF Guru Anki: 一款开源以PDF为中心的办公学习工具箱 2、Langflow:一个开源构建多代理和RAG应用程序的可视化框架 3、【粉丝自荐】Color4Bg:一款酷炫的背景图生成工具 4、如何通过Telegram频道实现每月收入...
-
我的风格我做主！Midjourney 新增模型个性化功能
就在今天，Midjourney 连发两条更新，增加了一个全新参数，还算挺重要的。下面阿杰带大家一起看一下。 一、模型个性化 一）是什么 --p 全程 personalization，翻译过来叫做「模型个性化」。 那么什么是模型个性化呢？简...
-
#RAG | AIGC # RAG召回率提升的方法以及优劣势
RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的模型，用于增强大型语言模型（LLMs）的性能。召回率（Recall）是衡量RAG系统性能的关键指标之一，它表示系统能...
-
大模型API接口费用对比：阿里百度字节AI哪家最便宜？
在过去一周内，阿里、百度、字节跳动三家科技巨头相继宣布了大模型API服务的重磅优惠，将价格战升级到了前所未有的"白热化"程度。短短 3 小时内，它们甚至让外界产生"发钱补贴"的荒诞感受。但实际上，这场噱头十足的促销活动的确引发了不少质疑。如何在混乱的宣传噪...
-
大模型API接口费用高吗多少钱？通义千问、文心一言、豆包、星火AI最新价格查询
5 月 21 日上午，阿里云在其例行峰会上意外地释放了大降价的消息：通义千问GPT- 4 级主力模型推理输入价格降至0. 5 元/百万tokens，直降97%。这一消息瞬间引发了业界的广泛关注和讨论。 然而，短短数小时后，百度智能云官宣文心大模型主力模型...
-
Kimi、GPT、豆包、智谱大模型API接口费用价格详细对比 哪家AI最便宜？
人工智能大模型的价格战正在如火如荼地进行中。随着更多科技巨头加入战团，大模型API费用的天花板不断被刷新，给消费者带来了前所未有的实惠。在这场空前的价格大战中，AIbase将全程追踪各家最新行情，助你抢占先机。 价格新地板已现雏形 5 月 21 日，阿里...
-
大模型降价狂潮引发价格战：通义千问、豆包最新API接口费用查询对比
人工智能正在以前所未有的速度发展，大模型已经成为当下科技领域的热门话题。近期，一场大模型API费用的降价狂潮在国内外掀起了轩然大波，多家科技巨头纷纷加入战团，推出史无前例的优惠促销措施。在这场价格大战中，消费者无疑将成为最大赢家。 降价潮源头:字节豆包大...
-
快手强化学习与多任务推荐
一、Two-Stage Constrained Actor-Critic for Short Video Recommendation 第一篇工作是快手自研的，主要针对的是带约束的多任务场景。 1. 短视频多任务推荐场景 这篇工作主要针对的是短视频的一...
-
如何利用对抗学习实现产品推荐功能？
作者 | 汪昊 审校 | 重楼 推荐系统自1992 年首篇论文提出协同过滤算法诞生以来，经历了互联网公司百万次的模型迭代，犹如不断涅的凤凰，从一次又一次的低谷中不断重生，先后诞生了百分点、快手、抖音、今日头条等知名的公司和产品。 推荐系统最大的功能在于...
-
2024 CSRankings全美计算机科学排名发布！CMU霸榜，MIT跌出前5
2024 CSRankings全美计算机科学专业排名，刚刚发布了！ 今年，全美全美CS最佳大学排名中， 卡耐基梅隆大学（CMU）位列全美第一，同时是CS世界第一。与此同时，伊利诺伊大学香槟分校（UIUC），连续6年稳居榜单第二。佐治亚理工学院位列第三。...
-
使用GaLore在本地GPU进行高效的LLM调优
训练大型语言模型(llm ，即使是那些“只有”70亿个参数的模型，也是一项计算密集型的任务。这种水平的训练需要的资源超出了大多数个人爱好者的能力范围。为了弥补这一差距，出现了低秩适应(LoRA 等参数高效方法，可以在消费级gpu上对大量模型进行微调。 G...
-
相机与激光雷达是怎么标定的？一览行业所有主流的标定工具
本文经自动驾驶之心公众号授权转载，转载请联系出处。 相机与激光雷达的标定是很多任务的基础工作，标定精度决定了下游方案融合的上限，因为许多自动驾驶与机器人公司投入了较大的人力物力不断提升，今天也为大家盘点下常见的Camera-Lidar标定工具箱，建议收...
-
大模型之Llama系列- LlaMA 2及LLaMA2_chat(上)
LlaMA 2是一个经过预训练与微调的基于自回归的transformer的LLMs，参数从7B至70B。同期推出的Llama 2-Chat是Llama 2专门为对话领域微调的模型。 在许多开放的基准测试中Llama 2-Chat优于其他开源的聊天模型，此外...
-
一种推荐系统中的排序学习的原创算法：斯奇拉姆排序
作者 | 汪昊 审校 | 重楼 排序学习在推荐系统中的应用在最近数年来非常罕见。经典的算法比如 BPR 和 CLiMF 早在 10 多年前就已经被发明。因此当 2023 年国际会议 AIBT 2023 上有学者提出斯奇拉姆排序时，众多听众眼前一亮。该算...
-
基于 Stable Diffusion 一键 AI 作画：什么“小镇做题家”？人人都是艺术家
文章目录 前言 一、西方艺术简史 1.1、古典艺术时期 1.2、现代艺术时期 1.3、后现代艺术时期 二、数字艺术的诞生和发展 2.1、数字艺术的诞生 2.2、数字艺术下的行业细分 2.3、数字作品的创作过程 2.4、AI 作画诞生 三...
-
大语言模型之LlaMA系列- LlaMA 2及LLaMA2_chat(上)
LlaMA 2是一个经过预训练与微调的基于自回归的transformer的LLMs，参数从7B至70B。同期推出的Llama 2-Chat是Llama 2专门为对话领域微调的模型。 在许多开放的基准测试中Llama 2-Chat优于其他开源的聊天模型，此外...
-
斯奇拉姆排序 - 基于公平性的排序学习
在 2023 年结束的国际学术会议 AIBT 2023 上，Ratidar Technologies LLC 宣读了一篇基于公平性的排序学习算法，并且获得了该会议的最佳论文报告奖。该算法的名字是斯奇拉姆排序 (Skellam Rank ，充分利用了统计学...
-
LLaMA、Baichuan、ChatGLM、Qwen、天工等大模型对比
12.10更新：Qwen技术报告核心解读 Baichuan Baichuan 2: Open Large-scale Language Models 数据处理：数据频率和质量，使用聚类和去重方法，基于LSH和dense embedding方...
-
2024 CSRankings全球计算机科学排名发布！AI领域中国高校霸榜，清华排名第一
【新智元导读】CSRankings2024结果出炉!全世界计算机科学机构的排名进行了大更新。在AI板块，清华、北大、上交分列TOP3，CMU和浙大并列第4。AI TOP10中的中国高校，还包括人大、南京大学、复旦大学、哈工大等。 2024CSRanking...
-
AI平台：Introduction - Danswer Documentation
Introduction - Danswer DocumentationDanswer Documentation home pageSearch...Ctrl Kdanswer-ai/danswer5978602danswer-ai/danswer597...
-
大模型应用探索——企业知识管家
一、传统知识管理的背景与挑战 1、企业知识管理的必要性 知识管理是每个企业都面临的一个非常重要的环节，借助知识管家可以全面提升企业的效率。 一方面，随着互联网应用的发展，知识爆炸，如何实现企业知识的共享称成为企业面临的一个问题。企业通过知识共享不仅...
-
盘古智能体（Pangu-Agent）的五个创新点
随着大规模语言模型（Large Language Model，LLM）的发展和应用，人工智能领域出现了一种新的研究方向，即基于LLM的自主智能体（LLM-based Autonomous Agent）。这种智能体利用LLM的强大的表示能力和生成能力，可以...
-
ChatGPT抢走了数据！编程语言排行榜，没法做了！
撰稿 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） 提及编程语言排行榜，很多人都能想到Tiobe、RedMonk、Stack Overflow等，基本上它们更新的频率也相对固定。但最近，这家号称编程语言榜单天花板的RedMonk似...
-
大模型部署手记（8）LLaMa2+Windows+llama.cpp+英文文本补齐
1.简介： 组织机构：Meta（Facebook） 代码仓：https://github.com/facebookresearch/llama 模型：llama-2-7b 下载：使用download.sh下载 硬件环境：暗影精灵7Plus...
-
论文笔记--Llama 2: Open Foundation and Fine-Tuned Chat Models
论文笔记--Llama 2: Open Foundation and Fine-Tuned Chat Models 1. 文章简介 2. 文章概括 3 文章重点技术 3.1 预训练Pretraining 3.1.1 预训练细节 3.1.2...
-
美版权局再次拒绝为AI生成的作品提供版权保护
美国版权局审查委员会最近第三次拒绝注册一件由生成人工智能部分创作的艺术品，强调其缺乏“人类创作者属性”，因此无法主张版权保护。 此次拒绝涉及艺术家Ankit Sahni提交的一份版权申请，他试图注册一幅名为“SURYAST”的二维艺术品。Sahni使用了一...
-
确保贵企业的数据为生成式AI做好准备的七个方法
译者 | 布加迪 审校 | 重楼 大家都想利用生成式AI和大语言模型的力量，但这里有一个难题。让AI满足很高的期望需要高质量的实用数据，这正是许多组织的不足之处。 麦肯锡最近一份由Joe Caserta和Kayvaun Rowshankish共同撰写的...
-
Mambu发布报告:生成式AI和监管变革将塑造2024年亚太金融服务
领先的SaaS云银行平台Mambu 发布了其2024年度合作伙伴预测报告，深入探讨了未来一年金融领域的趋势，并研究了银行、企业和金融机构如何应对这些变化的方式。该报告由包括AWS、EY、德勤、Mastersystem、frankieone和Marqeta在...
-
21Dak攻击：计算机顶会PLDI‘23 针对语义依附代码模型的对抗攻击方法：Destroyer篡改输入程序，Finder寻找关键特征，Merger关键特征注入【网安AIGC专题11.22】
Discrete Adversarial Attack to Models of Code 写在最前面 一些对关系抽取和事件抽取相关的启发和思考 摘要 总结与展望 课堂讨论 研究背景与意义 对抗攻击 针对代码模型的对抗攻击 Semanti...
-
Llama 2 论文《Llama 2: Open Foundation and Fine-Tuned Chat Models》阅读笔记
文章目录 Llama 2: Open Foundation and Fine-Tuned Chat Models 1.简介 2.预训练 2.1 预训练数据 2.2 训练详情 2.3 LLAMA 2 预训练模型评估 3. 微调 3.1 s...
-
LLaMA-2论文阅读
1. 基本介绍 LLaMA-2是2023年7月24日Meta发布的LLaMA第二代，跟LLaMA-1几个显著区别: 免费可商用版本的大模型 context上下文增加了一倍，从2K变为了4K 训练的总token数从1.0T/1.4T增加为2.0T(...
-
百度搜索智能化算力调控分配方法
作者 | 泰来 导读 随着近年深度学习技术的发展，搜索算法复杂度不断上升，算力供给需求出现了爆发式的增长。伴随着AI技术逐步走到深水区，算法红利在逐步消失，边际效应日益显著，算力效能的提升尤为重要，同时随着宏观经济影响，大规模的算力需求供给也遭...
-
网络爬虫：中国大学排名定向爬虫
中国大学排名定向爬虫(已更新2021版本 网络爬虫专栏链接 Copyright: Jingmin Wei, Pattern Recognition and Intelligent System, School of Artificial and I...
-
“AI”被柯林斯词典评选为2023年最受关注的词汇
柯林斯词典宣布，“AI”（人工智能）已经成为2023年最受关注的词汇。这个决定是基于“AI”在过去一年中使用频率的四倍增长，以及它作为代表未来发展的技术已经成为今年的热门话题。 “AI”被定义为“通过计算机程序模拟人类思维功能”，因其快速发展和成为2023...