-
大模型应用开发，AI 厂商开启新一轮“群雄逐鹿”？
价格战的硝烟似乎还没有平息，但 AI 厂商们的又一场战争已经开始。 这一次的竞争核心是大模型应用开发。根据 IDC 报告，2023年中国大模型平台及相关应用市场规模约还仅有区区17.65亿元人民币，但伴随着行业的巨变，2024年，模型应用开发相关的产业规模...
-
AI智能体到底该怎么搞，腾讯元器先打了个样
如果说2023年科技圈的关键词是“大模型”，那么到了2024年，大家更关心的就已经不再是大模型本身，而是能用大模型来干什么。在此前经历了喧嚣的“百模大战”之后，大模型的商业化成为了摆在国内AI厂商面前最重要的一个挑战，在目前的一众AI产品里，AI智能体（A...
-
3天把Llama训成Mamba，性能不降，推理更快！
近日，Mamba方面又搞出了有意思的研究：来自康奈尔、普林斯顿等机构的研究人员成功将Llama提炼成了Mamba模型，并且设计了新的推测解码算法，加速了模型的推理。\ 先来看一张其乐融融的图片（一眼AI）： 右边的小羊驼代表Llama，而左边的蛇（...
-
支付宝进军大模型医疗应用，技术一号位：我们有4个切入点
面对来势汹汹的大模型应用浪潮，支付宝医疗技术一号位魏鹏这样说道。 今年，蚂蚁大举进军医疗，已是再明显不过。作为蚂蚁大模型应用三大领域之一（其余是金融与生活），落地进展显得尤为瞩目。 模型层面，支付宝医疗大模型，在中英文医疗考试、基准测试达到甚至超过GPT-...
-
轻松掌握 Llama 3.1：轻松本地部署与远程使用的全攻略
前言: Llama 3.1 是 Meta（Facebook 的母公司）发布的一系列最先进的开源大语言模型。Llama 3.1 系列包括 8B（80 亿参数）、70B（700 亿参数）和 405B（4050 亿参数）模型。其中，405B 是 Meta 迄...
-
OpenAI开启推理算力新Scaling Law，AI PC和CPU的机会来了
OpenAI的新模型o1，可谓是开启了Scaling Law的新篇章—— 随着更多的强化学习（训练时计算）和更多的思考时间(测试时计算 ，o1在逻辑推理能力上已经达到了目前天花板级别。 尤其是在北大给出的一项评测中，o1-mini模型的跑分比o1-prev...
-
Whisper 模型在实时语音转录中有哪些具体的应用场景？
关注我，持续分享逻辑思维&管理思维&面试题； 可提供大厂面试辅导、及定制化求职/在职/管理/架构辅导； 推荐专栏《10天学会使用asp.net编程AI大模型》，目前已完成所有内容。一顿烧烤不到的费用，让人能紧跟时代的浪潮。从普通网站，到公...
-
AIGC实战之如何构建出更好的大模型RAG系统
大家好，我是爱编程的喵喵。双985硕士毕业，现担任全栈工程师一职，热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。喜欢通过博客...
-
AI“大姨”现场刁难智能客服！直击一群AI打PK赛，真能落地的那种
两个AI现场攻防，翻车了人类就在旁边“蛐蛐”。 现在的AI比赛真是越来越因吹斯汀了。 这不，一个拿着“花开富贵”大姨人设的Agent直接甩了个链接，对面的AI客服就开始大段大段冗长回复，几个回合都是如此。 围观人类一点儿都不留情面，马上锐评: 遇到妙语...
-
大模型三种模式Embedding、copilot、Agent
大模型的三种应用模式——Embedding、Copilot、Agent——代表了不同级别的智能化和自动化程度，以及与人类用户的交互方式。下面是每种模式的具体解释： 嵌入模式（Embedding Mode） 定义：在嵌入模式中，大模型被集成到现有的应用程序...
-
[Sigcomm论文解析] Llama 3训练RoCE网络
最近正在开的Sigcomm上, Meta有一篇论文《RDMA over Ethernet for Distributed AI Training at Meta Scale》[1]详细介绍了它的物理网络部署和相关的拥塞控制机制. 本文来对它进行一些详细的解...
-
字节AI，“软硬”兼施
属于AI的投资热潮仍在继续，只不过资本的注意力开始由“软”变“硬”。 无数海外初创公司前仆后继下，今年8月中旬，国内掀起了一阵围绕AI智能眼镜的投资热潮 。大模型为可穿戴硬件“注入灵魂”的想象力，快速在全球范围内形成共识。 直至9月，AI眼镜概念股退潮回落...
-
LLaMa系列模型详解（原理介绍、代码解读）：LLaMa_llama模型
LLaMA详解 LLaMA（Large Language Model Meta AI）是由Meta（前身为Facebook）开发的一种大规模语言模型，旨在提高自然语言处理（NLP）任务的性能。LLaMA基于变换器（Transformer）架构，并经过大...
-
Datawhale AI夏令营第四期魔搭-AIGC文生图方向Task1随笔
目录 前言： 一、Datawhale AI夏令营简单介绍： 二、Datawhale AI夏令营学习课程 AIGC方向： 大模型应用开发方向： 多模态大模型(数据合成 ： 三、报名二维码 Task1： 一、赛题解读： 二、文生图： 1、...
-
书单 | 大模型的书那么多，如何快速选到适合自己的那一本？来，教你！
大模型的书这么多，该怎么选呢？ 本期书单就来教大家怎么快速地从众多大模型书中选到你想要的那一本！ 大模型基础 大模型入门不可错过的一本书，就是这本大模型界的经典畅销书**《大规模语言模型》**！系统性强，内容适合初学者，如果你想知道如何构建一个大模型...
-
了解一点智能体（Agent）
百度百科对智能体的定义：智能体，顾名思义，就是具有智能的实体，英文名是Agent。以云为基础，以AI为核心，构建一个立体感知、全域协同、精准判断、持续进化、开放的智能系统。 1 智能体（Agent）是什么？ 在计算机科学和人工智能领域，智能体（A...
-
中国图象图形学学会、蚂蚁集团、CSA大中华区等发起全球AI攻防挑战赛
9月6日上午，在2024Inclusion·外滩大会“以AI守护AI 大模型时代的攻守之道”论坛上，国内首个大模型攻防主题的科技赛事—“全球AI攻防挑战赛”宣布正式启动。该赛事聚焦AI大模型产业实践，设计了攻、防双向赛道，邀请各路白帽黑客、技术人才分别进行...
-
支付宝开放生态进入AI时代，推出智能体开发平台“百宝箱”
9月5日，继面向用户推出AI生活管家App“支小宝”后，支付宝面向行业正式启动智能体生态开放计划，并推出智能体开发平台“百宝箱”。依托专业的智能体构建能力，商家机构可0代码、最快1分钟创建专属智能体，并一键发布到支付宝小程序、支付宝App、支小宝App等。...
-
外滩大会显露AI产业实践六大趋势 下一代超级应用是智能体
9月5日，2024·Inclusion外滩大会在上海开幕。AI产业的发展是本届外滩大会与会专家和企业家热议的话题，无论是企业界的实践，还是专家学者的研究，各方都认为AI产业实践正呈现六大趋势，涵盖小模型、智能体、专业AI、具身智能等方面，指明了大模型产业落...
-
大模型应用新战场：揭秘终端侧AI竞争关键
2024年过去2/3，大模型领域的一个共识开始愈加清晰: AI技术的真正价值在于其普惠性。没有应用，基础模型将无法发挥其价值。 于是乎，回顾这大半年，从互联网大厂到手机厂商，各路人马都在探索AI时代Killer APP的道路上狂奔。这股风潮，也开始在顶级学...
-
鹅厂也下场，文档解析的痛点是什么？
最近，文档解析赛道颇为火热，产品更新迭代频繁，与各类大模型上下游一样发展势头很劲。6月下旬，鹅厂也在多个产品上线了文档解析功能。 文档智能交互是企业、学术、个人工作中必不可少的一环，作为大模型应用的典型场景之一，它对准确、高效的文档解析工具有着长期需求。...
-
深入剖析大模型安全问题：Langchain框架的隐藏风险
随着大模型热度持续，基于大模型的各类应用层出不穷。Langchain 作为一个以 LLM 模型为核心的开发框架，可以帮助我们灵活地创建各类应用，同时也为大模型的应用引入新的安全隐患。从今年 4 月 Langchain 被爆出在野 0day 漏洞开始，各类安...
-
大模型落地：GPU向上，NPU向下
自从ChatGPT问世以来，大模型取得了迅猛的发展。不仅是在ChatGPT本身这一自然语言处理领域取得了重要进展，而且在视频领域也有令人瞩目的大模型，比如DINOv2，它可以对视频图像进行语义理解。此外，SAM是一种能够对场景进行细粒度分割的模型。这些进展...
-
大模型厂商，寻找赚钱“搭子”
当被誉为“不沉之船”的泰坦尼克号接近冰山时，瞭望员只能看到露出水面的部分，冰川大部分体积仍隐藏在水面之下。 AI行业亦是如此，水面之上是风头正盛的大模型新秀，零一万物、月之暗面、百川智能近期接连被曝融资。截至目前，国内已有三家大模型创业公司估值水平达到20...
-
隆重推出 Llama 3.1： 迄今为止最强大的开源模型
The gates of heaven open: Llama 3.1 405B, the most capable models to date from Meta, is competitive with leading foundation mode...
-
AI重新定义汽车，“蔚小理”抢先交卷
近日，智能驾驶行业的军备竞赛似乎开始全面提速。小鹏汽车正式向全球用户发布AI天玑系统XOS5.2.0版本，这是全球唯二实现端到端大模型量产落地的车企。 抓紧时间交卷的还有理想和蔚来，理想首次公开了其端到端自动驾驶技术架构;蔚来智能驾驶技术架构 NADArc...
-
小米澎湃OS 2曝光：主攻方向是AI
快科技8月3日消息，博主数码闲聊站爆料，{tag_keyurl_2} 2新系统的主攻方向是AI，这次澎湃OS将会在全场景贯彻落地AI功能。 目前AI功能已在澎湃OS上线，比如小米14 Ultra首发的AI大模型计算摄影平台Xiaomi AISP。 小米工程...
-
京东云：要让大模型听见“炮火声”
业内关于如何最大限度激发大模型潜力，以及打造“新质生产力”的争论似乎将在今年落下帷幕。眼下，大模型成为 “爆改”千行百业的抓手，让一切相关技术的突破都来得热闹且快速。 不过，大多数突破都只是停留在基础模型层面和浅层应用，我们能看到无数大模型的落地妙想，只是...
-
GPU训Llama 3.1疯狂崩溃，竟有大厂用CPU服务器跑千亿参数大模型？
马斯克19天建成由10万块H100串联的世界最大超算，已全力投入Grok3的训练中。 与此同时，外媒爆料称，OpenAI和微软联手打造的下一个超算集群，将由10万块GB200组成。 在这场AI争霸赛中，各大科技公司们卯足劲加大对GPU的投资，似乎在暗示着拥...
-
手把手教你用聆思CSK6大模型开发板接入文心一言/千帆大模型
前言 多模态交互离不开硬件载体，近期有不少开发者在研究大模型开发板除了使用出厂示例自带的星火大模型，能不能接入文心一言、通义千问、豆包、智谱glm、kimi等国内的大模型，这个是必须支持的。但由于各家接口和数据格式不一样，有些朋友直接参考...
-
大数据最新大模型学习路线与建议_大模型学习路径
1 既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！ 由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后...
-
AIGC产品经理学习路径
基础篇（课时 2 ） AIGC 行业视角 AIGC 的行业发展演进：传统模型/深度学习/大模型 AIGC 的产品设计演进：AI Embedded / AI Copilot / AI Agen AIGC 的行业产业全景图 AIGC 的产...
-
使用Llama3/Qwen2等开源大模型，部署团队私有化Code Copilot和使用教程
目前市面上有不少基于大模型的 Code Copilot 产品，部分产品对于个人开发者来说可免费使用，比如阿里的通义灵码、百度的文心快码等。这些免费的产品均通过 API 的方式提供服务，因此调用时均必须联网、同时需要把代码、提示词等内容作为 API 的入参在...
-
巴黎奥运会将采用中国AI技术：含赛事解说、360°直播
快科技7月24日消息，据媒体报道，巴黎奥运会即将迎来一场科技盛宴，中国AI技术将在此届盛会上大放异彩，深度融入赛事解说、沉浸式360度直播、以及前沿的视觉搜索等多个关键环节。 在这场国际科技巨头的激烈角逐中，阿里巴巴的通义大模型脱颖而出，荣膺奥运史上首个A...
-
AI日报：性能超GPT-4o！Meta4050亿参数开源模型Llama3.1遭泄漏；Stability AI开源音频生成模型Stable Audio Open
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、震惊AI界！Llama 3.1...
-
大模型的招投标订单都被谁拿走了？
大模型技术席卷全球科技界，中国也迅速跟进这一浪潮，在诸多领域开始落地，提升了企业运营效率和消费者体验。然而，大模型企业也面临技术成熟度、成本、数据安全、行业差异、用户接受度等挑战，商业化仍然是一个摆在所有厂商面前的问题。 而大模型经过一年多的落地应用，在T...
-
大模型应用开发之业务架构和技术架构（从AI Embedded 到 Copilot,再到Agent）_embedding、copilot、agents
前言 截止到目前，我们已经从大模型的定义概念，应用层涉及的一些概念做了些了解。在大模型的应用开发中，RAG、Agent等概念我们之前也做了些简述，没有看过的可以粗略回顾一下：[大模型06-大模型应用开发之准备篇。 本文我们重点讲的就是伴随着大模型的广...
-
【大模型能力分水岭数学考试，文心一言超gpt4o排名第一】
文末有福利！ 2024年全国高考成绩陆续放榜，各位考生的成绩怎么样？在本次考试中还有几位特殊的考生——国内外知名的9个AI大模型也“参与”了本次高考，它们的成绩可谓也是“几家欢喜，几家愁”。 以河北省录取分数线（文科一本线：521分，理科一本线：...
-
国产大模型第一梯队玩家，为什么pick了CPU？
AI一天，人间一年。 现在不论是大模型本身，亦或是AI应用的更新速度简直令人直呼跟不上—— Sora、Suno、Udio、Luma……重磅应用一个接一个问世。 也正如来自InfoQ的调查数据显示的那般，虽然AIGC目前还处于起步阶段，但市场规模已初具雏形:...
-
吃个瓜而已，AI居然写了份研究报告？？
救命，本来只是想随手吃个瓜，没想到AI较真起来，写了份完整研究报告。 一口气查几百篇资料，从中精选出42篇参考，十几秒内洋洋洒洒3000多字。 而且这个AI不光把问题本身答好，还主动挑选了相关话题做拓展延伸。 既然是老马和Neuralink的员工生孩子...
-
【AI 大模型】大模型应用架构 ( 业务架构 - AI Embedded、AI Copilot、AI Agent | 技术架构 - 提示词、代理 + 函数调用、RAG、Fine-tuning )
文章目录 一、大模型技术方向 - 大模型训练 / 大模型应用 二、大模型应用 - 业务架构 1、AI Embedded 模式 2、AI Copilot 模式 3、AI Agent 模式 三、大模型应用 - 技术架构 1、提示词 技术架构...
-
曝苹果正多方下注布局AI商店：OpenAI终究只是备胎
快科技6月26日消息，据媒体报道，苹果在人工智能领域的布局似乎不局限于与OpenAI的合作。 报道称，苹果正在与多家AI公司洽谈，计划将其AI服务整合到Apple Intelligence平台中，这意味着苹果可能在构建一个类似App Store的AI大模型...
-
当高考志愿填报成为一门生意，AI将扮演怎样的角色？
“瞎填志愿一时爽，毕业工作火葬场。” 这句话虽然是个段子，但却指出了高考志愿填报的重要性。某种程度上，志愿填报看似只是勾选几个大学的名字，实则是在为人生选择方向，没有人愿意错付四年的青春。 实施新高考改革后，考生们看似有了更多的自主选择权，比如有的省份最多...
-
中国杀出全球首个烹饪大模型
什么?烹饪也有大模型?! 没有听错，这就是国产厨电龙头老板电器最新发布——“食神”大模型。 数十亿级行业数据，数千万级知识图谱加持，据称还是全球首个。 它能为每个人提供个性化量身定制的解决方案，不仅告诉用户怎么做菜，还能调动所有设备，协助你把菜做出来。...
-
Stable Diffusion 3 Medium 正式开源，用户对此产品评价如何？
前两天 Stability.AI 终于开源了 Stable Diffusion 3，虽然只是中杯的 Medium 版本，没有放出当初宣布的 8B 版本[1]，但也在很多方面取得了进步。本想第一时间尝鲜测试，但这几天出差在外，使用颇不方便。 正好老朋友揽睿...
-
重磅！Llama-3，最强开源大模型正式发布！
4月19日，全球科技、社交巨头Meta在官网，正式发布了开源大模型——Llama-3。 据悉，Llama-3共有80亿、700亿两种参数，分为基础预训练和指令微调两种模型（还有一个超4000亿参数正在训练中）。 与Llama-2相比，Llama-3使用...
-
Llama 3 干翻GPT-4，Meta打了闭源大厂的脸
不知道李彦宏现在心情如何。 就在他公开表示 “ 开源模型会越来越落后 ” 的 3 天后，活菩萨小扎慢悠悠地登场了。 丝毫不给面子，以一己之力掀翻了桌子。 就在今天凌晨， Meta 正式发布了全新的 Llama 3 模型，还一次上新了 8B 和...
-
2024开端，真心建议大家冲一冲新兴行业AIGC，工资高不内卷_2024ai新兴工作岗位
毫无疑问AI时代已经开启，未来AI将成为和互联网一样的基础设施，就像曾经的传统行业都在“互联网+”，以后就会是“AI+”。 作为普通人，虽然不强求一定要了解AI的原理（确实有一定的门槛）但你至少要了解AI能做什么、不能做什么、它将会如何影响人类的生活。...
-
1342万考生填报志愿这件事 ，AI搜索可帮了大忙
又是一年，千军万马过独木桥。 就在本月，2024年高考刚刚结束。今年的高考报名人数达到了创纪录的1342万。对于很多人来说，人生正在迈入一个新的阶段。 下个星期，各省市即将进入志愿填报阶段，相比考试本身，这部分工作同样重要，有关大量信息的获取和分析，也需要...
-
高考志愿服务，一张AI搜索的现实考卷
随着最后一笔落下，承载着高考考生们的知识考卷就此完成。另一张更为复杂的现实考卷——志愿填报，悄然摆在了家长和考生们的面前。 2024是多个省份进入新高考的第一年，新高考为考生带来了更大的选择空间和自由度，一些地区的考生需要填报的志愿数量达到几十、上百个。...