-
模型量化与量化在LLM中的应用 ｜ 得物技术
【图片出处：Knowledge Distillation: A survey,2021,p2】 剪枝则是通过靠剪除模型中不重要的权重从而给模型“瘦身”，提高模型的推理效率，为了保证模型的能力，通常剪枝过程也需要伴随着模型基于训练数据的微调。根据剪除权重的...
-
InstantMesh:新AI框架可在10秒内从2D图像生成高质量3D网格
根据研究团队发表的预印本文章，InstantMesh是由腾讯PCG ARC实验室和上海科技大学的研究人员开发的人工智能框架，能够在仅需10秒的时间内，从单个2D图像生成高质量的3D网格。 该开源框架由多视图扩散模型和3D网格重建模型组成，通过使用不同角度...
-
元象开源首个多模态大模型XVERSE-V 支持任意宽高比图像输入
元象公司发布了首个多模态大型模型 XVERSE-V，并将其开源。这一模型支持任意宽高比的图像输入，并在多个权威评测中取得了优异的成绩。 相比其他开源和闭源模型，XVERSE-V 在综合能力上表现出色。该模型采用了融合整体和局部信息的策略，使其在识别和分析...
-
Llama 3低比特量化性能下降显著！全面评估结果来了 | 港大&北航&ETH
大模型力大砖飞，让LLaMA3演绎出了新高度： 超15T Token数据上的超大规模预训练，既实现了令人印象深刻的性能提升，也因远超Chinchilla推荐量再次引爆开源社区讨论。 与此同时，在实际应用层面上，另一个热点话题也浮出水面： 资源有限场景下...
-
首批中文版Llama3模型来了，解释成语、答弱智吧问题
最近，Meta 推出了 Llama 3，为开源大模型树立了新的标杆。 和以往的原始 Llama 模型一样，Llama 3 对中文的支持效果欠佳，经常会出现你用中文提问，它用英文或中文+英文回复的现象。因此，要想让国内用户用上该模型，开发者还需对其进行微调...
-
融汇14个AI工具构建完美应用
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 上篇：融汇11款AI工具构建完美应用 如您所见，人工智能（AI）应用在近年来得到了长足的发展。从语音助手到软件开发，人工智能已在我们...
-
微软3.8B模型媲美GPT-3.5！小到用iPhone就能跑起来，网友：Good data is all you need!
撰文、整理 | 伊风 出品 | 51CTO技术栈（微信号：blog51cto） 这周，“小模型”之战打得可谓精彩非凡，让人目不暇接。前脚，小扎刚在采访中自豪地宣布Llama3 80亿模型几乎与此前Llama2 700亿模型的性能差不多...
-
新测试基准发布，最强开源Llama 3尴尬了
如果试题太简单，学霸和学渣都能考90分，拉不开差距…… 随着Claude 3、Llama 3甚至之后GPT-5等更强模型发布，业界急需一款更难、更有区分度的基准测试。 大模型竞技场背后组织LMSYS推出下一代基准测试Arena-Hard，引起广泛关注。...
-
开源模型打败GPT-4！LLM竞技场最新战报，Cohere Command R+上线
GPT-4又又又被超越了！ 近日，LLM竞技场更新了战报，人们震惊地发现：居然有一个开源模型干掉了GPT-4！ 这就是Cohere在一周多前才发布的Command R+。 排行榜地址：https://huggingface.co/spaces/lmsy...
-
Llama 3每秒输出800个token逼宫openAI！下周奥特曼生日或放出GPT-5？
【新智元导读】Llama3的开源，或将催生数十亿美元新产业。发布不到一周的时间，全网各种测试微调都开启了。甚至，Llama3在Groq上的输出速度实现了每秒800个token。 Llama3诞生之后便艳压群雄，开源界已无「模」能敌。 甚至，让网友为Open...
-
五种搭建LLM服务的方法和代码示例
在不断发展的大型语言模型（LLMs）领域中，用于支持这些模型的工具和技术正以与模型本身一样快的速度进步。在这篇文章中，我们将总结5种搭建开源大语言模型服务的方法，每种都附带详细的操作步骤，以及各自的优缺点。 1、Anaconda + CPU 我们首先介...
-
小即是大？HuggingFace CEO预测小模型元年将至，将成为AI的下一个“大事件”
编译 | 伊风 出品 | 51CTO技术栈（微信号：blog51cto） 在人工智能领域的竞争中，科技巨头们一直在竞相构建越来越大的语言模型。Scaling Law 信仰随着模型规模的增加，其性能会指数提升，展现出更好的泛化能力，甚至在某些情况下展现出“...
-
Mixtral：数据流中的生成式稀疏专家混合模型
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ Cloudera公司数据流首席工程师Tim Spann 表示，Mixtral-8x7B大型语言模型(LLM 是一个预先训练的生成式稀疏...
-
开源模型打败GPT-4！LLM竞技场最新战报，Cohere Command R+上线
GPT-4又又又被超越了! 近日，LLM竞技场更新了战报，人们震惊地发现:居然有一个开源模型干掉了GPT-4! 这就是Cohere在一周多前才发布的Command R+。 排行榜地址:https://huggingface.co/spaces/lmsys...
-
这款Linux发行版发起AI禁令！生成代码质量堪忧！阿里也被大模型幻觉愚弄了！网友：人比生产力更重要！
撰稿 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） Gentoo Linux是一套通用的、快捷的、完全免费的Linux发行版，因出色的包管理系统Portage而被开发人员广为喜爱。最近，GentooLinux社区宣布：发行版将不再允...
-
Llama3突然来袭！开源社区再次沸腾：GPT4级模型自由访问时代到来
Llama 3来了！ 就在刚刚，Meta官网上新，官宣了Llama 3 80亿和700亿参数版本。 并且推出即为开源SOTA： Meta官方数据显示，Llama 3 8B和70B版本在各自参数规模上超越一众对手。 8B模型在MMLU、GPQA、Huma...
-
六种方式快速体验最新发布的 Llama 3！
昨晚， Meta 发布了 Llama 3 8B 和 70B 模型，Llama 3 指令调整模型针对对话/聊天用例进行了微调和优化，在常见基准测试中优于许多现有的开源聊天模型。比如，Gemma 7B 和 Mistral 7B。 Llama 3 模型将...
-
AI延时视频生成工具MagicTime在线体验地址放出
MagicTime是一款创新的在线工具，它能够根据用户提供的文本描述生成展示真实世界物理变化过程的时间延迟视频。这种技术的应用范围非常广泛，可以用于记录和展示各种自然和人为引起的变化过程。 体验地址:https://huggingface.co/spac...
-
史上首次，AI超越人类奥赛金牌得主！吴方法加持，30题做出27道破纪录
首位超越国际奥林匹克竞赛金牌得主的AI，刚刚诞生了！ 印度理工学院海得拉巴分校、图宾根AI中心、剑桥大学的研究者发现—— 通过「吴方法」，可以让AI变成和人类数学奥赛银牌得主同样的水平，而「AI数学大师」AlphaGeometry，则直接超越了IMO金牌...
-
AI绘画SD迎来动画革命，AnimateDiff快速出图
如果放在几年前，你告诉我说只需一分钟就能做出一段这样的动画，我是万万不相信的，但是当AI时代来临之后，一切都有了可能。 今天给大家介绍一个可以快速在sd中生成动画的方法，就是一个叫做AnimateDiff的免费开源项目。现在已经整合到了webUI上面，使...
-
2024-03-26 AIGC-大模型学习路线
摘要: 2024-03-26 AIGC-大模型学习路线 大模型学习路线 建议先从主流的Llama开始，然后选用中文的Qwen/Baichuan/ChatGLM，先快速上手体验prompt工程，然后再学习其架构，跑微调脚本 如果要深入学习，建...
-
开源模型首胜GPT-4！竞技场最新战报引热议，Karpathy：这是我唯二信任的榜单
能打得过GPT-4的开源模型出现了！ 大模型竞技场最新战报： 1040亿参数开源模型Command R+攀升至第6位，与GPT-4-0314打成平手，超过了GPT-4-0613。 图片 这也是第一个在大模型竞技场上击败GPT-4的开放权重模型。 大模型竞...
-
阿里开源的32B大模型到底强在哪里？你知道吗？
阿里巴巴最近开源了一个320亿参数的大语言模型Qwen1.5-32B，网上都说很强很强，那么它到底强在哪里呢？ 更高的性价比 Qwen1.5-32B中的B是billion的意思，也就是10亿，32B就代表320亿参数量。 阿里之前还开源过一个大模型Qwe...
-
五种常用于LLM的令牌遮蔽技术介绍以及Pytorch的实现
本文将介绍大语言模型中使用的不同令牌遮蔽技术，并比较它们的优点，以及使用Pytorch实现以了解它们的底层工作原理。 令牌掩码Token Masking是一种广泛应用于语言模型分类变体和生成模型训练的策略。BERT语言模型首先使用，并被用于许多变体(Ro...
-
大模型技术实践（二）｜关于Llama 2你需要知道的那些事儿
在上期文章中，我们简要回顾了Llama模型的概况，本期文章我们将详细探讨【关于Llama 2】，你需要知道的那些事儿。 01-Llama 2的性能有多好？ 作为Meta新发布的SOTA开源大型语言模型，Llama 2是Llama模型的延续和升级。Lla...
-
抱抱脸Open了OpenAI的秘密武器，网易参与复现
OpenAI的秘密武器、ChatGPT背后功臣RLHF，被开源了。 来自Hugging Face、加拿大蒙特利尔Mila研究所、网易伏羲AI Lab的研究人员从零开始复现了OpenAI的RLHF pipeline，罗列了25个关键实施细节。 最终成功展示...
-
[NLP]使用Alpaca-Lora基于llama模型进行微调教程
Stanford Alpaca 是在 LLaMA 整个模型上微调，即对预训练模型中的所有参数都进行微调（full fine-tuning）。但该方法对于硬件成本要求仍然偏高且训练低效。 [NLP]理解大型语言模型高效微调(PEFT 因此， Alpac...
-
刚刚发布！一键生成动漫风格图片的开源模型
向大家介绍一个最新的AIGC开源项目——Animagine XL 3.1。这个项目是动漫主题文本到图像模型的最新迭代，旨在为用户提供更加优化和强大的动漫图像生成体验。 在Animagine XL 3.1中，开发团队着重优化了几个关键方面，以确保模型...
-
阿里刚开源32B大模型，我们立马测试了“弱智吧”
阿里的通义千问（Qwen），终于拼齐了1.5系列的最后一块拼图—— 正式开源Qwen 1.5-32B。 话不多说，直接来看“成绩单”。 这次官方pick同台竞技的“选手”是Mixtral 8x7B模型和同为Qwen 1.5系列的72B模型。 从结果上...
-
llama.cpp部署
llama.cpp 介绍 部署 介绍 大模型的研究分为训练和推理两个部分： 训练的过程，实际上就是在寻找模型参数，使得模型的损失函数最小化； 推理结果最优化的过程； 训练完成之后，模型的参数就固定了，这时候就可以使用模型进行推理，对外...
-
【AIGC】如何在Windows/Linux上部署stable diffusion
文章目录 整体安装步骤 windows10安装stable diffusion 环境要求 安装步骤 注意事项 参考博客 其他事项 安装显卡驱动 安装cuda 卸载cuda 安装对应版本pytorch 安装git上的python包 Q&...
-
AI大模型对神秘学易经有什么用？
Mistral Trismegistus-7B 是一款由AI驱动的神秘学专用模型，专为那些对神秘学、玄学和灵性感兴趣的人设计，可提供从古代智慧到现代塔罗牌占卜等各种神秘主题的见解。 Mistral Trismegistus-7B 名字来源于Hermes...
-
这个AI绘画神器-----SD插件处理服装太给力了！
在上一篇文章中，我为大家详细介绍了Stable Diffusion中一个非常有用的插件，名为ADetailer。 这个插件主要用于修复面部问题并为面部和手增加细节。目前，ADetailer包含了14个不同的模型，每个模型都有其独特的用途。我已经对其中大部...
-
stable diffusion webui ubuntu 安装和教程
0.环境： cuda:11.8 gpu:p40 torch:2.2.0+cu118 python:3.10.12 1.git clone 下来 GitHub - AUTOMATIC1111/stable-diffusion-webui: St...
-
斯坦福团队大模型Octopus v2火了：手机就能运行 准确性超越GPT-4
近日，斯坦福大学研究人员发布的 Octopus v2模型引起了开发者社区的极大关注，其20亿参数的模型一夜下载量超过2k。 这一模型可以在智能手机、汽车、个人电脑等端侧设备上运行，并在准确性和延迟方面表现超越了 GPT-4，同时将上下文长度减少了95%。...
-
斯坦福推可以在手机端跑的大模型 Octopusv2超越GPT-4一夜爆火
斯坦福大学的研究团队近日推出了一款名为Octopusv2的新型人工智能模型，这款模型以其在端侧设备上的强大运行能力而受到广泛关注。 Octopusv2是一款拥有20亿参数的开源语言模型，专为在Android设备上运行而设计，同时也适用于汽车、个人电脑等其他...
-
AI绘画24年最新的Stable Diffusion整合包安装教程，建议收藏！
1、背景信息 ▍Stable Diffusion 是什么？ Stable Diffusion（简称SD）是一种生成式人工智能，于2022年发布，主要用于根据文本描述生成详细图像，也可用于其他任务，如图像的修补、扩展和通过文本提示指导图像到图像的...
-
千古绝句的意境，用AI来传承 | 通过 AIGC 作画，生成古诗名词的场景
前言 中华上下五千年，那些在这漫漫历史长河里沉淀但又熠熠生辉的诗词，是中华文明的瑰宝。纵观历代诗词市集，满是千古绝唱的诗句： 或气势惊人的 “君不见黄河之水天上来，奔流到海不复回” 或淡妆浅细的 “疏影横斜水清浅，暗香浮动月黄昏” 或意境空悠的...
-
20240203在Ubuntu20.04.6下配置stable-diffusion-webui.git
20240203在Ubuntu20.04.6下配置stable-diffusion-webui.git 2024/2/3 11:55 【结论：在Ubuntu20.04.6下，生成512x512分辨率的图像，大概需要11秒钟！】 前提条件，可以通过技术...
-
【换模型更简单】如何用 Serverless 一键部署 Stable Diffusion_
作者｜寒斜（阿里云智能技术专家） 前文回顾 AI 作画火了，如何用 Serverless 函数计算部署 Stable Diffusion?【自己更换模型】如何用 Serverless 一键部署 Stable Diffusion？ 本篇章是阿里云函...
-
『SD』零基础快速搭建Stable Diffusion（Windows版）
theme: smartblue 点赞 + 关注 + 收藏 = 学会了 本文简介 本文介绍如何在 Windows 安装 Stable Diffusion WebUI，不需要懂代码，只要跟着本文一步步操作就能在你电脑用AI绘画了。 只...
-
【Python】科研代码学习：十五 configuration，tokenization 的代码细节：Llama 为例
【Python】科研代码学习：十五 tokenizer的代码细节：Llama_Tokenization 为例 前言 `LlamaConfig`：网络参数配置 `LlamaTokenizer`：分词工具 前言 对于 HF 的 Tr...
-
云原生技术赋能AI绘图：Stable Diffusion在腾讯云的部署与应用新篇章
摘要 随着信息技术的飞速发展和数字化转型的深入推进，云原生架构已成为企业数字化转型的重要基石。Docker容器、Serverless和微服务等技术作为云原生的核心组成部分，正在不断推动着企业应用架构的革新与升级。本文旨在总结近期在云原生实践、容器技术、...
-
元象发布 XVERSE-MoE-A4.2B 大模型 可免费商用
元象发布了 XVERSE-MoE-A4.2B 大模型，采用混合专家模型架构，激活参数为4.2B，效果媲美13B 模型。该模型全开源，免费商用，可用于海量中小企业、研究者和开发者，推动低成本部署。 该模型具有极致压缩和超凡性能两大优势，采用稀疏激活技术，效果...
-
RWKV模型启动工具RWKV Runner新手教程（上）
大家好，今天我们带来了 RWKV Runner 的新手教程。 RWKV Runner 是 RWKV 模型的管理和启动工具，由 RWKV 开源社区成员 josStorer 开发，它本身也是一个开源软件，且体积仅 10MB 左右（不含依赖项）。 RWKV...
-
每日一看大模型新闻（2024.1.12）首个国产开源MoE大模型来了！性能媲美Llama 2-7B，计算量降低60%；谷歌MIT最新研究证明：高质量数据获取不难，大模型就是归途；为大模型恶补数学
1.产品发布 1.1 Luma AI：推出文生3D模型Genie 1.0 发布日期：2024.1.12 https://twitter.com/LumaLabsAI/status/1744778363330535860?s=20 主要内...
-
秋叶大佬24年最新的Stable Diffusion整合包V4.6.7来了～
！ 「 无套路！文末提供下载方式 」 要说今年绘画圈最大的新秀 那妥妥的就Stable Diffution V4升级版无需安装**，直接解压就能用 （在此要感谢秋葉aaaki大佬的分享！） 比之前推送的更加智能、快速和简单 有多简单呢？这么说...
-
MuseV：基于SD的AI视频生成工具 角色一致且视频时长不限
近日，一款名为MuseV的虚拟人视频完整解决方案应运而生，为虚拟人视频领域带来了全新的突破。 MuseV基于SD，支持文生视频、图生视频、视频生视频等多种生成方式，能够保持角色一致性，且不受视频长度限制。这意味着用户可以通过MuseV轻松地将文本、图像或现...
-
性能强，成本低，运行快！最强开源大模型出现，超越ChatGPT和Llama！
大数据人工智能公司 Databricks放大招了！ 3月27日，该公司开源了通用大模型 DBRX，并声称该模型是迄今为止全球最强大的开源大型语言模型，比 Meta 的 Llama 2 更为强大。 GPT-3.5研究测试： https://huj...
-
集体出走的Stability AI 发布全新代码大模型，3B以下性能最优，超越Code Llama和DeepSeek-Coder
Stability AI又有新动作！程序员又有危机了？ 3月26日，Stability AI推出了先进的代码语言模型Stable Code Instruct 3B，该模型是在Stable Code 3B的基础上进行指令调优的Code LM。 Stab...