-
遥遥领先！阿里Qwen-2成全球开源大模型排行榜第一
快科技6月27日消息，全球知名的开源平台Hugging Face的联合创始人兼首席执行官Clem在社交平台激动宣布，阿里巴巴最新开源的Qwen2-72B指令微调版本在开源模型排行榜上荣登榜首。 为了打造一个更为公正和准确的开源大模型排名，Clem及其团队利...
-
AIGC 训练场景下的存储特征研究
云布道师 引言：在传统块存储大行其道的时代，需要针对很多行业的工作负载（Workload）进行调研，包含块大小、随机读、读写比例等等。知道行业的 Workload 对于预估业务的 I/OPS、时延、吞吐等性能有很好的指导意义，其次，也便于制定针对行业的...
-
揭秘XPU架构下AIGC的推理加速艺术--AI PC 新纪元：将 AI 引入 NPU，实现快速低功耗推理...
踏入AIPC新纪元 ，我们似乎穿越到了一个充满魔法的新世界 ，生成式AI和大模型如同现代法师 ，而AIPC和边缘计算则成为他们施展魔法的法杖，从AI聊天机器人到智能绘画工具， 再到数字化虚拟人物 ，魔法杖们不仅推动了新型处理器和计算架构的研发 ，也促...
-
提高Stable Diffusion渲染速度的技巧，来学习一下
了解如何使用快速、简单的修复将渲染速度提高高达 50%。了解特定配置如何优化您的Stable Diffusion过程并提高 Nvidia显卡上的渲染效率。ai绘图渲染速度太慢怎么办？请继续阅读，了解如何实现这个三秒解决方案并最大限度地提高渲染速度，想要提高...
-
面壁智能与华为云合作 开启大模型端云协同解决方案
6月22日，面壁智能与华为云达成正式合作，双方将开启大模型端云协同解决方案正式合作。 在消费电子终端端侧，大模型将能更好融入手机、PC、智能家居、穿戴式设备等，大模型也能与前沿的电动汽车、具身智能等结合，以及在传统的金融、法律、政务服务上，也能发挥效用。...
-
文心一言 VS 讯飞星火 VS chatgpt （242）-- 算法导论17.4 1题
一、假定我们希望实现一个动态的开地址散列表。为什么我们需要当装载因子达到一个严格小于 1 的值 a 时就认为表满？简要描述如何为动态开地址散列表设计一个插入算法，使得每个插入操作的摊还代价的期望值为 O(1 。为什么每个插入操作的实际代价的期望值不必对...
-
stable diffusion 的 GPU 不足怎么解决
稳定扩散（stable diffusion）是一种用于图像处理和计算机视觉任务的图像滤波算法。 当使用Stable Diffusion过程中遇到GPU显示内存不足的问题时。解决这个问题的方法有以下几种： 目前，对我来说，就最后一点能够暂时解决当...
-
GPT-4o攻破ARC-AGI无法被挑战的神话！71%准确率成新SOTA
【新智元导读】号称不可能轻易被击败的AGI基准ARC-AGI被GPT-4o撼动，GPT-4o以在公共测试集50%、在训练集71%的准确率成为了新的SOTA! ARC-AGI是唯一可以用来衡量通用人工智能进展的基准，创造者François Chollets曾...
-
[AIGC] 事务的四大特性是怎么实现的
文章目录 原子性是通过 `undo log`实现的。 一致性是通过 `redo log`实现的。 隔离性的实现 （分事务的隔离级别讨论） 持久性是利用 redo log 实现的 写入过程 原子性是通过 undo log实现的。...
-
vivo X Fold3全球首发瑞声科技Whisper扬声器和AeroEngine
这么轻，还那么强！3月26日，vivo年度折叠旗舰X Fold3系轻盈亮相。作为可能是目前行业最轻的大折叠，vivo X Fold3重量仅219g，展开态厚度仅4.65mm。感知体验方面，vivo与瑞声科技创新合作，为X Fold3量身打造超轻薄触听解决方...
-
Whisper.cpp本地化：Windows端部署详解与实操
简介 什么是Whisper？ OpenAI的Whisper是一个自动语音识别（ASR）系统，它经过了大量多语言和多任务的监督数据训练，能够进行多语言语音识别、语音翻译和语言识别等任务。Whisper模型使用了一个编码器-解码器的Transforme...
-
大模型论文解读|| 数学新巅峰，微软&清华联合研究发现：7B级LLaMA-2模型数学能力惊人，准确率高达97.7%
开篇：数学能力在常规语言模型中的崭露头角 数学能力长期以来被认为是语言模型中难以攻克的领域，只有在模型规模极大或经过大量数学相关预训练的情况下才可能显现。然而，最新的研究表明，即使是规模较小的常规语言模型，如LLaMA-2 7B，也已经展现出了强大的数学...
-
Llama 3 模型上下文长度扩展至1048K
AI苏妲己： Gradient AI 近日宣布，通过其创新的渐进式训练方法，成功将 Llama 3 系列模型的上下文长度扩展至超过100万令牌。 Llama 3 模型最初设计用于处理8000个令牌的上下文长度，这大约相当于6000字或10页文档。为了适...
-
Stable Diffusion详细教程
目录 ?引言 ?Stable Diffusion基本概念 ?潜在扩散模型 ?图像生成原理 ?Stable Diffusion安装部署 ?环境要求 ?安装步骤 ?Stable Diffusion阶段 ?准备阶段 ?训练阶段 ?评估阶...
-
Llama.cpp大模型量化简明手册
大型语言模型 (LLM ，尤其是像 Mixtral 8x7b（467 亿个参数）这样的大型模型，对内存的要求非常高。当你尝试降低推理成本、提高推理速度或在边缘设备上进行推理时，这种内存需求就会变得明显。解决此问题的一个潜在方法是量化。在本文中，我们将使用易...
-
AIGC专题报告：通过NPU和异构计算开启终端侧生成式AI
今天分享的是AIGC系列深度研究报告：《AIGC专题：通过NPU和异构计算开启终端侧生成式AI》。 （报告出品方：Qualcomm） 摘要 生成式 AI 变革已经到来。随着生成式AI 用例需求在有着多样化要求和计算需求的垂直领域不断增加，我们显然需要...
-
Intel三条线优化阿里云通义千问2模型：720亿参数轻松拿捏
快科技6月7日消息，Intel官方宣布，旗下数据中心、客户端、边缘AI解决方案均已经为阿里云通义千问2（Qwen2）的全球发布提供支持，已取得ModelScope、阿里云PAI、OpenVINO等诸多创新成果。 为了最大限度地提升诸通义千问2等大模型的效率...
-
台积电5月销售额飙升30% AI需求成主要驱动力
据外媒报道，台积电在5月份的销售额实现了显著增长，达到了2296亿新台币（约合71亿美元），同比增长30%。这一增长主要得益于人工智能需求的激增以及部分消费电子产品的复苏。 作为全球最大的合同芯片制造商，台积电受益于全球范围内对人工智能服务的竞争加剧。公司...
-
LLM微调技术LoRA图解
译者 | 朱先忠 审校 | 重楼 简介 当涉及到大型语言模型时，微调可能是人们讨论最多的技术方面的内容之一。大多数人都知道，训练这些模型是非常昂贵的，需要大量的资本投资;所以，看到我们可以通过采用现有的模型并用自己的数据对模型进行微调，从而创建一个具有...
-
腾讯混元发布开源文生图大模型混元DiT加速库 生图时间缩短75%
腾讯混元发布了针对开源文生图大模型混元 DiT 的加速库，可将推理时间缩短75%，生图时间大幅缩短。 混元 DiT 模型也已部署至 Hugging Face Diffusers 通用模型库，用户可通过三行代码调用模型，无需下载原始代码。 通过知识蒸馏和 T...
-
推荐：Lightning Whisper MLX —— 专为Apple Silicon优化的闪电般快速的Whisper实现
推荐：Lightning Whisper MLX —— 专为Apple Silicon优化的闪电般快速的Whisper实现 项目地址:https://gitcode.com/mustafaaljadery/lightning-whisper-mlx 在...
-
LLM并发加速部署方案（llama.cpp、vllm、lightLLM、fastLLM）
大模型并发加速部署 解析当前应用较广的几种并发加速部署方案！ llama.cpp、vllm、lightllm、fastllm四种框架的对比： llama.cpp：基于C++，①请求槽，②动态批处理，③CPU/GPU混合推理 vllm：基于Pyth...
-
llama.cpp制作GGUF文件及使用
llama.cpp的介绍 llama.cpp是一个开源项目，由Georgi Gerganov开发，旨在提供一个高性能的推理工具，专为在各种硬件平台上运行大型语言模型（LLMs）而设计。这个项目的重点在于优化推理过程中的性能问题，特别是针对CPU环境。以...
-
XSKY对象存储深度结合Alluxio分布式缓存系统，GPU利用率提高至90%以上
近日，Alluxio分布式缓存系统完成了与XSKY星辰天合的 XEOS V6.4 对象存储的兼容性测试，旨在解决数据管理和加速方面的挑战。双方进行了深度的产品对接和联合开发，将 Alluxio 分布式缓存系统与 XEOS 对象存储的众多应用特性进行结合，推...
-
部署基于内存存储的 Elasticsearch - 一亿+条数据，全文检索 100ms 响应
1. 在主机上挂载内存存储目录 创建目录用于挂载 mkdir /mnt/memory_storage 挂载 tmpfs 文件系统 mount -t tmpfs -o size=800G tmpfs /mnt/memory_storage 存储空间会按需使...
-
Stable Diffusion模型基于 TensorFlow 或 PyTorch 训练
安装必要的软件和库： 安装 Python（建议使用 Python 3.x 版本）。 安装 TensorFlow 或 PyTorch，具体版本取决于你的模型是基于哪个框架训练的。 安装其他可能需要的依赖，如 NumPy、Matplotlib 等。...
-
苏妈杀疯了：移动端最强NPU算力达50TOPS，最强AI芯片挑战英伟达
一年一度的 Computex 科技大会成为了 GPU 厂商们秀肌肉的舞台，其中当属英伟达和 AMD 最为亮眼。英伟达现场拿出了量产版 Blackwell 芯片，还公布了未来三年的产品路线，包括下一代 Rubin AI 平台。 AMD 当然也不甘示弱，CE...
-
为什么你的RAG不起作用？失败的主要原因和解决方案
无数企业正在尝试使用检索增强生成（RAG），但在制作这些系统达到生产质量时普遍会感到失望。因为他们的RAG不仅运行效果差，而且对于如何改进和如何进行后续的工作也感到十分的迷茫。 其实阻碍RAG系统的一个关键因素是语义不协调，这是由于任务的预期含义、RA...
-
[AIGC] redis 持久化相关的几道面试题
文章目录 1. 什么是Redis持久化？ 2. Redis 的持久化机制是什么？各自的优缺点？ 2.1 RDB（Redis DataBase），快照 2.2 AOF（Append Only File），日志 3. 优缺点是什么？ 4. 如何...
-
一键 input 苹果 OpenELM，零门槛 Llama 3 教程，40+ 优质模型/数据集/教程，建议收藏！...
现在 AI 行业什么最火？ 「大模型」一定仍然排在前三甲的位置。 自从 2022 年底 ChatGPT 面世以来，大模型在各行各业已经带来了太多的惊喜，应用场景愈发丰富，同时也带动了相关底层技术的普及与普适化。尤其是在开源模型繁荣发展之下，无...
-
Stable Diffusion的微调方法详解
Stable Diffusion作为一种强大的文本到图像生成模型，已经在艺术、设计和科研等多个领域取得了广泛的应用。然而，为了使其更好地适应特定任务或领域，微调（Fine-tuning）技术显得尤为重要。本文将详细介绍Stable Diffusion的微调...
-
OpenAI正式重启机器人团队！之前曾一度被放弃
快科技5月31日消息，据媒体报道，OpenAI将重启其机器人团队。 这一团队在2020年因多种原因被解散，但随着对人工智能机器人的投资升温，OpenAI决定再次进军机器人领域。 据知情人士透露，OpenAI目前正在积极招募研究工程师，以重建曾经解散的机器人...
-
清华「天眸芯」登Nature封面：全球首款类脑互补视觉芯片
在开放世界中，智能系统不仅要处理庞大的数据量，还需要应对各种「长尾问题」，如自动驾驶中面临的突发危险、出入隧道的剧烈光线变化、夜间强闪光干扰等。在这类任务上，传统视觉感知芯片由于受到「功耗墙」和「带宽墙」的限制，往往面临失真、失效或高延迟的问题，严重影响...
-
通过强化学习策略进行特征选择
特征选择是构建机器学习模型过程中的决定性步骤。为模型和我们想要完成的任务选择好的特征，可以提高性能。 如果我们处理的是高维数据集，那么选择特征就显得尤为重要。它使模型能够更快更好地学习。我们的想法是找到最优数量的特征和最有意义的特征。 在本文中，我们将...
-
微调真的能让LLM学到新东西吗:引入新知识可能让模型产生更多的幻觉
大型语言模型(llm 是在巨大的文本语料库上训练的，在那里他们获得了大量的事实知识。这些知识嵌入到它们的参数中，然后可以在需要时使用。这些模型的知识在培训结束时被“具体化”。在预训练结束时，模型实际上停止学习。 对模型进行对齐或进行指令调优，让模型学习...
-
AIGC从入门到实战：ChatGPT 日均算力运营成本的推算
1. 背景介绍 1.1 AIGC的兴起与ChatGPT的突破 近年来，人工智能生成内容（AIGC）技术取得了显著进展，其中以ChatGPT为代表的大型语言模型（LLM）展现出强大的内容生成能力，在对话系统、文本创作、代码生成等领域取得了突破性成果，掀起...
-
通用大模型研究重点之五：llama family
LLAMA Family decoder-only类型 LLaMA（Large Language Model AI）在4月18日公布旗下最大模型LLAMA3，参数高达4000亿。目前meta已经开源了80亿和700亿版本模型，主要升级是多模态、长文本方...
-
腾讯云存储面向AIGC全面升级，搭载全面自研存储引擎
云厂商继续为大模型加速落地铺路架桥。 4月8日，腾讯云宣布云存储解决方案面向AIGC场景全面升级，能够针对AI大模型数据采集清洗、训练、推理、数据治理全流程提供全面、高效的云存储支持。数据显示，采用腾讯云AIGC云存储解决方案，可将大模型的数据清洗和训...
-
探寻Symfony爬虫：构建高效数据抓取解决方案
在当今数字化时代，数据已成为各行各业不可或缺的重要资源。随着互联网信息的爆炸式增长，如何高效地抓取和整合这些数据成为摆在我们面前的重要问题。而“Symfony爬虫”正是在这一背景下应运而生，它以其强大的功能和灵活的特性，为数据抓取提供了全新的解决方案。一、...
-
大模型中GPTs，Assistants API, 原生API的使用场景？
在大模型的使用中，GPTs、Assistants API和原生API各有其独特的应用场景和优势。以下是它们各自的使用场景： GPTs场景： 自然语言处理任务： GPTs擅长处理各种自然语言处理任务，如文本生成、翻译、摘要、情感分析等。 对话系统： 用于构...
-
ESP32接入国产大模型之文心一言：开启AI新篇章
随着人工智能技术的不断发展，AI模型的应用场景越来越广泛。作为国内领先的AI大模型，文心一言已经成为了众多企业和开发者的首选。而ESP32作为一款功能强大的微控制器，也广泛应用于各种智能硬件和物联网领域。近日，ESP32成功接入文心一言，这一合作将为AI应...
-
【实战】Stable Diffusion抠图插件爬坑经历，SD实操案例
今天给大家分享使用后期处理插件stable-diffusion-webui-rembg实现抠图功能。 一、安装步骤 1、主页面，依次点击 扩展 -> 可下载 -> 加载扩展列表 2、搜索rembg 3、点击安装并等待安装完成...
-
只需单卡RTX 3090，低比特量化训练就能实现LLaMA-3 8B全参微调
自 2010 年起，AI 技术历经多个重大发展阶段，深度学习的崛起和 AlphaGo 的标志性胜利显著推动了技术前进。尤其是 2022 年底推出的 ChatGPT，彰显了大语言模型（LLM）的能力达到了前所未有的水平。自此，生成式 AI 大模型迅速进入高...
-
在个人 Linux 机器 (GPU/CPU) 上本地运行 LLaMA-3(Docker+Ollama+Open WebUI+LLama3教程含详细步骤)
在当今快速发展的人工智能环境中，部署开源大型语言模型 (LLM 通常需要复杂的计算基础设施。然而，Ollama 的创新平台正在改变这一规范，支持在标准个人计算机上使用这些强大的模型，支持CPU和GPU配置。本指南介绍了如何使用 Ollama 在您自己的设...
-
深入解析“ermeb爬虫”技术与应用
随着互联网技术的不断进步和数据的爆炸式增长，网络爬虫作为一种自动化抓取网络数据的工具，其重要性和应用价值日益凸显。在众多爬虫工具中，“ermeb爬虫”以其独特的技术特性和广泛的应用场景，逐渐赢得了业内外的关注与认可。本文将对“ermeb爬虫”进行深入的解析...
-
微软重磅出击！新一代Copilot+ PC正式发布，直面苹果与OpenAI
微软重磅出击！新一代Copilot+ PC正式发布，直面苹果与OpenAI 博主猫头虎的技术世界 ? 欢迎来到猫头虎的博客 — 探索技术的无限可能！ 专栏链接： ? 精选专栏： 《面试题大全》 — 面试准备的宝典！ 《I...
-
深入探索：基于CodeIgniter框架的爬虫应用开发
在当今数据驱动的时代，网络爬虫作为一种高效的数据采集工具，正日益受到开发者们的青睐。而在众多开发框架中，CodeIgniter以其简洁、轻量且易于上手的特点脱颖而出，成为不少开发者构建爬虫应用的首选。本文将详细探讨基于CodeIgniter框架的爬虫应用开...
-
[AIGC ]详解MinIO：特性，Docker部署和Spring Boot集成
MinIO是一个基于Apache License v2.0开源协议的对象存储服务。它兼容亚马逊S3云存储服务接口，非常适合存储大容量非结构化的数据，如图片、视频、日志文件、备份数据、容器/虚机镜像等，而且MinIO非常轻量，只有一个单独的二进制文件。它的设...
-
Mojo崛起：AI-first 的编程语言能否成为新流行？
作者 | James Thomason 编译 | 伊风 出品 | 51CTO技术栈（微信号：blog51cto） 眨眼之间，你可能会错过又一种编程语言的发明。 有个笑话说，程序员花费20%的时间编写代码，80%的时间决定使用什么语言。 事实上，编程语言如...
-
moto X50 Ultra今天开启预售！搭载骁龙8gen3的AI旗舰来了！
今天，摩托罗拉旗下moto X50 Ultra手机正式开启预售。这款手机搭载了骁龙8gen3处理器，并提供12 256GB、12 512GB和16 1TB三种存储配置可选，售价分别为3999元、4299元和4699元。 moto X50 Ultra采用了金...