-
AMD发布首个AI小语言模型：6900亿token、推测解码提速3.88倍
快科技10月1日消息，AMD发布了自己的首个小语言模型(SLM ，名为AMD-135M”。 相比于越来越庞大的大语言模型(LLM ，它体积小巧，更加灵活，更有针对性，非常适合私密性、专业性很强的企业部署。 AMD-135小模型隶属于Llama家族，有两个版...
-
Llama中的曼巴：通过推测解码加速推理
大型语言模型（LLMs）已经彻底改变了自然语言处理领域，但在处理非常长的序列时面临重大挑战。主要问题来自于Transformer架构的计算复杂度随序列长度呈二次方增长以及其巨大的键值（KV）缓存需求。这些限制严重影响了模型的效率，特别是在推理过程中，使生成...
-
基于MindSpore实现BERT对话情绪识别
本文分享自华为云社区《【昇思25天学习打卡营打卡指南-第二十四天】基于 MindSpore 实现 BERT 对话情绪识别》，作者：JeffDing。 模型简介 BERT全称是来自变换器的双向编码器表征量（Bidirectional Encoder...
-
马斯克兑现承诺，Grok模型携3140亿参数强势开源，商业用途全免费！
马斯克确实以其高效率和大胆的行动著称，最近他旗下的AI初创企业xAI宣布了一项引人注目的举措：开源了一个名为Grok-1[1]的混合专家模型。 这个模型拥有3140亿个参数，是目前参数量最大的开源大型语言模型之一，而允许商用、可修改和分发，对各种自研...
-
“urshop采集插件”的功能、应用与未来发展
在当今这个信息爆炸的时代，数据采集已经成为许多企业和个人不可或缺的一项工作。无论是进行市场分析、竞品研究，还是进行内容创作、学术研究，高效、准确地采集数据都是成功的关键。而“urshop采集插件”作为一款功能强大的数据采集工具，正是为了满足这一需求而诞生的...
-
网络安全中的机器学习：挑战与比较
在数字互联时代，机器学习(ML 在网络安全防御中的作用已变得不可或缺。机器学习算法能够识别大量数据集中的模式和异常，为预防和减轻网络威胁提供了一条有前景的途径。然而，在乐观的情绪中，也存在着许多必须解决的挑战，才能在网络安全领域有效地利用机器学习。...
-
人工智能实战：Stable Diffusion技术分享
背景 Stable Diffusion是计算机图形学和可视化领域中的一项重要技术。在这篇分 享中 ，我们将深入探讨稳定扩散的原理、关键要素和实施步骤 ，通过了解Stable Diffusion的流程化 ，我们可以提升自身的设计能力和创造力 ，为公司 和个...
-
2024年华数杯国际赛文心一言解题思路B题 光伏电
问题一：中国电力供应发展趋势预测 概要回答： 中国的电力供应发展趋势将受到经济增长、能源政策、技术进步和市场需求等多重因素的影响。为了实现碳峰值和碳中和目标，预计可再生能源（包括光伏发电）在电力结构中的比重将显著增加。 解决方案框架： 收集历史电力...
-
使用Amazon SageMaker构建高质量AI作画模型Stable Diffusion
使用Amazon SageMaker构建高质量AI作画模型Stable Diffusion 0. 前言 1. Amazon SageMaker 与机器学习 1.1 机器学习流程 1.2 Amazon SageMaker 简介 1.3 Amaz...
-
llama.cpp LLM模型 windows cpu安装部署踩坑记录
一直想在自己的笔记本上部署一个大模型验证，早就听说了llama.cpp，可是一直没时间弄。 今天终于有时间验证了。首先本机安装好g++,cmake.我下载的cmake版本是cmake-3.27.0-rc4-windows-x86_64.msi。安装时选择...
-
田渊栋团队最新论文解决大模型部署难题 推理系统吞吐量提高近30倍！
田渊栋团队最新发表的论文解决了大型语言模型在实际部署中遇到的内存和输入长度限制的问题，将推理系统的吞吐量提高了近30倍。论文提出了一种实现KV缓存的新方法，通过识别和保留重要的tokens，显著减少了内存占用，并在长输入序列的任务中表现良好。 这篇论文的研...
-
Meta 、IBM等联合50多家公司结构成立 AI 联盟
标题:Meta 和 IBM 推出 AI 联盟 Meta Platforms 和 IBM 最近联合推出了一个名为 AI 联盟的合作项目，该联盟由50多家人工智能公司和研究机构组成。这个联盟旨在推动一种被称为 “开放模型” 的人工智能发展方式，并希望在快速增...
-
成功实施人工智能的八个步骤
实施人工智能从来不是一件一劳永逸的事情，它需要广泛的战略，以及不断调整的过程。 以下了解企业成功实施人工智能的一些关键的实施步骤，以帮助人工智能和机器学习充分发挥其潜力。 人工智能和机器学习正从商业流行术语转向更广泛的企业应用。围绕战略和采用的努力让...
-
中国AIGC数据标注全景报告：百亿市场规模，百万就业缺口
数据标注，正迎来关键洗牌时刻。 大模型时代到来，以数据为中心的AI开发模式加速走向台前，数据的价值从未向今天这样被充分挖掘—— 大模型从训练到部署应用迭代，AIGC众多垂直场景落地，通用智能、具身智能等前沿领域探索，都与高质量、专业化的场景数据密不可分。...
-
LoRa模型训练教程（炼丹，Stable Diffusion）
1. lora介绍（Low Rank Adaption） 何为LoRA？LoRA并不是扩散模型专有的技术，而是从隔壁语言模型（LLM）迁移过来的，旨在解决避免将整个模型参数拷贝下来才能对模型进行调校的问题。因为大型语言模型的参数量过于恐怖，比如最近新出...