-
NCSC、CISA 等国际机构发布新的 AI 安全指南
英国国家网络安全中心(NCSC)、美国网络安全与基础设施安全局(CISA 以及其他16个国家的国际机构发布了一份关于人工智能系统安全的新指南。这些《安全 AI 系统开发指南》旨在为开发人员提供指导,确保在设计、开发、部署和运营 AI 系统的过程中,安全性始...
-
大模型部署实战(一)——Ziya-LLaMA-13B
❤️觉得内容不错的话,欢迎点赞收藏加关注???,后续会继续输入更多优质内容❤️ ?有问题欢迎大家加关注私戳或者评论(包括但不限于NLP算法相关,linux学习相关,读研读博相关......)? 博主原文链接:https://www.yo...
-
AIGC之GPT-4:GPT-4的简介与详细攻略
AIGC之GPT-4:GPT-4的简介与详细攻略 简介 欢迎来到人工智能生成内容(AIGC)时代的新篇章!本篇博客将介绍GPT-4(Generative Pre-trained Transformer 4)的核心原理、意义、亮点、技术点、缺点以及使...
-
Llama 及 中文Alpaca模型部署测试
环境: Xeon E5-2680v4 16C 40G RAM WinServer 2019 Standard Edition Python 3.10 依赖库: accelerate==0.18.0 anyio==3.5.0 argon2-c...
-
在GPU云服务器中部署Stable Diffusion web UI
在GPU云服务器中部署Stable Diffusion web UI 1. 前言 2. 关于云服务器的选择 3. 关于机器的选择 4. 部署Stable Diffusion Python和CUDA 检查pip源 下载Stable Diffus...
-
Llama2通过llama.cpp模型量化 Windows&Linux本地部署
Llama2通过llama.cpp模型量化 Windows&Linux本地部署 什么是LLaMA 1 and 2 LLaMA,它是一组基础语言模型,参数范围从7B到65B。在数万亿的tokens上训练的模型,并表明可以专门使用公开可用的数据...
-
要点初见:Stable Diffusion NovelAI模型优质文字Tag汇总与实践【魔咒汇总】
目前贴吧、B站上有大量Stable Diffusion的模型资源、TAG、TAG生成器分享,其中居然有不少试图靠信息差把这些开源资源卖钱的。加上目前网上相关的TAG整理贴极少,不少TAG也是以图片的形式存在,故博主打算在此专门整理一下网友们实践过的成套的“...
-
Distil-Whisper:比Whisper快6倍,体积小50%的语音识别模型
内容来源:@xiaohuggg Distil-Whisper:比Whisper快6倍,体积小50%的语音识别模型 该模型是由Hugging Face团队开发,它在Whisper核心功能的基础上进行了优化和简化,体积缩小了50%。速度提高了6倍。并...
-
LLMs之LLaMA:《LLaMA: Open and Efficient Foundation Language Models》翻译与解读
LLMs之LLaMA:《LLaMA: Open and Efficient Foundation Language Models》翻译与解读 导读:该论文提出了一个开源的大规模语言模型LLaMA,2048个A100-80G训练21天。该...
-
教你如何使用PyTorch解决多分类问题
本文分享自华为云社区《使用PyTorch解决多分类问题:构建、训练和评估深度学习模型》,作者: 小馒头学Python。 引言 当处理多分类问题时,PyTorch是一种非常有用的深度学习框架。在这篇博客中,我们将讨论如何使用PyTorch来解决多分类...
-
【云上探索实验室】活动小记-《使用 Amazon SageMaker 构建机器学习应用》《基于 Amazon SageMaker 构建细粒度情感分析应用》《基于Stable Diffusion模》
有幸参加亚马逊的【云上探索实验室】实验活动,活动围绕亚马逊 SageMaker开展。Amazon SageMaker 是一项完全托管的机器学习服务。借助 SageMaker,开发人员可以快速、轻松地构建和训练机器学习模型,然后直接将模型部署到生产就绪托管环...
-
Stable Diffusion在各种显卡上的加速方式测试,最高可以提速211.2%
Stable Diffusion是一种基于扩散模型的图像生成技术,能够从文本生成高质量的图像,适用于CG,插图和高分辨率壁纸等领域。 但是它计算过程复杂,使得它的生成速度较慢。所以研究人员就创造了各种提高其速度的方式,比如Xformers、Aitempl...
-
NLP(六十四)使用FastChat计算LLaMA-2模型的token长度
LLaMA-2模型部署 在文章NLP(五十九)使用FastChat部署百川大模型中,笔者介绍了FastChat框架,以及如何使用FastChat来部署百川模型。 本文将会部署LLaMA-2 70B模型,使得其兼容OpenAI的调用风格。部署的D...
-
LLMs之Vicuna:在Linux服务器系统上实Vicuna-7B本地化部署(基于facebookresearch的GitHub)进行模型权重合并(llama-7b模型与delta模型权重)、模型部
LLMs之Vicuna:在Linux服务器系统上实Vicuna-7B本地化部署(基于facebookresearch的GitHub 进行模型权重合并(llama-7b模型与delta模型权重 、模型部署且实现模型推理全流程步骤的图文教程(非常详细 ...
-
最新本地大模型进展#Chinese-LLaMA-2支持16k长上下文
Hi,今天为大家介绍最新的本地中文语言模型进展。 [2023/08/25] Chinese-LLaMA-2发布了新的更新: 长上下文模型Chinese-LLaMA-2-7B-16K和Chinese-LLaMA-2-13B-16...
-
图生图—AI图片生成Stable Diffusion参数及使用方式详细介绍
本文为博主原创文章,未经博主允许不得转载。 本文为专栏《Python从零开始进行AIGC大模型训练与推理》系列文章,地址为“https://blog.csdn.net/suiyingy/article/details/13...
-
Stable Diffusion云端部署流程与注意点
前言 在今天的大数据时代,AI绘图是企业必备的重要工具之一。而Stable Diffusion作为一款部署的AI绘图,得到了很多企业和团队的认可。在使用Stable Diffusion的过程中,云部署是一个非常重要的话题,本文将详细介绍Stable Di...
-
基于Amazon SageMaker平台部署Stable Diffusion模型实现——图片识别
序言: 当谈到机器学习和人工智能的开发和部署时,Amazon SageMaker是一个非常强大和全面的平台。作为一项托管式的机器学习服务,Amazon SageMaker提供了一套完整的工具和功能,帮助开发者轻松构建、训练和部署机器学习模型。 首先,让...
-
LLMs之Code:Code Llama的简介(衍生模型如Phind-CodeLlama/WizardCoder)、安装、使用方法之详细攻略
LLMs之Code:Code Llama的简介(衍生模型如Phind-CodeLlama/WizardCoder 、安装、使用方法之详细攻略 导读:2023年08月25日(北京时间 ,Meta发布了Code Llama,一个可以使用文本提示生成...
-
在亚马逊云科技Amazon SageMaker上进行Stable Diffusion模型训练和推理
Stable Diffusion Quick Kit是一个基于亚马逊云科技Amazon SageMaker进行Stable Diffusion模型快速部署的工具包,包括了一组示例代码、服务部署脚本、前端UI,可以帮助可以快速部署一套Stable Diff...
-
LLama 2部署教程+私有模型分发
近日,Meta发布了LLama的最新版本——LLama2,尽管其对中文的处理能力尚有待提升,但其整体表现无疑是令人瞩目的。在发布当天,我便迫切地将其下载下来进行试用,发现相比之前的版本,LLama2在多个方面都实现了显著的进步,特别是在编程能力上的提升更为...
-
探索下一步:红帽“三位一体”护航企业数字化转型
“降本增效是结果,不是过程,但怎么才能实现降本增效?” 带着客户抛出的疑问以及跟客户交流时记下的满满两页笔记,红帽全球副总裁兼大中华区总裁曹衡康匆匆赶到媒体沟通会。数字化转型并非一日之功,在充满经济波动和技术颠覆的环境下,步入数字化转型中场的众多企...
-
使用百度EasyDL实现电动车进电梯自动预警
项目说明 业务背景 近年来,电动车进楼入户发生火灾的事故屡见不鲜,针对该问题,社区物业已明令禁止电动车入户,但是依然有住户忽视这个问题的严重性。 业务难点 由于小区电梯多,人工监控很难及时发现电瓶车入户违规,最终造成严重的人员伤亡事故。 同...
-
视觉感知未来,高德数据采集模型部署实践!
1. 导读 作为DAU过亿的国民出行服务平台,高德地图每天为用户提供海量的检索、定位和导航服务,实现这些服务需要有精准的道路信息,比如电子眼位置、路况信息、交通标识位置信息等。读者是否会好奇,高德是如何感知到现实世界的道路信息,并提供这些数据给用户呢?...
-
阿里云发布通义星尘、通义灵码等产品 推出大模型应用开发平台阿里云百炼
在昨日的2023云栖大会上,阿里云发布了多个重要的产品和技术。 首先是通义大模型家族的更新。阿里云发布了千亿级参数规模的大模型通义千问2.0,综合性能超过了 GPT-3.5,正在追赶 GPT-4。此外,通义千问 APP 也在各大手机应用市场上线,用户可以直...
-
阿里云全面升级AI基础设施,中国大模型公司一半跑在阿里云上!
10月31日,在2023云栖大会上,阿里云CTO周靖人表示,面向智能时代,阿里云将通过从底层算力到AI平台再到模型服务的全栈技术创新,升级云计算体系,打造一朵AI时代最开放的云。在现场,周靖人公布了云计算基础能力的最新进展,升级了人工智能平台,并发布千亿...
-
通义千问有没有app?通义千问api接口文档在哪里找
在 10 月 31 日的 2023 云栖大会上,阿里云CTO周靖人宣布阿里云将全面升级云计算体系,打造一个面向AI时代最开放的云,涵盖从底层算力到AI平台再到模型服务的全栈技术创新。目前,中国有一半的大模型企业运行在阿里云上, 280 万AI开发者活跃在阿...
-
通义千问APP下载官网入口 通义千问手机版下载地址
在 2023 年的云栖大会上,阿里云CTO周靖人宣布,阿里云将升级其云计算体系,以适应智能时代的需要,从底层的算力到AI平台再到模型服务,阿里云将提供全栈技术创新。周靖人还宣布了阿里云通义千问2. 0 的发布,这是一款千亿级参数规模的大模型,以及阿里云百炼...
-
Meta AI研究负责人倡导开源许可制度变革
Meta公司最近发布的大型语言模型Llama2备受争议,因其并未完全满足开源倡议的要求。尽管Llama2相对较为开放和免费,但在开源软件领域,一些人仍对该公司的开放性持有异议。 具体来说,Meta公司的许可协议使Llama2对许多人免费,但它仍然是有限的,...
-
RLHF与AlphaGo核心技术强强联合,UW/Meta让文本生成能力再上新台阶
在一项最新的研究中,来自 UW 和 Meta 的研究者提出了一种新的解码算法,将 AlphaGo 采用的蒙特卡洛树搜索算法(Monte-Carlo Tree Search, MCTS)应用到经过近端策略优化(Proximal Policy Optimiz...
-
OpenAI 宣布成立新团队以评估和防范人工智能模型可能带来的「灾难性风险」
OpenAI 今天宣布,已成立一个名为「准备组」(Preparedness)的新团队,由麻省理工学院可部署机器学习中心的主任亚历山大·马德里(Aleksander Madry)领导,以评估、检测并预防人工智能模型可能导致的「灾难性风险」。 据 Linke...
-
财报拆解:微软押注生成式AI已有回报,谷歌还在挣扎
微软和谷歌发布财报,一家欢喜一家忧愁。由于大胆押注AI,微软开始获得一些回报,业绩不错。反观谷歌,核心业务增长乏力,虽然它也在积极投资新技术,但业绩并没有惊艳之处。 微软Azure增速加快,生成式AI贡献约3% 最近一个季度,微软获得营收565亿美元,...
-
AI初创公司CentML融资2700万美元 用于解决AI模型高成本问题
AI初创公司CentML最近成功完成了一轮扩展种子融资,募得2,700万美元,旨在开发能够降低机器学习模型部署成本并提高性能的工具。这次融资得到了Gradient Ventures、TR Ventures、Nvidia以及微软Azure AI副总裁Mish...
-
边缘人工智能在实时数据分析和决策中的作用
了解边缘人工智能 边缘人工智能是指将人工智能算法和模型部署在传感器、摄像头、物联网设备等边缘设备上,而不是依赖集中式云服务器。这种方法使计算更接近数据源,允许更快的处理和即时洞察,对实时决策特别有价值。 低延迟:边缘人工智能降低了延迟,因为数据不需要传...
-
度小满自动机器学习平台实践
一、机器学习平台 首先介绍一下度小满机器学习平台的背景、发展过程以及现状。 1、业务场景 度小满是一家金融科技公司,公司内部的业务场景主要分为三个方面: 智能风控:涉及关系数据挖掘、文本数据挖掘、情感分析等 NLP 技术,及人脸识别等 CV 技术。...