-
OpenAI发布新的AI微调工具：“绝大多数组织将开发定制模型”
OpenAI宣布了对其微调API的重大增强，以及其定制模型程序的扩展。这些更新将赋予开发者前所未有的控制权，以微调AI模型，并为构建特定业务需求的定制模型提供新途径。自2023年8月推出以来，GPT-3.5的微调API已经成为组织精细化AI模型以执行特定...
-
什么是生成式AI？有哪些特征类型
生成式AI是人类一种人工智能技术，可以生成各种类型的内容，包括文本、图像、音频和合成数据。那么什么是人工智能？人工智能和机器学习之间的区别是什么？有哪些技术特征？ 人工智能是一门学科，是计算机科学的一个分支，研究智能代理的创建，这些智能代理是可以推理、...
-
昇思MindSpore 2.3全新发布 | 昇思人工智能框架峰会2024圆满举办
北京时间3月22日消息，人工智能框架作为软件根技术，已成为加速人工智能大模型开发、推动产业智能化发展的核心力量。以“为智而昇，思创之源”为主题的昇思人工智能框架峰会2024今日在北京国家会议中心举办，旨在汇聚AI产业界创新力量，推动根技术持续创新，共建人...
-
通义千问1.5(Qwen1.5)大语言模型在PAI-QuickStart的微调与部署实践
作者：汪诚愚（熊兮）、高一鸿（子洪）、黄俊（临在） Qwen1.5（通义千问1.5）是阿里云最近推出的开源大型语言模型系列。作为“通义千问”1.0系列的进阶版，该模型推出了多个规模，从0.5B到72B，满足不同的计算需求。此外，该系列模型还包括了Base...
-
生成式 AI 时代，手机正在进行一次全栈革新？
最近一段时间，AI 与大模型技术突飞猛进。春节刚过，前沿方向上就迎来了新一轮突破。 OpenAI 的 Sora 一下子把 AI 视频生成的进度条拉快了半年。 在大模型的应用领域，技术落地应用的速度也在加快。目前各家大厂的新一代旗舰手机已经悉数登场，它们绝...
-
【阿里云】使用EAS一键部署Stable Diffusion AIGC绘画
文章目录 前言 前提条件 部署EAS服务 1. 进入PAI-EAS 模型在线服务页面 2. 点击部署服务 3. 在部署服务页面，配置以下关键参数 4. 点击部署后等待 自己的模型及输出目录等内容如何挂载 启动WebUI进行模型推理 后续...
-
雷军建议加强人工智能人才培养：顶尖AI人才储备不足
雷军在全国两会上提出了关于多个领域的建议，其中包括绿色低碳、人工智能、智能驾驶和智能制造等关键议题。 首先，雷军对绿色低碳领域的发展提出了加快建立制造业碳足迹背景数据库的建议。在全球碳中和的大背景下，他认为我国制造业在实现“双碳”目标中承担着重要责任。面对...
-
雷军2024两会建议：建议加强培养AI人才
雷军今日在全国两会上提出了多项建议，涉及绿色低碳、人工智能、智能驾驶和智能制造等多个领域。他强调了我国在这些领域的发展潜力和面临的挑战，并提出了相应的解决策略。 首先，针对绿色低碳领域，雷军建议加快建立制造业碳足迹背景数据库，以推动国际衔接与互认。他强调，...
-
Gemma.cpp官网体验入口 谷歌Gemma AI模型下载地址
Gemma.cpp是谷歌为Gemma模型开发的轻量级、独立的C++推理引擎。它专注于为Gemma 2B和7B模型提供简洁、直接的实现，旨在支持研究和实验用例，易于嵌入其他项目且具有高度的可修改性。gemma.cpp利用Google Highway库，优化了...
-
BentoML：如何使用 JuiceFS 加速大模型加载
BentoML 是一个开源的大语言模型（LLM） AI 应用的开发框架和部署工具，致力于为开发者提供最简单的构建大语言模型 AI 应用的能力，其开源产品已经支持全球数千家企业和组织的核心 AI 应用。 当 BentoML 在 Serverless 环...
-
什么是机器学习中的模型部署？
在机器学习中，模型部署是将机器学习模型集成到现有生产环境中的过程，在该环境中，模型可以接受输入并返回输出。目标是让其他人可以使用经过训练的机器学习模型的预测。 大多数在线资源侧重于机器学习生命周期的前期步骤，例如探索性数据分析(EDA 、模型选择和模型...
-
清华系2B模型杀出，性能吊打LLaMA-13B
2 月 1 日，面壁智能与清华大学自然语言处理实验室共同开源了系列端侧语言大模型 MiniCPM，主体语言模型 MiniCPM-2B 仅有 24 亿（2.4B）的非词嵌入参数量。 在综合性榜单上与 Mistral-7B 相近，在中文、数学、代码能力表现更...
-
大模型开车哪家强？普渡研究给指南：GPT-4真行啊
现在一句口令，就能指挥汽车了。 比如说声“我开会要迟到了”“我不想让我朋友等太久”等等，车就能理解，并且自动加速起来。 如果这次行程有不满意的，只需要给汽车提供反馈建议:“要在充分保障安全的前提下”，汽车的自动驾驶行为就会在下次行程中进行自我修正。 这是来...
-
（新人免费）基于PAI-EAS对Stable diffusion进行LoRA模型微调|阿里云
基于PAI-EAS对Stable diffusion进行微调|阿里云 前提条件 已开通EAS并创建默认工作空间 部署Kohya服务 PAI-EAS控制台>部署服务>新建服务>服务名称自定义>部署方式：镜像部署AI-We...
-
AIGC知识速递——Google的Bert模型是如何fine-tuning的？
Look！👀我们的大模型商业化落地产品 📖更多AI资讯请👉🏾关注 Free三天集训营助教在线为您火热答疑👩🏼🏫 选择合适的预训练模型： 从预训练的BERT模型开始，例如Google 提供的BERT-base 或 BERT-large。这些模型已经...
-
无需GPU，手机芯片也能运行多模态模型！面壁智能发布MiniCPM，性能超过Mistral-7B！
2月1日,面壁智能发布了旗舰端侧模型 MiniCPM，它以小博大的性能超越了 Mistral-7B，并在 MT-Bench 等榜单上表现出色。 MiniCPM 是一款能说会看、具备编程能力、拥有多模态能力的端侧模型。它不仅在性能上优秀，而且具有极低的成本...
-
超简单，不用GPU，3步教你轻松在笔记本上部署聊天大模型 LLaMA
大家好啊，我是董董灿。 今天带大家在自己的电脑(笔记本 上部署一个类似于 chatGPT 的 AI 聊天大模型。 部署完之后，你就拥有了一个私人 AI 聊天机器人，无需联网，随时进行实时对话。 0. 简单说下背景 大模型我们都不陌生了，但是以...
-
赶超Gemini Pro，提升推理、OCR能力的LLaVA-1.6太强了
去年 4 月，威斯康星大学麦迪逊分校、微软研究院和哥伦比亚大学研究者共同发布了 LLaVA（Large Language and Vision Assistant）。尽管 LLaVA 是用一个小的多模态指令数据集训练的，却在一些样本上展示了与 GPT-4...
-
基于文心一言千帆API和gradio实现大模型多伦对话web应用
随着人工智能技术的不断发展，大模型多轮对话系统在web应用中越来越受到关注。文心一言千帆API和gradio工具为此提供了强大的支持。本文将介绍如何利用这两个工具，快速实现大模型多轮对话的web应用。 一、文心一言千帆API介绍 文心一言千帆API是一个...
-
Stable Diffusion 云端部署详细教程 （持续更新）
阿里云篇: 一、开通服务 函数计算 FC 点击直接传送 nas 文件存储 点击直接传送 二、创建函数计算应 第七步：角色授权填写如下配置 创建应用部署 等待完成部署（大约5-15分钟）...
-
大模型部署手记（10）LLaMa2+Chinese-LLaMA-Plus-7B+Windows+llama.cpp+中英文对话
1.简介： 组织机构：Meta（Facebook） 代码仓：GitHub - facebookresearch/llama: Inference code for LLaMA models 模型：llama-2-7b、llama-2-7b-chat（...
-
GPT-5被5万张H100卡脖子！Altman急筹数十亿美元，欲取代英伟达建起AI芯片帝国
Sam Altman正在筹集数十亿美元，建立一个全球性的半导体晶圆厂网络！ 这一事件背后的原因很可能就是，OpenAI已经无「芯」训练「GPT-5」了。 此前，据英国《金融时报》报道，OpenAI 正在开发一种新的AI模型，该模型将是 GPT-4 的「重...
-
AIGC｜手把手教你进行ChatGLM模型部署实践
一、背景介绍 模型部署基本步骤分为模型选择、模型部署、运行，如果需要在特定的场景下定制化模型，则还需要进行数据集的选择、数据集格式转换、微调。 根据上述的步骤本教程选取如下的开源模型、数据集，来对医疗场景下进行定制化模型部署。当然模型部署对G...
-
【Stable diffusion教程】AutoDL云部署超详细步骤说明【外婆都会】
1 AutoDL云端部署操作流程 1.1 登录/注册 官网：https://www.autodl.com/home，点击右上角登录/注册。此处我已经注册了 如果你是学生的话，注册完之后，进入控制台，在右上角点一下学生认证，然后你就可以享受炼丹会员折...
-
LLMs之LLaMA-2：LLaMA-2的简介(技术细节)、安装、使用方法(开源-免费用于研究和商业用途)之详细攻略
LLMs之LLaMA-2：LLaMA-2的简介(技术细节 、安装、使用方法(开源-免费用于研究和商业用途 之详细攻略 导读：2023年7月18日，Meta重磅发布Llama 2！这是一组预训练和微调的大型语言模型（LLM），规模从70亿到700亿个...
-
AIGC：【LLM（七）】——Baichuan2：真开源可商用的中文大模型
文章目录 一.模型介绍 二.模型部署 2.1 CPU部署 2.2 GPU部署 三.模型推理 3.1 Chat 模型推理 3.2 Base 模型推理 四.模型量化 4.1 量化方法 4.2 在线量化 4.3 离线量化 4.4 量化效果...
-
专为数据库打造：DB-GPT用私有化LLM技术定义数据库下一代交互方式
2023 年 6 月，蚂蚁集团发起了数据库领域的大模型框架 DB-GPT。DB-GPT 通过融合先进的大模型和数据库技术，能够系统化打造企业级智能知识库、自动生成商业智能（BI）报告分析系统（GBI），以及处理日常数据和报表生成等多元化应用场景。DB-G...
-
使用Amazon SageMaker构建高质量AI作画模型Stable Diffusion
使用Amazon SageMaker构建高质量AI作画模型Stable Diffusion 0. 前言 1. Amazon SageMaker 与机器学习 1.1 机器学习流程 1.2 Amazon SageMaker 简介 1.3 Amaz...
-
20分钟，使用Amazon SageMaker快速搭建属于自己的AIGC应用
真火！ 作为最近一段时间人工智能领域内的顶流之一，AIGC（AI-Generated Content）早已火爆出圈，频登各大互联网平台热搜。 cite: 微软亚洲研究院官方微博 这段时间以来，基于深度学习的内容生成在图像、视频、语音、音乐、...
-
如何在亚马逊 SageMaker 进行 Stable Diffusion 模型在线服务部署
文章目录 前言 - 浅谈 AIGC AIGC - 引领人工智能走向春天 春天里盛开的 AI 绘画 AI 绘画之Stable Diffusion 2.0 登场 人人都有机会成为前沿的技术探索者 基于Amazon SageMaker进行Stab...
-
2023-12-27 语音转文字的whisper应用部署
点击 <C 语言编程核心突破> 快速C语言入门 语音转文字的whisper应用部署 前言 一、部署`whisper` 二、部署`whisper.cpp` 总结 前言 要解决问题: 需要一款开源的语音转文字...
-
使用 OpenLLM 构建和部署大模型应用
本次分享主题为：使用 OpenLLM 快速构建和部署大语言模型的应用。OpenLLM 是一个开源的大语言模型（LLM）开发框架。它支持多种开源的 LLM 模型，并且具有内建的两个关键的 LLM 优化，能够优化内存使用。此外，它与 LangChain 和...
-
人工智能利用深度学习技术增强高级驾驶辅助系统(ADAS)
译者 | 李睿 审校 | 重楼 人工智能和机器学习利用深度学习技术的优势，使高级驾驶辅助系统(ADAS 发生了重大变革。ADAS在很大程度上依赖深度学习来分析和解释从各种传感器获得的大量数据。摄像头、激光雷达(光探测和测距 、雷达和超声波传感器都是传感器...
-
[人工智能] 程序员超级进化ai必修课+AIGC全栈项目实战课
课程内容： ├10_02【Java项目】基于ChatGPT的瑞吉外卖系统开发-01.ChatGPT在Java中的应用 .mp4 ├11_02【Java项目】基于ChatGPT的瑞吉外卖系统开发-02.多轮对话和编写文档 .mp4 ├12_02【Jav...
-
得物大模型平台，业务效果提升实践
一、背景 得物大模型训练与推理平台上线几个月后，我们与公司内部超过 10 个业务领域展开了全面的合作。在一些关键业务指标方面，取得了显著的成效，例如： 效率相关部门的合作，多维度打标总正确率取得 2 倍以上提升。利用大模型开辟了新的业务，提升了效...
-
法律情境扮演、逆向推理文字游戏、AIGC创作……见证AI极致生产力！
飞桨星河社区，以飞桨和文心大模型为核心，集开放数据、开源算法、云端GPU算力及大模型开发工具于一体，在大模型范式下，为开发者提供模型与应用的高效开发环境。在成立的5年以来，已汇集660+万AI开发者，覆盖深度学习初学者、在职开发者、企业开发者、高校教师、创...
-
Stable Diffusion攻略集（Stable Diffusion官方文档、kaggle notebook、webui资源帖）
文章目录 第一部分 一、 Features：Textual Inversion（文本反转） 1.1 Textual Inversion 简介 1.1.1 摘要 1.1.2 算法 1.1.3 模型效果 1.2 Textual Invers...
-
快速实现工程化部署，亚马逊云科技为AIGC产品化提供可靠基础
本文将以Stable Diffusion Quick Kit在亚马逊云科技Amazon SageMaker上的部署来介绍Stable Diffusion模型基础知识，HuggingFace Diffusers接口，以及如何使用Quick Kit在SageM...
-
关于生成式语言大模型的一些工程思考 paddlenlp & chatglm & llama
生成式语言大模型，随着chatgpt的爆火，市场上涌现出一批高质量的生成式语言大模型的项目。近期百度飞桨自然语言处理项目paddlenlp发布了2.6版本。更新了以下特性：全面支持主流开源大模型Bloom, ChatGLM, GLM, Llama, OPT...
-
微软Azure发布GPT-RAG，为LLM部署提供超智能解决方案
微软Azure最近推出了GPT-RAG，这是一项超智能的解决方案，旨在让大型语言模型（LLMs）在企业中更加顺畅地运行。随着人工智能的不断发展，对LLMs的需求因其理解和生成类似人类文本的能力而迅速增长。然而，在企业中使这些工具正常运行并不容易。我们需要确...
-
程序员撑过ChatGPT一周年！不仅没被取代，还把AI用得贼6：10分钟开发一个应用
不知不觉间，距离掀起全球新一轮 AI 革命的 ChatGPT 出道，已经过去一周年了。在这场颠覆性的 AI 革命中，许多企业和程序员们逐渐形成了一个共识:“不会用 AI 就将被淘汰”。 为了避免“被淘汰”，这一年来众多企业和程序员全力拥抱 AI、开发各种...
-
Llama-2大模型本地部署研究与应用测试
最近在研究自然语言处理过程中，正好接触到大模型，特别是在年初chatgpt引来的一大波AIGC热潮以来，一直都想着如何利用大模型帮助企业的各项业务工作，比如智能检索、方案设计、智能推荐、智能客服、代码设计等等，总得感觉相比传统的搜索和智能化...
-
微信公众号接入ChatGpt、文心一言等【完整流程】
关注公众号[桃李开发]体验效果 1. 首要条件： 公网服务器一台 公众号(订阅号、服务号都可 一个 注册LinkAI(有国外服务器的可不考虑使用 开源项目chatgpt-on-wechat 2.服务器选择 建议国外服务器，使用op...
-
LLaMA(大规模机器学习和分析)
LLaMA(大规模机器学习和分析 是一个先进的软件平台，是Meta 推出 AI 语言模型 LLaMA，一个有着 上百亿数量级参数的大语言模型用于大规模部署和管理机器学习模型。借助LLaMA，组织可以高效地在大型数据集上训练和部署模型，缩短投放市场的...
-
llama.cpp部署在windows
本想部署LLAMA模型，但是基于显卡和多卡的要求，很难部署在个人笔记本上，因此搜索发现有一个量化版本的LLAMA.cpp，部署过程和踩过的坑如下： 1.配置环境 （1）在GitHub - ggerganov/llama.cpp: Port of Fac...
-
AI作画，国风油画风随心定制~ Stable Diffusion模型使用，三步就上手
前言 最近，AIGC（即AI Generated Content，是指利用人工智能技术来生成内容）真的是火出了天际。除了被挤到服务器满负荷的chatGPT，另一个也颇受瞩目的领域当属AI作画了。利用开源的一类“扩散（diffusion）”模型，你可...
-
盘点AWS re:Invent 2023大会值得关注的十大亮点
译者 | 晶颜 审校 | 重楼 “AWS re:Invent 2023”于11月27日至12月1日在拉斯维加斯举行，展示了亚马逊保持其领先云提供商地位的承诺。通过一系列战略公告，该公司展示了其在行业中树立新标准的不懈追求。以下是今年活动的十大亮点： A...
-
关于语言模型私有化部署的讨论 | AIGC实践
上周在与TC同行关于AIGC实践的线上交流中，大家普遍比较关心的一个实践切入点是：语言模型的私有化部署——简单来说，就是在企业内部，部署一个属于自己的“ChatGPT”，对于本行业/专业知识，以及企业独有的产品和技术信息有充分的了解，并且提供用户接口...
-
本地部署中文LLaMA模型实战教程，民间羊驼模型
羊驼实战系列索引 博文1：本地部署中文LLaMA模型实战教程，民间羊驼模型（本博客）博文2：本地训练中文LLaMA模型实战教程，民间羊驼模型博文3：精调训练中文LLaMA模型实战教程，民间羊驼模型 简介 LLaMA大部分是英文语料训练的，讲中文能...
-
大模型部署手记（12）LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+text-gen+中文对话
1.简介： 组织机构：Meta（Facebook） 代码仓：https://github.com/facebookresearch/llama 模型：chinese-alpaca-2-7b-hf 下载：使用百度网盘下载 硬件环境：暗影精灵7Plu...