-
在线教程丨超大模型部署无压力！一键运行 Llama 3.1 405B 和 Mistral Large 2
作者：李宝珠 编辑：xixi、李宝珠 HyperAI超神经为大家上线了 Llama 3.1 405B 和 Mistral Large 2407 的一键部署教程，无需输入任何命令，只需点击「克隆」即可体验。 当地时间 7 月 23 日...
-
基于腾讯云高性能应用服务 HAI 搭建并使用 AI 模型 StableDiffusion 进行文生图
基于腾讯云高性能应用服务 HAI 搭建并使用 AI 模型 StableDiffusion 进行文生图 HAI是什么 高性能应用服务 HAI 与传统 GPU 云服务器 区别 使用高性能应用服务HAI 一键部署 StableDiffusion AI...
-
Midjourney Imagine API 申请及使用（大陆地区）
注意：本 API 属于生成式人工智能 API，背后部分技术基于 Midjourney，为避免跨境数据传输给国家和企业带来的安全风险，请务必在使用时不要输入带有国家和企业机密的相关信息，同时本 API 也会严格遵循中华人民共和国《生成式人工智能服务管理办法》...
-
“文心一言”的介绍配置安装，基本指令与高级用法
快速上手文心一言指令 文心一言是一个由百度开发的对话式人工智能助手，可以通过指令进行对话和任务执行。本文将详细介绍如何快速上手使用文心一言，包括其安装、基本指令、配置及高级用法。 目录 文心一言简介 安装文心一言 基本使用 3.1 基本指令 3...
-
用 LMDeploy 高效部署 Llama-3-8B，1.8倍vLLM推理效率
节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 汇总合集 《大模型面试...
-
LMDeploy高效部署Llama-3-8B，1.8倍vLLM推理效率
Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，LMDeploy 对 Llama 3 部署进行了光速支持，同时对 LMDeploy 推理 Llama 3 进行了测试，在公平比较的条件下推理效率是 vLLM 的 1.8 倍。 书生...
-
生成式 AI 在电商领域究竟有多牛，这款产品给出了回答
Photoroom 是电商图片行业的先行者，来源于对背景擦除这个单点功能的探索，Photoroom 在 Gen AI 前的时代找到了自己的PMF。在浪潮来临时，凭借着用户理解和产品载体的迭代，Photoroom 在商业图片制作领域的可用性更强了。目前，Ph...
-
llama.cpp部署
llama.cpp 介绍 部署 介绍 大模型的研究分为训练和推理两个部分： 训练的过程，实际上就是在寻找模型参数，使得模型的损失函数最小化； 推理结果最优化的过程； 训练完成之后，模型的参数就固定了，这时候就可以使用模型进行推理，对外...
-
元象大模型开源30款量化版本 可更低成本部署
元象大模型开源了30款量化版本，支持 vLLM 和 llama.cpp 等主流框架的量化推理，无条件免费商用。 对量化前后的模型能力、推理性能进行评估，以 XVERSE-13B-GPTQ-Int4量化版本为例，量化后模型权重压缩了72%，总吞吐提高了1.5...
-
在 Kubernetes 中优化 AI 和机器学习工作负载
Kubernetes 非常适合各种类型的容器化工作负载，从服务到作业再到有状态应用程序。但是 AI 和需要 GPU 的机器学习工作负载呢?是的，Kubernetes 也支持这些，但有很多细微差别。 译自Optimizing AI and Machine...
-
驾辰龙跨Llama持Wasm，玩转Yi模型迎新春过大年（上）
大年初一，看着春晚迎新年。今年新年很特别，AI工具添光彩。今天就来感受下最新的AI神器天选组合“WasmEdge+Yi-34B”，只要短短三步，为这个甲辰龙年带来一份九紫离火运的科技感。 环境准备 这次用的算力是OpenBayes提供的英伟达RTX_4...
-
CoGPT: 通过GitHub Copilot免费使用gpt-4
这次介绍项目可以把 OpenAI API 格式的请求转发到 GitHub Copilot 服务端，从而免费使用 gpt-4。当然前提是你有 GitHub Copilot。对于学生，可以通过 GitHub Education 免费使用。 先上项目链接: h...
-
文心一言插件开发（第三篇
目录 1. 从0到1开发自己的插件： 1.1 插件描述文件（ai-plugin.json） 1.2 服务描述文件（openapi.yaml） 1.2.1 数据类型： 1.2.1 OpenAPI 对象： 1.3 示例描述文件（example...
-
LLaMA Efficient Tuning
文章目录 LLaMA Efficient Tuning 安装 数据准备 浏览器一体化界面 单 GPU 训练 train_bash 1、预训练 pt 2、指令监督微调 sft 3、奖励模型训练 rm 4、PPO 训练 ppo 5、DPO 训练...
-
LLaMA Board: 通过一站式网页界面快速上手 LLaMA Factory
原文：https://github.com/hiyouga/LLaMA-Factory/blob/main/README_zh.md ? 加入我们的微信群。 [ English | 中文 ] LLaMA Board: 通过一站式网页界面快速上手...
-
Midjourney Api使用
Midjourney 这个在人工智能绘图领域还是独树一帜的佼佼者。 Midjourney 擅长精美的绘图，无需复杂的步骤，只要简约地输入画图指令，它就能立刻为我们展示出相应的图像。无论是哪种物体或风格，Midjourney 都能以其绘画魔力轻松描绘。...
-
LLMs之RAG：LangChain-Chatchat(一款中文友好的全流程本地知识库问答应用)的简介(支持 FastChat 接入的ChatGLM-2/LLaMA-2等多款主流LLMs+多款embe
LLMs之RAG：LangChain-Chatchat(一款中文友好的全流程本地知识库问答应用 的简介(支持 FastChat 接入的ChatGLM-2/LLaMA-2等多款主流LLMs+多款embedding模型m3e等+多种TextSplitter分词...
-
使用 OpenLLM 构建和部署大模型应用
本次分享主题为：使用 OpenLLM 快速构建和部署大语言模型的应用。OpenLLM 是一个开源的大语言模型（LLM）开发框架。它支持多种开源的 LLM 模型，并且具有内建的两个关键的 LLM 优化，能够优化内存使用。此外，它与 LangChain 和...
-
腾讯云 Serverless Stable Diffusion 应用免费名额限量放送，试用申请开启！
近半年，AIGC 领域惊喜接踵而至。除了 Chatgpt，在AI绘图方面 Stable Diffusion 也大放异彩。网上的教程五花八门，有很多小伙伴根本不知如何下手，苦不堪言。 现在腾讯云 Serverless Stable Diffusion 应用...
-
腾讯云AI绘画上线SaaS版本 推出腾讯云智能图像创作平台
腾讯云 AI 绘画成为国内首批通过中国信通院的 "AIGC 绘画平台基础能力评估" 标准的 AIGC 绘画平台。 腾讯云 AI 绘画是一款 AI 图像生成与编辑技术产品，用户可以根据输入的文本或图片，智能创作与输入信息相关的图像内容。目前提供 API 和...
-
Llama 2免费托管及API提供
Llama 2 是 Meta 最新的文本生成模型，目前其性能优于所有开源替代方案。 推荐：用 NSDT编辑器 快速搭建可编程3D场景 1、强大的Llama 2 它击败了 Falcon-40B（之前最好的开源基础模型），与 GPT-3....
-
字节自研大模型，却因用ChatGPT被封号惹争议？官方回应了
上周末，有外媒报道称，字节跳动在使用 OpenAI 技术开发自有大语言模型时，因违反 OpenAI 服务条款从而遭账号禁用。 据 The Verge 报道，字节跳动内部正在研发的大语言模型项目名为「种子计划」（Project Seed）。 由于训练大模型...
-
腾讯云HAI：人人都可无门槛AI作画！
目录 前言 关于HAI HAI优势 开启HAI使用 清理资源 体验心得 结束语 参考文献 前言 随着科技的不断进步和数据驱动的时代到来，越来越多的开发者和数据研究人员需要强大的计算能力来支持他们的工作，尤其是在处理大规模数据、进行机器学习和人...
-
Midjourney API 的对接和使用
“ 阅读本文大概需要 4 分钟。 ” 在人工智能绘图领域，想必大家听说过 Midjourney 的大名吧。 Midjourney 以其出色的绘图能力在业界独树一帜。无需过多复杂的操作，只要简单输入绘图指令，这个神奇的工具...
-
Danswer 接入 Llama 2 模型 ｜ 免费在 Google Colab 上托管 Llama 2 API
一、前言 前面在介绍本地部署免费开源的知识库方案时，已经简单介绍过 Danswer《Danswer 快速指南：不到15分钟打造您的企业级开源知识问答系统》，它支持即插即用不同的 LLM 模型，可以很方便的将本地知识文档通过不同的连接器接入到 Danswe...
-
Python 使用 Stable Diffusion API 生成图片示例
代码： import base64 import datetime import json import os import requests def submit_post(url: str, data: dict : """ S...
-
悦享控股旗下悦灵犀AI App 及微信小程序正式上线
悦享控股宣布，悦灵犀 AI 备案获得通过，其 App 及微信小程序正式上线，用户可以通过 IOS 及安卓应用商店下载安装悦灵犀 APP，也可以通过微信小程序及登陆官网使用（ylxai.com）。 悦灵犀是一款 AI 绘画与创作平台，提供 AI 智能绘画工...
-
ChatGPT 挂了一整天了，已经习惯了用大模型的我怎么办
OpenAI 挂了，已经习惯了用大模型的我怎么办 OpenAI 挂了，急，在线等。 你是不是已经习惯了 ChatGPT 的存在？是不是感觉离了 ChatGPT 寸步难行，很难再进行自己的工作？今天 ChatGPT 大面积宕机，服务直到文章发布（下午5点...
-
LLMs：LLaMA Efficient Tuning(一款可高效微调【全参数/LoRA/QLoRA】主流大模型【ChatGLM-2/LLaMA-2/Baichuan等】的高效工具【预训练+指令监督微
LLMs：LLaMA Efficient Tuning(一款可高效微调【全参数/LoRA/QLoRA】主流大模型【ChatGLM-2/LLaMA-2/Baichuan等】的高效工具【预训练+指令监督微调+奖励模型训练+PPO 训练+DPO 训练】 的简介、...
-
如何实现车联网的灵活数据采集
随着车联网与 5G 技术的融合以及车辆智能化的发展，车联网的数据采集需求呈现爆发式增长。传统的车辆数据采集主要用于车辆的远程监测和故障诊断。随着车辆应用的丰富和智能化水平的提高，车辆数据采集逐渐应用到更多的场景，如研发用数据采集、数据统计和分析、规则引擎与...