-
MosaicML 推出 30B 模型 — 挑战 LLaMA、Falcon 和 GPT
MosaicML正在推出其第二个开源大型语言模型（LLM），称为MPT-30B，这是继五月份首次推出的较小的MPT-7B模型之后。 为了讨论新模型及其对开发人员的意义，我采访了MosaicML联合创始人兼首席执行官Naveen Rao。他之前的创业公司是...
-
Whisper 音频转文字模型体验；语音实时转录文字工具
1、原始官方形式安装 参考： https://github.com/openai/whisper https://blog.csdn.net/weixin_44011409/article/details/127507692 安装 安装Whisp...
-
专为大模型打造！摩尔线程发布智算加速卡MTT S4000：支持48GB显存
快科技12月19日消息，今天，摩尔线程发布了全新智算加速卡MTT S4000，训推兼顾专为大模型打造，单卡支持48GB显存。 据介绍，MTT S4000采用了第三代MUSA内核，单卡支持48GB显存和768GB/s的显存带宽，FP32性能为25TFLOPs...
-
深度学习之目标检测中的常用算法
随着深度学习的不断发展，深度卷积神经网络在目标检测领域中的应用愈加广泛，现已被应用于农业、交通和医学等众多领域。 与基于特征的传统手工方法相比，基于深度学习的目标检测方法可以学习低级和高级图像特征，有更好的检测精度和泛化能力。 什么是目标检测？ 目标检测...
-
使用LM Studio在本地运行LLM完整教程
GPT-4被普遍认为是最好的生成式AI聊天机器人，但开源模型一直在变得越来越好，并且通过微调在某些特定领域是可以超过GPT4的。在开源类别中，出于以下的原因，你可能会考虑过在本地计算机上本地运行LLM ： 脱机:不需要互联网连接。 模型访问:在本地运行...
-
StableVideo：使用Stable Diffusion生成连续无闪烁的视频
使用Stable Diffusion生成视频一直是人们的研究目标，但是我们遇到的最大问题是视频帧和帧之间的闪烁，但是最新的论文则着力解决这个问题。 本文总结了Chai等人的论文《StableVideo: Text-driven consistency -...
-
人工智能教程（四）：概率论入门
在本系列的 上一篇文章 中，我们进一步讨论了矩阵和线性代数，并学习了用 JupyterLab 来运行 Python 代码。我们也会简要介绍一些其它有用的库。稍后，我们将讨论概率、理论以及代码。和往常一样，我们先讨论一些能拓宽我们对人工智能的理解的话题...
-
大语言模型之四-LlaMA-2从模型到应用
最近开源大语言模型LlaMA-2火出圈，从huggingface的Open LLM Leaderboard开源大语言模型排行榜可以看到LlaMA-2还是非常有潜力的开源商用大语言模型之一，相比InstructGPT，LlaMA-2在数据质量、培训技术、能力...
-
推理性能超H100十倍！21岁华裔小哥哈佛辍学开发AI加速芯片「Sohu」，2人公司估值3400万刀
像Pika一样的神级创业故事又要再次上演了？ 两位哈佛退学的年轻人，想要制造一款专用于大语言模型加速的AI加速器芯片，将于2024年第三季度交付，推理性能达H100的10倍。 在今年6月份，两位创始人Gavin Uberti和Chris Zhu创立了E...
-
程序员撑过ChatGPT一周年！不仅没被取代，还把AI用得贼6：10分钟开发一个应用
不知不觉间，距离掀起全球新一轮 AI 革命的 ChatGPT 出道，已经过去一周年了。在这场颠覆性的 AI 革命中，许多企业和程序员们逐渐形成了一个共识:“不会用 AI 就将被淘汰”。 为了避免“被淘汰”，这一年来众多企业和程序员全力拥抱 AI、开发各种...
-
基于onnx模型和onnx runtime推理stable diffusion
直接用diffusers的pipeline: import os from diffusers import OnnxStableDiffusionPipeline, OnnxRuntimeModel from diffusers import DDIM...
-
AIGC参数量节节攀升，对存储带来的挑战如何解决？
引言 近期，AIGC 相关产品如同雨后春笋一般不断涌现。但在技术层面，大家普遍的关注点更多集中在性能方面，却经常忽略了存储对推理和训练效率的影响，以及 AIGC 内容可能带来的合规风险。我们特邀腾讯云存储的产品负责人 崔剑老师和益企研究院创始人、腾讯云 ...
-
使用Llama.cpp在CPU上快速的运行LLM
大型语言模型(llm 正变得越来越流行，但是它需要很多的资源，尤其时GPU。在这篇文章中，我们将介绍如何使用Python中的llama.cpp库在高性能的cpu上运行llm。 大型语言模型(llm 正变得越来越流行，但是它们的运行在计算上是非常消耗资...
-
大模型部署手记（8）LLaMa2+Windows+llama.cpp+英文文本补齐
1.简介： 组织机构：Meta（Facebook） 代码仓：https://github.com/facebookresearch/llama 模型：llama-2-7b 下载：使用download.sh下载 硬件环境：暗影精灵7Plus...
-
基于 NNCF 和 Optimum 面向 Intel CPU 对 Stable Diffusion 优化
基于隐空间的扩散模型 (Latent Diffusion Model ，是解决文本到图片生成问题上的颠覆者。Stable Diffusion 是最著名的一例，广泛应用在商业和工业。Stable Diffusion 的想法简单且有效: 从噪声向量开始，多次去...
-
腾讯云推出高性能应用服务HAI，让每个开发者都能开发自己的AI应用
降低AIGC应用开发门槛，才能更快发现下一个AIGC现象级应用。 12月18日，腾讯云宣布推出高性能应用服务(Hyper Application Inventor，HAI ，用户无需复杂配置，最快10分钟即可创建自己的AI应用。 HAI能够提供即插即用的...
-
思科发布最新研究报告，企业在人工智能就绪方面存在巨大差距
新闻摘要： 98%的中国企业表示，在过去六个月中，部署人工智能技术的紧迫性有所增加。 在战略、基础设施、数据、治理、人才和文化六大关键业务支柱上，91%的企业表示他们还没有完全准备好将人工智能整合到业务运作中。 64%的受访者表示，他们最多只有一年的时...
-
只需10分钟，开发者即可创建AIGC应用，腾讯云推出高性能应用服务HAI
降低AIGC应用开发门槛，才能更快发现下一个AIGC现象级应用。 12月18日，腾讯云宣布推出高性能应用服务(Hyper Application Inventor，HAI ，用户无需复杂配置，最快10分钟即可创建自己的AI应用。 HAI能够提供即插即用...
-
腾讯讯云推出高性能应用服务HAI 10分钟即可创建AI应用
12月18日，腾讯云宣布推出高性能应用服务（Hyper Application Inventor，HAI），无需复杂配置，用户只需10分钟即可创建自己的AI应用。 据介绍，HAI提供即插即用的算力和常见环境，可以帮助中小企业、开发者和个人用户快速部署语言模...
-
速度暴涨1000倍！扩散模型预测材料“炼金”过程，体系越复杂加速度越大
用扩散模型预测化学反应，速度直接暴涨1000倍！ 原本需要用计算机硬算几小时甚至一天，现在单个GPU用6秒钟就能搞定。 这是MIT和康奈尔大学联合搞出来的一项新研究，用扩散模型来预测化学反应中最关键的过渡态结构，不仅计算速度提升1000倍，结果也竟然意想...
-
stable-diffusion-webui sdxl模型代码分析
采样器这块基本都是用的k-diffusion，模型用的是stability的原生项目generative-models中的sgm，这点和fooocus不同，fooocus底层依赖comfyui中的models，comfy是用load_state_dict的...
-
安装LLaMA-Factory微调chatglm3，修改自我认知
安装git clone https://github.com/hiyouga/LLaMA-Factory.git conda create -n llama_factory python=3.10 conda activate llama_factory...
-
大模型公司「卷」 芯片 英伟达危？
人工智能的行业竞争，不仅是OpenAI与谷歌等各大互联网巨头的大模型之争，支撑运算的芯片赛道也暗流涌动，大模型“制造机”们也加入了赛道。 OpenAI计划从CEO Sam Altman投资的一家初创公司Rain AI订购更高效的NPU芯片;微软也推出两款自...
-
详解生成对抗网络（GAN）- 体验AI作画
目录 1.GAN是什么？ 2.GAN的计算 3.编写GAN的小小示例 4.GAN的发展与应用 5.AI作画体验-Disco Diffusion 1.GAN是什么？ 2014年，因为朋友邀请协助一个计算机生成图像的项目，lanGoodd...
-
采用AI与机器学习提升视觉效果：索尼PS5 Pro有望采用专属DLSS技术
快科技12月17日消息，据知情人士透露，索尼旗下的PS5 Pro能会在明年9月发布。 除此之外，该知情人士还透露了PS5 Pro正在研发的新技术。 据悉，全新一代的PS5 Pro将使用AI 和机器学习来提升视觉效果，以便达到非常高的分辨率和帧率运行。 该主...
-
AI绘图入门 安装 stable-diffusion-webui
下面介绍了N卡，A卡，或CPU跑 stable-diffusion-webui的方法。 先看样张： 1.安装python 3.10.x https://www.python.org/downloads/ 2.安装Git Git - Down...
-
Llama-2大模型本地部署研究与应用测试
最近在研究自然语言处理过程中，正好接触到大模型，特别是在年初chatgpt引来的一大波AIGC热潮以来，一直都想着如何利用大模型帮助企业的各项业务工作，比如智能检索、方案设计、智能推荐、智能客服、代码设计等等，总得感觉相比传统的搜索和智能化...
-
基于whisper的语音转文字（视频字幕）
由于之前在学习油管的视频的时候，发现没有字幕，自己的口语听力又不太好，所以，打算开发一个能够语音或者视频里面，提取出字幕的软件。 在寻找了很多的开源仓库，发现了openai早期发布的whisper 原仓库链接如下 openai/whisper: Ro...
-
【stable-diffusion】4090显卡下dreambooth、lora、sd模型微调的GUI环境安装（cuda驱动、pytorch、xformer）
相关博文 stable-diffusion-webui的基础功能手动安装，了解代码结构、依赖、模型出处 安装成功结果 主要参考 cuda11.7下载-https://developer.nvidia.com/cuda-toolkit-...
-
Stable Diffusion WebUI rtx 2060 6G 高清修复 爆显存torch.cuda.OutOfMemoryError: CUDA out of memory.
故障日志 *** Arguments: ('task(9bknuv75x8gvtjn ', '1girl,3d,architecture,blurry,blurry background,breasts,brown hair,building,cherr...
-
AMD显卡 Ubuntu 部署Stable DIffusion WebUI基于Pytorch2.0.0 Rocm5.4.2
AMD显卡 Ubuntu 部署Stable DIffusion WebUI基于Pytorch2.0.0 Rocm5.4.2 系统环境 AMD显卡驱动 镜像源 更新 Clash安装 显卡ROCM环境 安装ROCM 检验安装ROCM 安装Mio...
-
基于 NNCF 和 Optimum 面向 Intel CPU 对 Stable Diffusion 优化
? 宝子们可以戳 阅读原文 查看文中所有的外部链接哟！ 基于隐空间的扩散模型 (Latent Diffusion Model ，是解决文本到图片生成问题上的颠覆者。Stable Diffusion 是最著名的一例，广泛应用在商业和工...
-
腾讯云HAI：人人都可无门槛AI作画！
目录 前言 关于HAI HAI优势 开启HAI使用 清理资源 体验心得 结束语 参考文献 前言 随着科技的不断进步和数据驱动的时代到来，越来越多的开发者和数据研究人员需要强大的计算能力来支持他们的工作，尤其是在处理大规模数据、进行机器学习和人...
-
Stable Diffusion Webui源码剖析
1、关键python依赖 （1）xformers：优化加速方案。它可以对模型进行适当的优化来加速图片生成并降低显存占用。缺点是输出图像不稳定，有可能比不开Xformers略差。 （2）GFPGAN：它是腾讯开源的人脸修复算法，利用预先训练号的面部GAN...
-
LLaMA-META发布单卡就能跑的大模型
2023年2月25日，Meta使用2048张A100 GPU，花费21天训练的Transformer大模型LLaMA开源了。 1.4T tokenstakes approximately 21 days 以下是觉得论文中重要的一些要点 1）...
-
尝试 Stable Diffusion（通过Google Colab）
目标 学习通过Google Colab使用 Stable Diffusion 生成图像。 主要参考资料：Get Started With Stable Diffusion (Free in Google Colab for AI Generated...
-
走在GPT 4.5前面？3D、视频直接扔进对话框，大模型掌握跨模态推理
给你一首曲子的音频和一件乐器的 3D 模型，然后问你这件乐器能否演奏出这首曲子。你可以通过听觉来辨认这首曲子的音色，看它是钢琴曲还是小提琴曲又或是来自吉他；同时用视觉识别那是件什么乐器。然后你就能得到问题的答案。但语言模型有能力办到这一点吗？ 实际上，...
-
windows10搭建llama大模型
背景 随着人工时代的到来及日渐成熟，大模型已慢慢普及，可以为开发与生活提供一定的帮助及提升工作及生产效率。所以在新的时代对于开发者来说需要主动拥抱变化，主动成长。 LLAMA介绍 llama全称：Large...
-
【文生图】Stable Diffusion XL 1.0模型Full Fine-tuning指南（U-Net全参微调）
文章目录 前言 重要教程链接 以海报生成微调为例 总体流程 数据获取 POSTER-TEXT AutoPoster CGL-Dataset PKU PosterLayout PosterT80K Movie & TV Series...
-
CentOs7 + Stable Diffusion + Novel AI实现AI绘画
前提条件 安装Git环境（版本 >= 1.8.5） 查看版本：git version 升级git：yum install -y https://repo.ius.io/ius-release-el7.rpm && yum ins...
-
AI绘画 | stable-diffusion的模型简介和下载使用
前言 我们下载完stable-diffusion-ui后还需要下载需要的大模型，才能进行AI绘画的操作。秋叶的stable-diffusion-ui整合包内，包含了anything-v5-PrtRE.safetensors和Stable Diffusi...
-
最强文生图跨模态大模型：Stable Diffusion
文章目录 一、概述 二、Stable Diffusion v1 & v2 2.1 简介 2.2 LAION-5B数据集 2.3 CLIP条件控制模型 2.4 模型训练 三、Stable Diffusion 发展 3.1 图形界面...
-
通过制作llama_cpp的docker镜像在内网离线部署运行大模型
对于机器在内网，无法连接互联网的服务器来说，想要部署体验开源的大模型，需要拷贝各种依赖文件进行环境搭建难度较大，本文介绍如何通过制作docker镜像的方式，通过llama.cpp实现量化大模型的快速内网部署体验。 一、llama_cpp介绍 LLa...
-
可以媲美MidJourney，但是开源和免费的超强AI绘画-fooocus
现在的AI技术很火，这一新兴领域的发展给艺术创作带来了全新的可能性，AI绘画的应用也十分的广泛。我自己见到的就有运用在模特穿衣服身上的，化妆品广告图生成的等等，比如MidJourney 和stable diffusion 等 AI绘画程序已经很成熟了，前者...
-
stable-diffusion-webui 安装使用
文章目录 1.github 下载，按教程运行 2.安装python 忘记勾选加入环境变量，自行加入（重启生效） 3.环境变量添加后，清理tmp ，venv重新运行 4.运行报错，无法升级pip，无法下载包， 5.再次运行 webui-user....
-
手把手教你使用文心一言设计一个操作系统
一、使用文心一言克隆一个操作系统 1.功能介绍 挖掘一言能力，使用 langchain 结合一言超能力进行系统扮演，并完成相应操作。 2.思路 通过文心一言prompt构建一个Assistant智能系统 通过系统完成对应的操作 二、环境设置...
-
本地推理,单机运行,MacM1芯片系统基于大语言模型C++版本LLaMA部署“本地版”的ChatGPT
OpenAI公司基于GPT模型的ChatGPT风光无两，眼看它起朱楼，眼看它宴宾客，FaceBook终于坐不住了，发布了同样基于LLM的人工智能大语言模型LLaMA，号称包含70亿、130亿、330亿和650亿这4种参数规模的模型，参数是指神经网络中的权重...
-
个人AI时代正式到来！联想发布两款AI PC：不再只是一个硬件
快科技12月15日消息，在2023英特尔新品发布会暨AI技术创新派对上，联想正式发布了两款AI PC。它们分别是:联想ThinkPad X1Carbon AI 、联想小新Pro16AI酷睿版，现已正式上市，预约预售同步开启。 据了解，这两款产品具备内嵌混...
-
Google Colab 上部署 Stable Diffusion Web UI
什么是 Stable Diffusion Web UI Colab Stable Diffusion 是 Stability AI 推出的一个基于深度学习技术文字生成图片AI模型。 Stable Diffusion Web UI 是一个强大好用的 St...
-
ChatGPT研究(三)——AIGC多模态交互功能，奠定多场景商用基础
✏️写作：个人博客，InfoQ，掘金，知乎，CSDN ?公众号：进击的Matrix ?特别声明：创作不易，未经授权不得转载或抄袭，如需转载可联系小编授权。 前言 最近ChatGPT，想必大家已经是耳熟能详了，一度认为ChatGPT的到来是...