-
打造「专属arXiv」！德国高校顶级视觉团队推出「论文定制化」推荐系统，免费开放
10毫秒生成一张图像，1分钟6000张图像，这是什么概念？ 下图中，就可以深刻感受到AI的超能力。 图片 甚至，当你在二次元小姐姐图片生成的提示中，不断加入新的元素，各种风格的图片更迭也是瞬间闪过。 图片 如此惊人的图片实时生成速度，便是来自UC伯克利、...
-
单张4090，1秒100张二次元小姐姐！UC伯克利等新模型霸榜Github，吞吐量提升近60倍
10毫秒生成一张图像，1分钟6000张图像，这是什么概念？ 下图中，就可以深刻感受到AI的超能力。 甚至，当你在二次元小姐姐图片生成的提示中，不断加入新的元素，各种风格的图片更迭也是瞬间闪过。 如此惊人的图片实时生成速度，便是来自UC伯克利、日本筑波大学...
-
关于stable diffusion的lora训练在linux远程工作站的部署
在学校Arc中部署lora training，一大问题就是依赖缺失和冲突。可以利用miniconda或者anaconda建立虚拟环境来解决。 安装anaconda 或者 miniconda（官网上也有教程）： wget https://rep...
-
推理性能超H100十倍！21岁华裔小哥哈佛辍学开发AI加速芯片「Sohu」，2人公司估值3400万刀
像Pika一样的神级创业故事又要再次上演了？ 两位哈佛退学的年轻人，想要制造一款专用于大语言模型加速的AI加速器芯片，将于2024年第三季度交付，推理性能达H100的10倍。 在今年6月份，两位创始人Gavin Uberti和Chris Zhu创立了E...
-
467亿参数MoE追平GPT-3.5！爆火开源Mixtral模型细节首公开，中杯逼近GPT-4
今天，Mistral AI正式放出了Mixtral 8x7B的技术细节—— 在大多数基准测试中，Mixtral的表现不仅优于Llama 2 70B，而且推理速度提高了整整6倍！ 尤其是，它在大多数标准基准测试上与GPT-3.5打平，甚至略胜一筹。 新开源...
-
把检测器加进来，YOLOv8部署实战！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 0 把检测器加进来 本文是我在学习韩博《CUDA与TensorRT部署实战课程》第六章的课程部分输出的个人学习笔记，欢迎大家一起讨论学习！ 1 导出onnx需要注意的地方 不要pip instal...
-
解决Stable Diffusion TensorRT转换模型报错cpu and cuda:0! (when checking argument for argume
记录Stable Diffusion webUI TensorRT插件使用过程的报错： RuntimeError: Expected all tensors to be on the same device, but found at least two...
-
Window下部署使用Stable Diffusion AI开源项目绘图
Window下部署使用Stable Diffusion AI开源项目绘图 前言 前提条件 相关介绍 Stable Diffusion AI绘图 下载项目 环境要求 环境下载 运行项目 打开网址，即可体验 文字生成图像（txt2img） 庐山瀑...
-
百度商业AI 技术创新大赛赛道二：AIGC推理性能优化TOP10之经验分享
朋友们，AIGC性能优化大赛已经结束了，看新闻很多队员已经完成了答辩和领奖环节，我根据内幕人了解到，比赛的最终代码及结果是不会分享出来的，因为办比赛的目的就是吸引最优秀的代码然后给公司节省自己开发的成本，相当于外包出去了，应该是不会公开的。抱着技术共享及开...
-
模型杂谈：使用 IN8 量化推理运行 Meta “开源泄露”的大模型（LLaMA）
接着之前文章《模型杂谈：快速上手元宇宙大厂 Meta “开源泄露”的大模型（LLaMA）》一文中的话题，继续聊聊如何使用 INT8 量化的方式来让低显存的设备能够将模型运行起来。 写在前面 前几天，在知乎上看到《如何评价 LLaMA 模型泄露？》问题...
-
Stable Diffusion：使用自己的数据集微调训练LoRA模型
Stable Diffusion：使用自己的数据集微调训练LoRA模型 前言 前提条件 相关介绍 微调训练LoRA模型 下载kohya_ss项目 安装kohya_ss项目 运行kohya_ss项目 准备数据集 生成关键词 模型参数设置 预训...
-
Stable Diffusion在各种显卡上的加速方式测试，最高可以提速211.2%
Stable Diffusion是一种基于扩散模型的图像生成技术，能够从文本生成高质量的图像，适用于CG，插图和高分辨率壁纸等领域。 但是它计算过程复杂，使得它的生成速度较慢。所以研究人员就创造了各种提高其速度的方式，比如Xformers、Aitempl...
-
NVIDIA RTX显卡AI推理提速5倍！RTX PC轻松在本地搞定大模型
正在举行的微软Iginte全球技术大会上，微软发布一系列AI相关的全新优化模型、开发工具资源，帮助开发者更深入地释放硬件性能，拓展AI场景。 尤是对于当下在AI领域占据绝对主导地位的NVIDIA来说，微软这次送上了一份大礼包，无论是面向OpenAI Cha...
-
英伟达预告新版 TensorRT-LLM：推理能力飙升 5 倍、8GB 以上显卡可本地运行，支持 OpenAI 的 Chat API
11 月 16 日消息，微软 Ignite 2023 大会已于今天拉开帷幕，英伟达高管出席本次大会并宣布更新 TensorRT-LLM，添加了对 OpenAI Chat API 的支持。 IT之家今年 10 月报道，英伟达面向数据中心和 Windows...
-
探索【Stable-Diffusion WEBUI】的附加功能：图片缩放&抠图
文章目录 （零）前言 （一）附加功能（图片处理） （1.1）处理对象（Source） （1.2）缩放（Scale） （1.2.1）缩放设置 （1.2.2）缩放模型（Upscaler） （1.2.3）GFPGAN和CodeFormer （1...
-
老黄深夜炸场，世界最强AI芯片H200震撼发布！性能飙升90%，Llama 2推理速度翻倍，大批超算中心来袭
英伟达的节奏，越来越可怕了。 就在刚刚，老黄又一次在深夜炸场——发布目前世界最强的AI芯片H200！ 较前任霸主H100，H200的性能直接提升了60%到90%。 不仅如此，这两款芯片还是互相兼容的。这意味着，使用H100训练/推理模型的企业，可以无缝更...
-
使用 PAI-Blade 优化 Stable Diffusion 推理流程
背景 AIGC是人工智能计算领域里发展迅速的重要业务。Stable Diffusion 是其中最热门的开源模型，受到广泛关注。然而，随着应用场景不断扩大，Stable Diffusion所面临的推理时延和计算成本问题也越来越突出。 简介 PAI-Bl...
-
【AI画画教程】无整合包使用LoRA和Dreambooth训练全流程详解（Linux）
前言 本教程遵循简单原则，不使用任何民间整合包。 目前很多AI画画训练整合包臃肿复杂，教程也是名词乱炖，容易对初学者造成理解误差和使用困难。因为许多整合包都依赖于sd-scripts库，它自身就能支持绝大多数的训练场景，学会这个后，自己也可以根据自己...
-
代码能力超越GPT-4，这个模型登顶Big Code排行榜，YC创始人点赞
一款号称代码能力超越GPT-4的模型，引发了不少网友的关注。 准确率比GPT-4高出超过10%，速度却接近GPT-3.5，而且窗口长度也更长。 据开发者描述，他们的模型取得了74.7%的Pass@1通过率，超过了原始GPT-4的67%，登上了Big C...