-
4060显卡+LLaMA-Factory微调LLM环境准备——（一）安装cuda
本地配置 系统：win10**硬件：**i5-12490f+RTX4060 安装原因： 最近尝试在本地对开源LLM进行Fine-tune的时候，用到了LLaMA-Factory，在运行的时候，弹出未检测到GPU，后来才发现，是忘记安装cuda等...
-
探索GitHub Copilot的深度洞见：Copilot Metrics Viewer全面解析
探索GitHub Copilot的深度洞见：Copilot Metrics Viewer全面解析 copilot-metrics-viewerTool to visualize the Copilot metrics provided via the...
-
LLaMA 3 背后的大规模 GPU 集群 RoCE 网络建设
模型越来越大，需要的 GPU 越来越多；与此同时 GPU 性能也在不断增强，配套的网络带宽也不断增加到 400G（Blackwell GPU 甚至需要到 800 Gbps）。Ranking 模型还在迁移到 GPU 的早期阶段，但使用 GPU 的规模也在不断...
-
使用FastChat快速部署LLM服务
原文：https://zhuanlan.zhihu.com/p/705915093 FastChat 是一个用于训练、服务和评估基于LLM的聊天机器人的开放平台，它的核心功能包括： 最先进模型（例如 Vicuna、MT-Bench）的训练和评估代码。...
-
小琳AI课堂：Llama——NLP界的多面手
🌟 Llama: NLP界的多面手 🌟 引言： 大家好，这里是小琳AI课堂。今天，我们要探索的是自然语言处理（NLP）领域的一位明星——Llama。🦙 Llama，由Meta AI（原Facebook AI）开发，以其轻量级、高效和易用性著称，是处...
-
大厂围堵AI创业曝「死亡名单」，前谷歌大佬出走几乎无一幸免！
前谷歌员工出走创立的AI初创公司，一个个都被大科技公司收购了!硅谷吹的这是什么邪风?外媒总结了一波谷歌AI研究人员创业难的原因，更是「扎心」地给出了一个预言名单，一一点名了眼瞅着就要被大公司收购的企业。 万众瞩目的AI初创明星公司，才四个月就风光不再了...
-
springboot笔记
目录 一springboot 1.什么是springboot 2.springboot开发步骤 3.springboot优点 4.springboot的依赖管理 目录 springboot 1.什么是springboot 2.spri...
-
ChatGLM-6B入门
ChatGLM-6B ChatGLM-6B 一、介绍 ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡...
-
AI日报：可图上线一键换衣软件；Grok-2挤进聊天机器人第二名；大学生靠Claude 3.5成功造出核聚变反应堆
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、可图上线一键换衣Kolors...
-
Datawhale X 魔搭 AI夏令营 第四期 AIGC task3
part 1：认识comfyUI 1.初识ComfyUI 1.1什么是Comfy UI GUI是"Graphical User Interface"（图形用户界面）的缩写。简单来说，GUI 就是你在电脑屏幕上看到的那种有图标、按钮和菜单的交互方式。...
-
SD创始团队黑马的Flux真的那强吗？SD Flux与华为ultrapixel大PK！群雄逐鹿！“百模”并起，王者之战~！
前言 小南还是没忍住，看大家都在试玩Flux，真的有那么震撼么？小南手痒痒也体验下吧。今天主要简单介绍下Flux以及ComfyUI的安装，重点是和我们“遥遥领先”的华为开源的ultrapixel进行下对比。没有对比就没有伤害！ 大家应该对Flux也有...
-
在亚马逊云科技上对Stable Diffusion模型提示词、输出图像内容进行安全审核
项目简介： 小李哥将继续每天介绍一个基于亚马逊云科技AWS云计算平台的全球前沿AI技术解决方案，帮助大家快速了解国际上最热门的云计算平台亚马逊云科技AWS AI最佳实践，并应用到自己的日常工作里。 本次介绍的是如何在亚马逊云科技机器学习托管服务Sage...
-
推荐使用：openai-whisper-talk —— 您的个人声音助手
推荐使用：openai-whisper-talk —— 您的个人声音助手 openai-whisper-talkopenai-whisper-talk is a sample voice conversation application powered...
-
Transformer作者预警：只卖模型玩不过OpenAI！
Transformer八子中最年轻的Aidan Gomez在最新的采访中感叹: 谷歌版的Aidan Gomez，是给AI领域带来深远影响的Transformer作者之一。 而现在的Aidan Gomez，是估值飙升55亿美元的Cohere公司的联合创始人...
-
Llama 3.1中文微调数据集已上线，超大模型一键部署
7 月的 AI 圈真是卷完小模型卷大模型，精彩不停！大多数同学都能体验 GPT-4o、Mistral-Nemo 这样的小模型，但 Llama-3.1-405B 和 Mistral-Large-2 这样的超大模型让很多小伙伴犯了难。 别担心！hyper.a...
-
部署本地语音聊天机器人：在Seeed Studio reComputer Jetson上部署Riva和Llama2
本地语音聊天机器人：在Seeed Studio reComputer Jetson上部署Riva和Llama2 所有教程都免费开源，请动动小手点个小星星https://github.com/Seeed-Projects/jetson-examples...
-
超越SD3，比肩MJ v6，文生图模型FLUX.1开源
近日，图片生成模型FLUX.1引爆了AIGC社区，其在视觉质量、图像细节和输出多样性等方面性能优越，输出极佳的图片生成效果。 FLUX.1系列模型由Black Forest Labs开源，创始人Robin Rombach是Stable Diffu...
-
【LLM】一、利用ollama本地部署大模型
目录 前言 一、Ollama 简介 1、什么是Ollama 2、特点： 二、Windows部署 1.下载 2.安装 3.测试安装 4.模型部署： 5.注意 三、 Docker部署 1.do...
-
AI应用商店是门好生意，可要如何说服开发者入驻？
无论Epic Games、Spotify这种一直与苹果对簿公堂，还是腾讯、抖音这样试图钻相关规则漏洞的公司，对于苹果通过应用内购买（IAP）抽取30%的费用，越来越多的头部开发者开始失去耐心。但就在抱怨“苹果税”的同时，有能力的厂商也在尝试复刻苹果建立的这...
-
WhisperX 安装与使用指南
WhisperX 安装与使用指南 whisperXm-bain/whisperX: 是一个用于实现语音识别和语音合成的 JavaScript 库。适合在需要进行语音识别和语音合成的网页中使用。特点是提供了一种简单、易用的 API，支持多种语音识别和语音...
-
基础模型在亚马逊的BEDROCK测试
前 言 通过 Amazon Bedrock，开发者可以轻松使用多种最新领先基础模型（FM）进行构建。本实验中，您将了解和体验到在 Amazon Bedrock 中模型的基础使用方法，以便您快速构建强大安全的大语言模型（LLM）应用，其中包括：...
-
Stable Diffusion | Gradio界面设计及webUI API调用
本文基于webUI API编写了类似于webUI的Gradio交互式界面，支持文生图/图生图（SD1.x，SD2.x，SDXL），Embedding，Lora，X/Y/Z Plot，ADetailer、ControlNet，超分放大（Extras），图片信...
-
大模型，科大讯飞不能输的一战
8月21晚间，科大讯飞发布了2024年半年度报告。尽管公司上半年实现营收93.25亿元，同比增长18.91%，但净利润却亏损至4.01亿元，同比下降644.59%;扣非后净利润继续亏损4.83亿元，同比下降58.86%，上年同期则亏损3.04亿元，亏损进一...
-
Llama 3.1 - 405B、70B 和 8B 的多语言与长上下文能力解析
Llama 3.1 发布了！Llama 3.1 有三种规格: 8B 适合在消费者级 GPU 上进行高效部署和开发，70B 适合大规模 AI 原生应用，而 405B 则适用于合成数据、大语言模型 (LLM 作为评判者或蒸馏。这三个规格都提供基础版和指令调优...
-
Xinference安装及部署大模型
1. Xinference 介绍 Xorbits Inference (Xinference 是一个开源平台，用于简化各种 AI 模型的运行和集成。借助 Xinference，您可以使用任何开源 LLM、嵌入模型和多模态模型在云端或本地环境中运行推理...
-
stable diffusion+LangChain+LLM自动生成图片
最近都在研究和学习stable diffusion和langchain的相关知识，并且看到stable diffusion也是有类似于ChatGLM的api调用方式，那在想有没有可能将stable diffusion也集成到langchain中来呢？看到网...
-
16 使用Llama Index提取术语和定义的指南
使用Llama Index提取术语和定义的指南 Llama Index有许多用例（如语义搜索、总结等），这些用例都有很好的文档记录。然而，这并不意味着我们不能将Llama Index应用于非常特定的用例！ 在本教程中，我们将介绍使用Llama Ind...
-
使用Faster Whisper：提升你的音频处理效率和质量
使用Faster Whisper：提升你的音频处理效率和质量 faster-whisper项目地址:https://gitcode.com/gh_mirrors/fas/faster-whisper 该项目，，是一个开源的Python库，专为优化对...
-
Meta Llama 3.1：AI领域的新里程碑
Meta最近推出了其最新的AI模型Llama 3.1，这不仅是一个技术上的飞跃，更是AI领域的一次重大突破。以下是Llama 3.1的一些关键技术亮点，值得每一位AI爱好者和开发者关注。 参数规模与性能 Llama 3.1包含三种规格：8B（80亿）、...
-
Datawhale X 魔搭 AI夏令营 第四期 魔搭-AIGC方向 Task03笔记
从零入门AI生图原理&实践 是 Datawhale 2024 年 AI 夏令营第四期的学习活动（“AIGC”方向），基于魔搭社区“可图Kolors-LoRA风格故事挑战赛”开展的实践学习。 Datawhale官方的速通教程链接： Task 1...
-
Midjourney连夜发布v6.1版本 | Midjourney API v6.1
Midjourney官方在7月31号发布了v6.1版本，作为AI产品来说，MJ版本更新的节奏相对于其他主流产品慢很多，是距离上次v6.0发布已经长达7个月之久的版本迭代。本次迭代的内容相信是对整体“AI文生图”产品来说又是一个质的提升。 首先我们来看官方...
-
SD差点挂掉，后备军们兴奋入场，AI生图应用正在爆发？
首先是由称得上 SD 原班人马的黑森林实验室推出的 FLUX.1。黑森林实验室由 Stable Diffusion 的核心开发者 Robin Rombach 领衔创立，团队成员基本上都是 Stable Diffusion3的作者，其中三名元老级成员还是 S...
-
T-Eval：大模型智能体能力评测基准解读 | ACL 2024
AI Agent（智能体）作为大模型的重要应用模式，能够通过使用外部工具来执行复杂任务，完成多步骤的工作流程。为了更全面地评估模型的工具使用能力，司南及合作伙伴团队推出了T-Eval评测基准，相关成果论文已被ACL 2024主会录用，点击链接可查看原文：h...
-
AIGC: 5 IT从业者如何使用AI赋能业务?
上图是一个使用AI生成的图片， 描述一下这篇文章的背景。 程序员系统学习了OpenAI提供的api接口，并熟练利用提示词结合业务解决业务问题。 现状 讲一个故事来开始今天的内容。 架构师老李在技术圈里以其卓越的技术洞察力而著称。另一边，Carter...
-
vllm 聊天模板
vllm 聊天模板 背景 如何使用chat template generation prompt & add_generation_prompt chat templates的额外输入 工具使用 / 函数调用 Chat Template...
-
如何在本地运行Llama 3系列：完整指南
今天咱们来聊聊 AI 界的重要事情——那些像 Llama3 系列这样的超大型语言模型（LLMs），现在居然可以在咱们自己的地盘上运行啦！想象一下，这就像是把一个超级智能的助手请进了家门，而且还是私密的，不用担心信息泄露的问题。 本文，虽然是基于之前 Ll...
-
Stable Diffusion WebUI 1.10.0来了
大家好，我是每天分享AI应用的萤火君！ 前几天 AUTOMATIC1111 发布了Stable Diffusion WebUI 1.10，我也在第一时间将云环境的镜像升级到了最新版本，有兴趣的同学可以去体验下，目前已经发布到了AutoDL，镜像地址：...
-
Zed AI有哪些功能免费吗？人工智能代码生成怎么使用方法详细教程指南
Zed AI 是什么？ Zed AI是一个集成到编程工作流中的插件，通过与大型语言模型（LLMs）的直接对话，增强了代码生成、转换和分析的能力。它提供了多种交互方式，包括助手面板、斜杠命令、内联助手和提示库，以提高开发效率。Zed AI还支持多种LLMs提...
-
使用langchain4j调用大模型写个聊天助手
LangChain4j是一款基于Java的高效、灵活的AI大模型应用框架，专为简化Java应用程序与LLMs（大语言模型）的集成而设计。它提供统一API和模块化设计，支持多种LLM提供商和嵌入模型，以及丰富的工具箱，如AI服务和RAG（检索增强生成）。La...
-
使用llama factory对语言模型微调，重塑自我认知，并部署于ollama上
本文记录了从环境部署到微调模型、效果测试并部署的全过程。 一 环境 如果使用autodl租赁服务器则不需要如下步骤，但是请注意llama_factory需要python、cuda等版本满足： 首先请确报你已经安装好了conda工具...
-
Python虚拟环境：使用venv隔离项目依赖
前言 在开发Python项目时，管理项目的依赖关系是一个常见的挑战。不同项目可能需要不同版本的库，如果不加以管理，很容易导致依赖冲突和环境混乱。幸运的是，Python提供了虚拟环境（virtual environment）的解决方案，帮助我们隔离项目依...
-
基于腾讯云高性能应用服务 HAI 搭建并使用 AI 模型 StableDiffusion 进行文生图
基于腾讯云高性能应用服务 HAI 搭建并使用 AI 模型 StableDiffusion 进行文生图 HAI是什么 高性能应用服务 HAI 与传统 GPU 云服务器 区别 使用高性能应用服务HAI 一键部署 StableDiffusion AI...
-
【2024W30】肖恩技术周刊（第 8 期）：奥运会热度不高？
周刊内容: 对一周内阅读的资讯或技术内容精品（个人向）进行总结，分类大致包含“业界资讯”、“技术博客”、“开源项目”和“工具分享”等。为减少阅读负担提高记忆留存率，每类下内容数一般不超过3条。更新时间: 星期天历史收录: shawn-weekly订阅方式:...
-
【愚公系列】《AIGC辅助软件开发》007-面向软件开发的提示工程：写Prompt就是逐步明确需求的过程
🏆 作者简介，愚公搬代码 🏆《头衔》：华为云特约编辑，华为云云享专家，华为开发者专家，华为产品云测专家，CSDN博客专家，CSDN商业化专家，阿里云专家博主，阿里云签约作者，腾讯云优秀博主，腾讯云内容共创官，掘金优秀博主，亚马逊技领云博主，51CTO博客专...
-
【愚公系列】《AIGC辅助软件开发》011-AI辅助编写技术文档：技术文档
🏆 作者简介，愚公搬代码 🏆《头衔》：华为云特约编辑，华为云云享专家，华为开发者专家，华为产品云测专家，CSDN博客专家，CSDN商业化专家，阿里云专家博主，阿里云签约作者，腾讯云优秀博主，腾讯云内容共创官，掘金优秀博主，亚马逊技领云博主，51CTO博客专...
-
Midjourney Imagine API 申请及使用（大陆地区）
注意：本 API 属于生成式人工智能 API，背后部分技术基于 Midjourney，为避免跨境数据传输给国家和企业带来的安全风险，请务必在使用时不要输入带有国家和企业机密的相关信息，同时本 API 也会严格遵循中华人民共和国《生成式人工智能服务管理办法》...
-
最强模型Llama 3.1 405B正式发布，扎克伯格：开源引领新时代
刚刚，大家期待已久的 Llama 3.1 官方正式发布了！ Meta 官方发出了「开源引领新时代」的声音。 在官方博客中，Meta 表示：「直到今天，开源大语言模型在功能和性能方面大多落后于封闭模型。现在，我们正在迎来一个开源引领的新时代。我们公开...
-
Ollama 部署本地大模型
目录 前言 下载安装 下载模型 接口调用 环境变量 其他模型 前言 工作需要，被指派对大模型做技术调研，又不想花钱买各大产商的key，所以就考虑部署本地的大模型，了解到 Ollama 开源框架，专为在本地机器上便捷部署和运行大型语言模...
-
Mistral新旗舰决战Llama 3.1，最强开源Large 2 123B，扛鼎多语言编程全能王
【新智元导读】紧跟着Meta的重磅发布，Mistral Large 2也带着权重一起上新了，而且参数量仅为Llama 3.1 405B的三分之一。不仅在编码、数学和多语言等专业领域可与SOTA模型直接竞争，还支持单节点部署。 昨天正式发布的Llama 3...
-
本地部署 Llama 3.1：Ollama、OpenWeb UI 和 Spring AI 的综合指南
、 本文介绍如何使用 Ollama 在本地部署 Llama 3.1:8B 模型，并通过 OpenWeb UI 和 Spring AI 来增强模型交互体验和简化 API 的调用过程。 Ollama Ollama 是一个开源的大语言模型服...