-
LMDeploy高效部署Llama-3-8B，1.8倍vLLM推理效率
Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，LMDeploy 对 Llama 3 部署进行了光速支持，同时对 LMDeploy 推理 Llama 3 进行了测试，在公平比较的条件下推理效率是 vLLM 的 1.8 倍。 书生...
-
Llama-Factory 简介 二， 脚本详解 LLaMA-Factory/src/train_bash.py LLaMA-Factory/src/llmtuner/train/pt/workfl
examples/ ├── lora_single_gpu/ │ ├── pretrain.sh: 基于 LoRA 进行增量预训练 │ ├── sft.sh: 基于 LoRA 进行指令监督微调 │ ├── reward.sh: 基于 LoRA...
-
开发arXiv论文引擎机器人程序：基于RAG＋LangChain＋Chainlit＋ChromaDB
译者 | 朱先忠 审校 | 重楼 简介 在本文中，我将演示如何使用检索增强生成(RAG 技术构建语义研究论文引擎。具体地说，我将使用LangChain(https://www.langchain.com/ 作为构建语义引擎的主要框架，以及OpenAI公...
-
利用人工智能和机器人推动科学发展
人类研究人员将永远在科学中发挥作用，但人类在探索科学方面有许多局限，我们需要吃饭和睡觉，我们的情绪会影响行为，我们的身体很容易受到不可挽回的伤害——所有这些都可能阻碍科学成就。美国阿贡国家实验室最近的发展表明，应该让机器人做一些工作，研究人员称之为“自主...
-
Stable Diffusion插件（翻译）
Agent Scheduler（代理调度器）：一个用于排队和跟踪任务历史的工具，使得管理生成任务变得井井有条。 TemporalKit（时间稳定工具包）：这是一个全能解决方案，通过一个自动化扩展，为Stable Diffusion渲染添加时间稳定性，保持...
-
2024过半，AI卷到哪儿了？
AI创业者陈冉，发现行业里有一些“怪现象”。 很多客户向他反馈，自己很困惑。一方面，大模型更新速度太快，搞不清楚到底哪个好用;同时，自己也不知道大模型怎么跟业务结合;另外，自己的数据集究竟能不能精调出一个好用的大模型，心里也没谱。 最后的结果就是，愿意投入...
-
OpenAI把GPT-4原始版给了他们：研究不微调只靠提示词能走多远
除了OpenAI自己，居然还有别人能用上GPT-4-Base版？？ 也就是未经微调的预训练版，还不会对话聊天，只会补全句子的模型。 EPFL（瑞士洛桑联邦理工）团队申请到了访问权限，用于研究“上下文学习足以让大模型跟随指令吗？”。 也就是不用监督微调、...
-
超越Devin！姚班带队，他们创大模型编程新世界纪录
超越Devin!SWEBench排行榜上迎来了新玩家—— StarShip CodeGen Agent，姚班带队初创公司OpenCSG出品，以23.67%的成绩获得全球第二名的成绩。 同时创造了非GPT-4o基模的最高纪录（SOTA）。 我们都知道，SW...
-
大模型“分区”部署在云和边缘更合适？
作者 | David Linthicum 出品 | 51CTO技术栈（微信号：blog51cto） 众所周知，大型语言模型（LLMs）需要大量的计算资源。这意味着开发和部署主要集中在强大的集中式系统上，如公共云提供商。然而，尽管许多人认为我们需要大量的...
-
使用 Springboot3.x 实现考试系统中接打电话的识别与处理
本专题将深入探讨考试系统中常见的复杂技术问题，并提供基于Spring Boot 3.x的解决方案。涵盖屏幕切换检测与防护、接打电话识别处理、行为监控摄像头使用、网络不稳定应对等，每篇文章详细剖析问题并提供实际案例与代码示例，帮助开发者应对挑战，提升考试系...
-
Stable Diffusion 使用技巧与具体操作（详细）
Stable Diffusion 是一种基于扩散模型的图像生成技术，能够生成高质量的图像。以下是一些详细的使用技巧与具体操作，帮助你更好地利用这一技术进行创作。 1. 基本概念 Stable Diffusion 利用扩散过程生成图像，通过逐步添加噪声并...
-
一键部署！QQ AI 聊天机器人！支持ChatGPT、文心一言、讯飞星火、Bing、Bard、ChatGLM、POE，多账号，人设调教
随着人工智能技术的不断发展，智能聊天机器人已经成为我们日常生活中不可或缺的一部分。ChatGPT作为一款强大的人工智能聊天模型，能够为我们提供高效、便捷的聊天体验。那么，如何将ChatGPT接入QQ，实现智能聊天新体验呢？本文将为你详细介绍。无需太多的要求...
-
基于Wechaty实现微信接入文心一言
引言与效果 上篇文章写了怎么用Wechaty接入ChatGPT，这篇写一下怎么接入文心一言的模型。国内的模型用起来会更方便一些，而且也不用科学上网。最终实现效果如下： Wechaty机器人介绍与部署 在上一篇中已详细展开说，这一篇就不再说明...
-
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流 1、 Llama 3...
-
基于百度语音识别、文心一言大模型、百度语音合成的一套完整的语音交互（利用Python实现）
本人小白，因为毕设项目需要用的语音交互，便查网上的资料利用百度api实现，比较简单的过程，供大家借鉴批判。 项目框架大致分为3步：（1）百度语音识别可以将我们输入的语音转化为文本输入到文心一言大模型；（2）文心一言大模型根据输入以输出响应文...
-
【AIGC调研系列】Dify平台是什么
Dify平台是一个专为大型语言模型（LLM）开发和运营设计的LLMOps（Large Language Model Operations）平台。它旨在简化AI应用的创建、部署和管理过程，使开发者能够更快速、更轻松地构建和运营基于GPT等模型的AI应用。...
-
百度文心一言api Python调用ERNIE-Lite-8K-0922具体教程
ERNIE Lite是百度自研的轻量级大语言模型，兼顾优异的模型效果与推理性能，适合低算力AI加速卡推理使用。ERNIE-Lite-8K-0922（原ERNIE-Bot-turbo-0922）是模型的一个模版，本文介绍了相关API及应用。 创建chat...
-
基于 Llama-Index、Llama 3 和 Qdrant，构建一个 RAG 问答系统！
构建一个使用Llama-Index、Llama 3和Qdrant的高级重排-RAG系统 尽管大型语言模型（LLMs）有能力生成有意义且语法正确的文本，但它们面临的一个挑战是幻觉。 在LLMs中，幻觉指的是它们倾向于自信地生成错误答案，制造出看似令人信...
-
大神开发的Stable Diffusion出了安卓客户端，完全免费
Stable Diffusion是2022年发布的深度学习文本到图像生成模型。由于它是一款完全免费的开源软件，可以在大多数配备有适度GPU的电脑硬件上运行。他不像chatgpt和其他AI工具，模型（如DALL-E和Midjourney）只能通过云计算服务访...
-
“全网最全”LLM推理框架集结营 | 看似微不足道，却决定着AIGC项目的成本、效率与性能!
00-前序 随着ChatGPT、GPT-4等大语言模型的出现，彻底点燃了国内外的学者们与企业家们研发LLM的热情。国内外的大语言模型如雨后春笋一般的出现，这些大语言模型有一部分是开源的，有一部分是闭源的。 伴随着大语言模型的出现，国...
-
玩转AI，笔记本电脑安装属于自己的Llama 3 8B大模型和对话客户端
2024 年 4 月 18 日，Meta开源了 Llama 3 大模型，把 AI 的门槛降低到了最低，这是人工智能领域的一个重要飞跃。我们个人也可以部署大模型了，这简直就是给个人开发者发了个大红包！Llama 3 模型有不同的参数版本，本文主要分享我在个人...
-
LLaMA-Factory 微调训练
LLaMA-Factory 微调训练 该框架功能，标注-微调-导出-合并-部署，一整条流程都有，而且训练时消耗的gpu算力也会小一些 一，安装（推荐在linux中训练，win可以用wsl+docker） git clone https:...
-
WhisperX：新一代加密通信框架，安全与效率并重
WhisperX：新一代加密通信框架，安全与效率并重 项目地址:https://gitcode.com/m-bain/whisperX 在数字时代，隐私和数据安全日益成为我们关注的重点。WhisperX是一个新兴的开源项目，旨在提供一个高度安全、可...
-
孔夫子二手书采集
文章目录 项目演示 软件采集单本数据 网页搜索数据对比 使用场景 概述 部分核心逻辑 Vb工程图 数据导入与读取 下拉框选择参数 设置线程 使用方法 下载软件 授权 导入文件 预览处理后的数据 项目结构 附件说明 项目演...
-
OpenAI API - 使用Whisper和GPT-4模型开发一个自动化会议记录生成器
前言 本文章结合官方教程给大家介绍如何利用OpenAI的Whisper和GPT-4模型来开发一个自动化会议记录生成器。这个应用程序可以转录会议音频 一 应用程序基本介绍 Whisper和GPT-4模型：Whisper是一个用于音频转录的模型，而G...
-
小白编程神器！秒杀Copilot！
在当今的数字时代，编码已成为各个行业必不可少的技能。从应用程序开发到网页设计，编码是许多技术进步的核心。然而，不是每个人都有时间从头开始学习编码。 关注智言AI，即可免费体验无魔法版本的DALL·E3（画图）、GPT实时联网和4V功能（看图）！ 电脑...
-
OpenAI要和苹果合作：投资数百亿美元的微软不高兴了
快科技5月31日消息，据国外媒体报道，苹果与OpenAI的合作谈判已持续一年之久，并且双方计划在即将到来的苹果WWDC 2024开发者大会上正式宣布合作事宜。 据悉，合作内容可能涉及将ChatGPT集成到iOS 18系统中，这将大幅提升Siri的智能处理能...
-
OpenAI被曝帮苹果Siri换脑，微软急了：CEO约谈奥特曼
OpenAI、苹果被曝牵手成功，iPhone要变AiPhone了! 预计苹果将在6月10日的WWDC2024上首发iOS18的新AI功能，到时见分晓。 知情人士透露，Siri很可能会被AI彻底改造，可控制应用程序内的所有功能。 The Informati...
-
使用llama.cpp量化部署LLM
以llama.cpp工具为例，介绍模型量化并在本地部署的详细步骤。这里使用 Meta最新开源的 Llama3-8B 模型。 1 环境 系统应有make（MacOS/Linux自带）或cmake（Windows需自行安装）编译工具 Python 3....
-
aigc 启动器 sd-webui-aki-v4 decode_base64_to_file
下载地址： SD-WebUI启动器 绘世-启动器 | 万物档案 decode_base64_to_file报错： File "E:\BaiduNetdiskDownload\stable diffusion\sd-webui-aki-v4\e...
-
Novita AI开源Animate Anyone项目 上传一张照片即可合成动画
阿里巴巴的一个项目，利用一张图片和提取视频中的人物姿势合成角色动画，现在被Novita AI开源并提供了API。用户只需提供一张照片和一个参考视频，即可通过API接入合成动画。该项目名为Animate Anyone，灵感来源于MooreThreads/Mo...
-
Cartesia发布低延迟语音生成模型Sonic 要复刻ChatGPT实时语音聊天？
Cartesia 发布了一个名为 Sonic 的低延迟语音生成模型，该模型以其快速的推理速度和超低的延迟引起了广泛关注。Sonic 的延迟仅为135毫秒，能够生成具有逼真情感和表达能力的语音。用户只需提供10秒的录音，Sonic 即可模仿说话者的韵律、语调...
-
Spring Boot与百度AI语音识别API集成实践
本专题系统讲解了如何利用SpringBoot集成音频识别技术，涵盖了从基础配置到复杂应用的方方面面。通过本文，读者可以了解到在智能语音填单、智能语音交互、智能语音检索等场景中，音频识别技术如何有效提升人机交互效率。无论是本地存储检索，还是云服务的集成，丰...
-
【LLAMA3超级课堂-第四节】Llama 3 高效部署实践（LMDeploy 版）
开发机地址：https://studio.intern-ai.org.cn/console/instance 本文内容 环境，模型准备 LMDeploy chat LMDeploy模型量化(lite LMDeploy服务(serve 环...
-
啥，字节扣子Bot通过API调用百度文心一言？
4月1号扣子上新啦！！ 扣子插件在线IDE 扣子丰富的插件功能和灵活的Workflow深受开发者的好评，这不，扣子又推出了插件IDE，无需使用自己的IDE、无需使用自己的服务器就可以更好的写自己的插件（之前已经支持在Worflow中直接添加代码节点）。...
-
AIGC: 4 IT从业者如何构建自己的AI知识体系
图片是我使用dall.e模型生成的图片， 提示词： 程序员系统学习OpenAI开发者平台系统学习。 我按照SCQA模型，来开始今天的内容。 S 场景 今天是2024年3月23日，我在深圳，从事IT行业，每个人从事的行业各不相同， 但是都在被AI冲...
-
Llama3-Tutorial（Llama 3 超级课堂）-- 笔记
第1节—Llama 3 本地 Web Demo 部署 端口转发 vscode里面设置端口转发 https://a-aide-20240416-b4c2755-160476.intern-ai.org.cn/proxy/8501/...
-
一个API接口对接ChatGPT3.5/4.0,Claude3,文心一言,通义千问,智谱AI等多款AI模型，打造属于自己的AI应用
今天我要给大家介绍团队的最新项目——一个集成了ChatGPT-3.5/4.0、Claude3、文心一言、通义千问、智谱AI等多个AI模型的API模型聚合平台。仅需使用一个接口就可以对接所有AI模型 网址：https://api.atalk-ai.com...
-
大模型进入「实用」时代，亚马逊云科技已是Next Level
在云计算领域竞争最激烈的时代，亚马逊云科技曾提出，云计算的普惠是技术升级带来的。这个说法换到如今的生成式 AI 时代也是成立的。 如果细数这半年来「震撼发布」、「颠覆时代」出现的频率，其实并不比往年低。每一次迭代都在抬高大模型解决问题能力的上限，也都拓宽了...
-
百度文心一言api Python调用ERNIE-Speed-8K具体方法
ERNIE Speed是百度2024年最新发布的自研高性能大语言模型，通用能力优异，适合作为基座模型进行精调，更好地处理特定场景问题，同时具备极佳的推理性能。ERNIE-Speed-8K是模型的一个版本，本文介绍了相关API。 创建chat 调用本接口...
-
大模型App腾讯元宝上线！混元再升级，打造可随身携带的全能AI助理
5 月 30 日，腾讯宣布旗下混元大模型全面升级，基于混元大模型的App“腾讯元宝”正式上线，苹果及安卓应用商店均可下载。 相比此前测试阶段的混元小程序版本，面向工作效率场景，腾讯元宝提供了AI搜索、AI总结、AI写作等核心能力；面向日常生活场景，元宝...
-
蚂蚁集团CTO称大模型还在钻木取火阶段：仍未找到AI的本质
快科技5月30日消息，在近日的在第九届蚂蚁技术日上，蚂蚁集团CTO（首席技术官）何征宇提出了对当前大模型技术发展的深刻见解。 何征宇比喻说，尽管大模型技术有其用处，但目前的发展阶段还类似于原始人钻木取火，尽管我们能够利用AI技术，但还没有找到最高效的方法，...
-
Mistral 开源代码模型夺得王座！Codestral疯狂训练超80种语言，国内通义开发者请求出战！
出品 | 51CTO技术栈（微信号：blog51cto） Mistral 发布了首个代码模型 Codestral-22B！ 该模型的疯狂之处不仅在于训练了80多种编程语言，包括许多代码模型忽略的Swift等。 还在于他非同一般的速度。要求用Go语言编...
-
你的全能AI搭子来了，腾讯混元推出大模型App“腾讯元宝”
5月30日，腾讯宣布旗下混元大模型全面升级，基于混元大模型的App“腾讯元宝”正式上线，苹果及安卓应用商店均可下载。 相比此前测试阶段的混元小程序版本，面向工作效率场景，腾讯元宝提供了AI搜索、AI总结、AI写作等核心能力;面向日常生活场景，元宝的玩法也...
-
Mistral AI推首个代码生成模型Codestral 支持多种编程语言
Mistral AI 推出了其首个代码生成模型 Codestral，这是一个功能强大的工具，旨在帮助开发者提高编码效率和质量。 以下是 Codestral 的一些关键特性和优势: 支持多种编程语言: Codestral 能够支持超过80种编程语言，包括当...
-
Llama3-Tutorial（Llama 3 超级课堂）作业
1.Llama 3 Web Demo 部署 cd ~ git clone https://github.com/SmartFlowAI/Llama3-Tutorial 安装 XTuner 时会自动安装其他依赖 cd ~ git clone -b...
-
文生图——python调用stable diffusionAPI生成有趣的图像
本文将介绍如何使用Python调用Stable Diffusion API进行图像生成，实现文生图的功能。通过详细的步骤说明和示例代码，读者将能够轻松掌握这一技术，并运用它生成独特而富有创意的图像作品。无论你是编程爱好者还是设计师，都能从中获得启发和乐趣。...
-
【AIGC调研系列】GPT-4O比GPT-4强在哪
GPT-4O与GPT-4在多个方面有所不同，主要体现在性能、响应速度、成本效益以及多模态处理能力上。 性能提升：GPT-4O在文本分析、推理和编程能力上相较于GPT-4有显著提升。特别是在视觉和音频理解能力上，GPT-4O表现出更优越的性能[3][8...
-
Spring Boot3.x与阿里云人脸识别服务对接实现人脸识别
本专题致力于深入探讨如何通过SpringBoot3.x框架与OpenCV库实现高效的人脸检测和人脸识别系统。通过系统化的10篇文章，从基础概念到高级应用，结合代码示例和实战案例，逐步引导大家掌握从零开始构建完整人脸检测与识别系统的全过程。 阿里云人脸识别...
-
AI绘画，Midjourney API 接口对接和使用
项目背景 众所周知，Midjourney并没有提供任何的Api服务，但是基于Midjourney目前的行业龙头位置，很多企业以及个人会有相关的需求。TTApi平台基于Midjourney现有功能整理出一套完整的可集成性高的服务，如果你有类似的需求，那么...