-
llama大模型提前停止策略，实现工具调用——以Llama3为例
在大模型的generate过程中为了实现工具调用功能，模型输出到了指定的token需要执行工具的时候，需要模型的generate停止。model.generate( 的参考链接：https://github.com/huggingface/transfor...
-
两款头部产品流量下滑50%+，刚找到的AI流量密码失效了？
几个月前，我们推出了《AI 元年，被 C 端用户“证伪”了的 AI 产品（上）》选题，观察了“掉队”的AI产品。当时我们也看到了作为 Chrome Extensions 深入到用户日常使用场景的 AI 产品们，仿若找到了流量密码。 在 a16z 几个月前发...
-
击败GPT-4o的开源模型如何炼成？关于Llama 3.1 405B，Meta都写在这篇论文里了
经历了提前两天的「意外泄露」之后，Llama 3.1 终于在昨夜由官方正式发布了。 Llama 3.1 将上下文长度扩展到了 128K，拥有 8B、70B 和 405B 三个版本，再次以一已之力抬高了大模型赛道的竞争标准。 对 AI 社区来说，...
-
AI多模态实战教程：面壁智能MiniCPM-V多模态大模型问答交互、llama.cpp模型量化和推理
一、项目简介 MiniCPM-V 系列是专为视觉-语⾔理解设计的多模态⼤型语⾔模型（MLLMs），提供⾼质量的⽂本输出，已发布4个版本。 1.1 主要模型及特性 （1）MiniCPM-Llama3-V 2.5： 参数规模: 8B 性能: 超越...
-
OpenAI的ChatGPT-4和百度文心一言对比
目录 OpenAI的ChatGPT-4和百度文心一言对比 1.引言 2.文心一言概览 3.GPT-4概览 4.技术特点比较 4.1 模态输入 4.2 语言处理 4.3 安全性和准确性 5.应用场景比较 5.1 商业应用 5.2 教育和...
-
探索无限创意：ChatGPT Midjourney Prompt Generator
探索无限创意：ChatGPT Midjourney Prompt Generator 在这个数字艺术的时代，创新和灵感是驱动进步的关键。ChatGPT Midjourney Prompt Generator 应运而生，它将 ChatGPT 的智能与...
-
AI日报：GPT-4o灰测高级语音功能，ChatGPT版Her来了；Midjourney V6.1上线；360安全大模型免费开放
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、OpenAI向ChatGPT...
-
终于来了，OpenAI测试GPT-4o高级语音模式！
OpenAI宣布开始向小部分ChatGPT Plus用户，测试GPT-4o的高级语音模式。 本次测试将主要搜集安全、功能方面的反馈，OpenAI会在8月初分享一份全面的GPT-4o评估报告。随后，还会发布视频和屏幕共享新功能。 获取测试权限的用户会收到O...
-
如何有效地使用Code Llama：AI编程助手的实用指南
在当今快速发展的人工智能时代，编程领域也迎来了革命性的变革。Meta公司最近发布的Code Llama模型就是这一趋势的代表作。本文将深入探讨如何充分利用Code Llama的各种功能，为开发者提供一个全面的指南，帮助您更好地理解和应用这一强大的AI编程工...
-
使用LLaMA-Factory对Llama3-8B-Chinese-Chat进行微调
文章目录 模型及数据： 模型下载 数据 LLaMA-Factory启动 拉取代码 启动webui 模型训练 数据导入 数据预览 设置模型路径 配置参数及参数的保存 开始训练 过程观察 加载模型、对话 模型导出、再次加载...
-
whisper-api语音识别语音翻译高性能兼容openai接口协议的开源项目
whisper-api 介绍 使用openai的开源项目winsper语音识别开源模型封装成openai chatgpt兼容接口 软件架构 使用uvicorn、fastapi、openai-whisper等开源库实现高性能接口 更多介绍 h...
-
摩尔线程GPU牵手东华软件：AI大模型适配已完成
快科技7月30日消息，摩尔线程、东华软件云筑AI创新中心联合宣布，双方已完成AI大模型推理测试与适配。 基于摩尔线程的全功能GPU国产算力，东华软件打造了AI Agent平台智多型（A.I.Cogniflex）”，基于私有化大模型，安全可信。 该平台集成了...
-
AIGC提示词---如何写提示词？
你真的了解你的AI助手吗？ 想象一下，你和别人使用相同的AI工具，但为何他的工作效率总是高出一截？秘诀可能就藏在那些看似简单的提示词里。精准的提示词是解锁AI潜能的关键，它们能让AI更好地理解你的需求，从而提供更准确、更高效的回答。 编写提示词，好比电...
-
当AI绘画 开始抢动漫人饭碗
每一次生产力的变革，在带来技术进步与更高效率的同时，也都无可避免地带来一次人才的更迭。在过去的几年里，人工智能取得了极快的发展，其中包括基于机器学习和深度学习的“图像生成技术”。ChatGPT4的出现，更是将AI 绘图降低到几乎零门槛，普通用户只需输入文本...
-
AIGC技术内幕：底层架构与工作原理
目录 AIGC技术内幕：底层架构与工作原理 背景 底层架构 1. 代码建议模块 2. 代码审查模块 3. 项目管理模块 工作原理 结论 AIGC技术内幕：底层架构与工作原理 背景 AI对话大师是一种基于深度学习的聊天生成语言大模...
-
手把手教你用聆思CSK6大模型开发板接入文心一言/千帆大模型
前言 多模态交互离不开硬件载体，近期有不少开发者在研究大模型开发板除了使用出厂示例自带的星火大模型，能不能接入文心一言、通义千问、豆包、智谱glm、kimi等国内的大模型，这个是必须支持的。但由于各家接口和数据格式不一样，有些朋友直接参考...
-
开源大模型杀疯了！Mistral新模型三分之一参数卷爆Llama 3.1，“新趋势已显而易见”...
克雷西 西风 发自 凹非寺量子位 | 公众号 QbitAI Llama 3.1 405B“最强模型”宝座还没捂热乎，就被砸场子了—— Mistral AI发布最新模型Mistral Large 2，参数123B，用不到三分之一的参数量性能比肩...
-
大数据最新大模型学习路线与建议_大模型学习路径
1 既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！ 由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后...
-
用LoRA微调 Llama 2：定制大型语言模型进行问答
Fine-tune Llama 2 with LoRA: Customizing a large language model for question-answering — ROCm Blogs (amd.com 在这篇博客中，我们将展示如何在AM...
-
AIGC大模型在人力资源中的应用之一：简化招聘流程
与大多数行业一样，人力资源管理的世界也在不断发展。其中一个演变是聊天 GPT 技术的集成，它已成为招聘和保留的流行工具。当人力资源专业人员必须处理大量申请人或迫切需要大众传播时，聊天机器人会派上用场。 我们将深入研究聊天机器人和GPT（生成式预训练模型）...
-
AI大模型原理（通俗易懂版）——AIGC
传送门：AI大模型原理（通俗易懂版）-CSDN博客 AIGC 说起近期的热门科技词汇，AIGC当之无愧位列其中。从某一天开始，我们突然发现AI可以帮忙生成文字图片音频视频等等内容了。而且让人难以分清背后的创作者到底是人类还是AI。 这些AI生...
-
使用llama.cpp启动GPU模型计算
查询GPU使用状态： watch -n 0.5 nvidia-smi 使用GPU编译llama.cpp: make LLAMA_CUBLAS=1 用过make的记得删除项目，重新再以上执行命令，要不还...
-
国产系统上的 Copilot 初体验
2023年，微软发布了 Windows Copilot，到2024年更进一步，将 Copilot 深度集成到 Windows 11 系统中，免费供用户使用，这一举措震动了整个科技业界。然而，令人遗憾的是，Windows Copilot 并未对中国区用...
-
AIGC学习笔记—LLM（前言）
大语言模型本身我不是很了解，但是掌握一些基础的知识点，由于要准备某个公司的二面，所以浅学一下这个技术，也是边摸索边学习...... 首先，我先简单的解释一下大模型，大模型是指具有大规模参数和复杂计算结构的机器学习模型，通常由深度神经网络构建而成，拥有数十...
-
OpenAI模型年化收入10亿美元，百度发布文心一言新模型、比尔·盖茨：不要“过分担心”AI 用电
ChatGPT狂飙160天，世界已经不是之前的样子。 更多资源欢迎关注 1、OpenAI AI模型销量超越微软同类产品！年化收入达10亿美元 在2019年与微软建立合作伙伴关系后，AI初创公司OpenAI显示出了惊人的销售能力，根据最新两家...
-
OpenAI要再次带国内大模型玩家飞？
被传了几个月，OpenAI终于官宣入局AI搜索。 北京时间7月26日，OpenAI在官网发布消息，宣布推出AI搜索产品SearchGPT。 OpenAI CEO山姆·奥特曼在X（前推特）公布喜讯，比起夸自己，更像是diss前人:“我们认为如今的搜索还有改...
-
OpenAI发布最新大模型安全对齐奖励方法——RBR
随着ChatGPT等产品的广泛应用，确保其输出的安全性成为场景化落地的关键。传统方法是使用RLHF（人类反馈强化学习）来进行安全对齐，但有两大局限性难以持续使用。 1）收集和维护人类反馈数据不仅成本高昂，并且随着大模型能力的提高以及用户行为的变化，现有的数...
-
AI多模态模型架构之LLM主干(3)：Llama系列
〔探索AI的无限可能，微信关注“AIGCmagic”公众号，让AIGC科技点亮生活〕 本文作者：AIGCmagic社区 刘一手 前言 AI多模态大模型发展至今，每年都有非常优秀的工作产出，按照当前模型设计思路，多模态大模型的架构主要包括...
-
GPT-4o mini实力霸榜，限时2个月微调不花钱，每天200万训练token免费薅
Llama3.1405B巨兽开源的同时，OpenAI又抢了一波风头。从现在起，每天200万训练token免费微调模型，截止到9月23日。 Llama3.1开源的同一天，OpenAI也open了一回。 收到邮件的开发者们激动地奔走相告，这么大的羊毛一定...
-
【AI大模型】程序员AI的未来——Copilot还是Claude3.5 Sonnet？
近期，Anthropic发布了Claude 3.5 的“大杯”模型 —— Claude 3.5 Sonnet！ 这次发布的 Sonnet 代表意大利的“十四行诗”，结构复杂，在智能水平、功能多样性和处理能力上都有所提升，能够应对更复杂的认知任务，提供更高...
-
微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖
编者注：之前一直用firefly做微调，最近切换到LLaMA-Factory，发现不但简单易用，而且非常全面，有点相见恨晚的感觉。使用过程中我主要参考2个文档，一个是github上的官方中文文档： https://github.com/hiyouga/L...
-
ChatGLM3-6B使用lora微调实体抽取，工具LLaMA-Factory，医学数据集CMeEE
一、下载ChatGLM3-6B 下载地址，需要魔法 测试模型： 新建文件predict.py。运行下面测试代码。建议这里的transformers包最好和LLaMA-Factory环境的transformers包版本保持一致或者直接用LLaMA-Fa...
-
一些好用的免费的开源大模型推荐，豆包，文心一言，kimi，poe，通义千问等，对科研党极其友好
今天给大家分享一些我使用过的自认为比较好用的大模型，可以和chatGPT媲美，有需要的可以试试看: 1.豆包 https://www.doubao.com/chat/ 豆包是由字节跳动公司开发的一款人工智能产品。它基于云雀大模型构建，为用户提供网页版...
-
“AI阵痛”频发，我们应该如何面对AI焦虑？
去年 5 月，美国编剧工会和演员工会罢工，呼吁提高薪资，拒绝给AI打工，超过 1 万名从业者上街参与活动，持续了近 100 天，对美国娱乐业造成了巨大的经济损失，而这次罢工也是人类抵抗AI威胁的首次集体行动。 人类历史的发展进程遍布着颠覆性技术，每一次变革...
-
B站AI课几秒出总结，划词就给解释，这个「AI学习搭子」真香
在 ChatGPT 走红之后，本着「打不过就加入」的心态，很多职场人学起了 AI。但遗憾的是，不少人走了弯路，甚至还被某些「199」的课程割了韭菜。 其实，学 AI 这事儿并不难。读文章、看视频、啃论文都是很好的学习方式。 当然，还是有不少读者吐槽，学 A...
-
剑指搜索巨头谷歌！OpenAI推出AI搜索引擎SearchGPT
快科技7月26日消息，OpenAI今日宣布，其AI搜索引擎SearchGPT开放内测，SearchGPT目前先向小部分用户开放，官网显示需要先申请加入候补名单。 OpenAI 表示，SearchGPT 旨在将模型的强大能力来检索网络的信息，为用户提供快速及...
-
消息称OpenAI今年亏损或高达50亿美元
7月26日消息，据媒体报道，2024年OpenAI年亏损可能高达50亿美元。 今年6月，OpenAI CEO奥尔特曼在内部员工会议上透露，今年绝大部分收入预计来自OpenAI的产品和服务，包括ChatGPT的订阅费以及让软件开发人员通过应用程序编程接口（A...
-
一年亏损50亿美金，OpenAI不会未AGI身先死吧？
The Information 报道，据此前未公开的内部财务数据和相关人士的分析，OpenAI 预计今年亏损50亿美金，其亟需在12个月之内筹集更多现金，才能活下去。如果简单分析一下 OpenAI 的收入成本结构，你大概更能深刻理解，Sam Altman...
-
工信部教育与考试中心《AIGC提示工程师》常见问题解答
一、什么是AIGC提示工程师？ 未来智能世界的领航者。 AIGC提示工程师（AI-Generated Content，生成式人工智能），是未来智能世界的领航者，是以创新思维和精湛技术设计智能提示语，引领AI创作出令人惊叹的内容，为用户提供卓越个性化...
-
大模型智障检测+1：Strawberry有几个r纷纷数不清，最新最强Llama3.1也傻了
继分不清9.11和9.9哪个大以后，大模型又“集体失智”了! 数不对单词“Strawberry”中有几个“r”，再次引起一片讨论。 GPT-4o不仅错了还很自信。 刚出炉的Llama-3.1405B，倒是能在验证中发现问题并改正。 比较离谱的是Clau...
-
使用Llama3/Qwen2等开源大模型，部署团队私有化Code Copilot和使用教程
目前市面上有不少基于大模型的 Code Copilot 产品，部分产品对于个人开发者来说可免费使用，比如阿里的通义灵码、百度的文心快码等。这些免费的产品均通过 API 的方式提供服务，因此调用时均必须联网、同时需要把代码、提示词等内容作为 API 的入参在...
-
AI日报：Bing推生成式AI搜索功能 ；Open-Sora Plan v1.2发布；Mistral Large2突然开源；腾讯智影推智能画布功能
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、Bing推生成式AI搜索功能...
-
OpenAI掀桌子！免费提供GPT-4o mini微调，每天200万tokens
OpenAI宣布从今天开始到9月23日，免费为4级、5级用户提供GPT-4o mini微调服务，帮助开发者打造特定业务用例的生成式AI应用。 在这期间，每天限制200万tokens数据，超过的部分将按照每10万tokens3美元收取。从9月24日开始，每1...
-
【大语言模型LLMs】Llama系列简介
【大语言模型LLMs】Llama系列简介 文章目录 【大语言模型LLMs】Llama系列简介 1. LLaMa 1.1 引言 1.2 方法 1.2.1 预训练数据 1.2.2 架构 1.2.3 优化器 1.2.4 效率 2....
-
【大模型】微调实战—使用 ORPO 微调 Llama 3
ORPO 是一种新颖微调（fine-tuning）技术，它将传统的监督微调（supervised fine-tuning）和偏好对齐（preference alignment）阶段合并为一个过程。这减少了训练所需的计算资源和时间。此外，实证结果表明，ORP...
-
AI应用的流量“炼金术”
“五个离职同事里，至少有三个人在搞应用”，一位刚从大厂离职的员工告诉光子星球。 大厂高管出走、组团找融资，大热项目组成员离职看应用，是目前AI赛道最真实的写照。 进入2024年，模型层大局已定，鲜少有新玩家能够进入。而卷生卷死的AI应用，门槛不高，投入成本...
-
第一批用AIGC赚到钱的人，已经开卷海外了
本文来自微信公众号“字母榜”，作者:马舒叶 4月，网文创作者木木被一款AI写作工具种草了。定好故事大纲后，AI辅助生成的2万多字小说内容，不仅做到了上下文连贯，还能在某些内容上升华主题，最终免费字数没用完，木木便成为了这款工具的付费用户。 “作为一款上线即...
-
文心一言与ChatGPT：两大AI对话引擎的技术对比
随着人工智能技术的飞速发展，AI对话引擎逐渐成为了科技领域的热点。文心一言和ChatGPT作为两大知名的AI对话引擎，各自拥有独特的技术特点和应用场景。本文将对文心一言和ChatGPT进行技术对比，旨在为读者提供更深入的了解和认识。 一、文心一言概述...
-
使用LLaMA-Factory微调大模型
使用LLaMA-Factory微调大模型 github 地址https://github.com/hiyouga/LLaMA-Factory 搭建环境 git clone --depth 1 https://github.com/hiyouga/...
-
OpenAI CTO 剧透AGI关键词：十年内出现、极其先进、智能系统
7月初，在约翰霍普金斯大学，资深科技记者、播客Pivot的联合主持人Kara Swisher与OpenAI CTOMira Murati展开了一场火药味十足的对话，计算机科学家、斯坦福大学教授李飞飞也加入了提问阵营，他的另一个身份是Google云人工智能和...