-
开源模型应用落地-qwen2.5-7b-instruct-LoRA微调-LLaMA-Factory-单机单卡-V100（十八）
一、前言 本篇文章将使用LLaMA-Factory去高效微调（命令和界面方式）QWen2.5系列模型，通过阅读本文，您将能够更好地掌握这些关键技术，理解其中的关键技术要点，并应用于自己的项目中。 QWen2系列模型微调: 开源模型应用落...
-
大语言模型如何提升AIGC内容的质量与创意
在人工智能生成内容（AIGC）领域，大语言模型（LLMs）正成为推动创意和内容质量提升的重要工具。这些模型不仅能够生成自然流畅的文本，还可以在多种应用场景中提供灵感与创新。本文将探讨大语言模型如何通过理解语言的复杂性、模仿创意写作风格以及结合用户反馈，来提...
-
[240929] 12 款最佳免费开源隐写工具 | Llama 3.2: 开源、可定制模型，革新边缘人工智能和视觉体验
目录 12 款最佳免费开源隐写工具 Llama 3.2: 开源、可定制模型，革新边缘人工智能和视觉体验 12 款最佳免费开源隐写工具 什么是隐写术？ 隐写术是一种将信息隐藏在其他信息中的艺术和科学，除了发送者和预期的接收者之外，...
-
【人工智能绪论】一次性搞懂什么是AIGC！
? 个人主页：十二月的猫-CSDN博客 ? 系列专栏：深度学习_十二月的猫的博客-CSDN博客 ?? 十二月的寒冬阻挡不了春天的脚步，十二点的黑夜遮蔽不住黎明的曙光 ? 专栏持续更新中~~~✨ 目录 1. 前言 2. AIGC发展历程...
-
什么是AIGC？什么是大模型？具体有什么应用？
什么是AIGC？ AIGC，英文全称是Artificial Intelligence Generated Content，翻译成中文的大白话意思就是“人工智能生成的内容”。比如AI（Artificial Intelligence，人工智能）生成文本、图...
-
【AIGC】Kolors:快手开源的文生图大模型
GitHub：GitHub - Kwai-Kolors/Kolors: Kolors Team 论文：Kolors/imgs/Kolors_paper.pdf at master · Kwai-Kolors/Kolors · GitHub comfyu...
-
AMD发布首个AI小语言模型：6900亿token、推测解码提速3.88倍
快科技10月1日消息，AMD发布了自己的首个小语言模型(SLM ，名为AMD-135M”。 相比于越来越庞大的大语言模型(LLM ，它体积小巧，更加灵活，更有针对性，非常适合私密性、专业性很强的企业部署。 AMD-135小模型隶属于Llama家族，有两个版...
-
实习结帖（flask加上AIGC实现设计符合OpenAPI要求的OpenAPI Schema，让AIGC运行时可以调用api，协助公司门后迁移新后端等）
终于，笔者的实习生活也要告一段落了，最后的几天都在忙着和公司做AIGC的项目，在搞api的设计以及公司门户网站的迁移。 牛马搬运工（牛马了3天） 先说这个门户网站的迁移，我原本以为只是换个后端（若依），数据库改改就能...
-
给AI公司“打杂”，95后华人把估值做到138亿美元
在旧金山的 Showplace 广场，一栋曾经属于Airbnb的商业大楼最近迎来了新主人。在大部分科技公司都在业务收缩的当下，Scale AI，这家由95后华人创立的人工智能数据标注公司，大手一挥租下了旧金山市中心约18万平英尺的办公室。 就在不久前，Sc...
-
当剪映识别字幕开始收费，我们用免费开源软件FFmpeg、Whisper、ChatGPT来快速制作中文或双语字幕
最近剪映中的视频“智能提取字幕”的功能收费了，收费是按照会员功能年收费，收费还不低。由于我只需要剪映的字幕功能，其他会员功能并不需要，于是想了其他的办法来解决给视频增加字幕的功能，并且还能添加双语字幕，给中文字翻译成其他任何一门语言再加在中文幕...
-
Copilot,Cursor和通义灵码：到底谁才是你的最强代码助手？
近期基于大语言模型诞生的代码辅助助手可谓层出不穷，从一开始的github copilot, tabnine到现如今的cursor大火，到底谁才是代码辅助的最强王者呢？我希望就我近期的体验带大家初步认识一下他们（仅代表个人见解） 本文将介绍以下几个工具：...
-
陈睿：B站已成中国AI心智最强社区！
快科技9月27日消息，在2024年中国国际智能传播论坛上，哔哩哔哩董事长兼CEO陈睿发表演讲时表示，B站已经成为中国AI心智最强的社区。 他指出，AI是B站上年轻人最关注的内容，也是该平台上增长最快的科技领域。 据陈睿介绍，中国有68%的90后活跃在B站，...
-
人工智能生成内容（AIGC）对程序员的影响
? 人工智能生成内容（AIGC）对程序员的影响 ? 引言 AIGC技术正在深刻影响软件开发行业，给程序员带来诸多机遇和挑战。程序员不仅需要适应这些新兴技术，还要有效利用它们来提升自己的工作效率和创新能力。 ? AIGC技术的优势 ? 效率提...
-
ollama本地部署大语言模型记录
目录 安装Ollama 更改模型存放位置 拉取模型 Gemma Mistral Qwen1.5(通义千问 codellama 部署Open webui 测试性能 知识广度 问题1 问题2 代码能力 总结 最近突然对大语言...
-
万字长文｜LLM大模型基础入门（非常详细）从入门到精通系列之：（三）Transformer 架构
...
-
姚期智院士大模型新研究：思维图DoT，用数学理论确保AI逻辑一致性
姚期智院士领衔，推出大模型新推理框架，CoT“王冠”戴不住了。 提出思维图（DiagramofThought），让大模型思考更像人类。 团队更是为这种推理过程提供了数学基础，通过拓扑斯理论（Topos Theory）正式化（formalize）DoT，确保...
-
GPUStack正式发布: 为大模型而生的开源GPU集群管理器
经过 Seal 研发团队几个月来持续的开发和测试，我们满怀期待及热情地发布新的产品 GPUStack，GPUStack 是一个用于运行LLM（大型语言模型）的开源GPU集群管理器。尽管如今大语言模型作为公共的云上服务已经被广泛推广并在公有云上变得更加易于使...
-
详聊LLaMa技术细节：LLaMA大模型是如何炼成的？
本文介绍来自 Meta AI 的 LLaMa 模型，类似于 OPT，也是一种完全开源的大语言模型。LLaMa 的参数量级从 7B 到 65B 大小不等，是在数万亿个 token 上面训练得到。值得一提的是，LLaMa 虽然只使用公共的数据集，依然取得了强悍...
-
手把手带你了解和实践扩充 LLaMA 大语言模型的 tokenizer 模型（实现中文token过程）
目前，大语言模型呈爆发式的增长，其中，基于llama家族的模型占据了半壁江山。而原始的llama模型对中文的支持不太友好，接下来本文将讲解如何去扩充vocab里面的词以对中文进行token化。 一般的，目前比较主流的是使用sentencepiece训练中...
-
使用微调神器LLaMA-Factory轻松改变大语言模型的自我认知
一、引言 在本地化部署大语言模型时，为了能够改变大语言模型的自我认知，最简单的方式，就是使用系统提示词（system_prompt）的方式，譬如在与大模型进行对话时，首先将这段话作为message发送给大模型——{"role":"system","con...
-
大模型备案全网最详细流程【附附件】
本文要点：大模型备案最详细说明，大模型备案条件有哪些，《算法安全自评估报告》模板，大模型算法备案，大模型上线备案，生成式人工智能(大语言模型 安全评估要点，网信办大模型备案。 大模型备案安全评估流程详细说明，见下图： 大模型安全评估流程图 算法备...
-
揭秘AI世界：一网打尽大模型、AIGC等热门概念，快速提升你的学习力！
AI（人工智能） 人工智能 (AI 是对人类智慧行为的仿真。它涵盖了各种技术和领域，目的是让计算机模仿、延伸甚至超越人类智能。 本质就是帮人工作做事的工具。 AGI（通用人工智能） AGI，全称为Artificial General Inte...
-
一年过去了，那些入局AIGC的上市公司怎么样了？
周一，快手正式启动自主研发的大模型“可灵AI”。李少红、贾樟柯、叶锦添、薛晓路、俞白眉、董润年、张吃鱼、王子川、王卯卯等九位导演将借助“可灵AI”制作、出品九部AIGC电影或短片。 自去年ChatGPT成功出圈并点燃AIGC之火以来，国内文娱行业始终积极响...
-
AI日报：推理更强！OpenAI新模型o1发布；Midjourney 7.0一次可生8张图；开源语音模型Fish Speech 1.4发布
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、OpenAI推出全新的模型系列...
-
谈谈Function Calling
? 大模型分发助手，分发你的Prompt，助你学习AIGC ? LLM-HUB: Distribute Your Prompt, Unlock AIGC's Power Function Calling，这个让大语言模型 (LLM 如虎添翼的利器，...
-
欺诈文本分类检测（十一）：LLamaFactory多卡微调
1. 引言 前文训练时都做了一定的编码工作，其实有一些框架可以支持我们零代码微调，LLama-Factory就是其中一个。这是一个专门针对大语言模型的微调和训练平台，有如下特性： 支持常见的模型种类：LLaMA、Mixtral-MoE、Qwen、B...
-
200美元的ChatGPT Pro正式上线，聪明N倍的新模型草莓要来了。
半夜10点，The Information发了个新闻，透露了OpenAI的新模型，草莓，要来了。 两个小时后，我的好朋友@solitude（美东时间），作为一个常年拥有第一手资料和信息的人，跟我说，ChatGPT Pro会员上线了，售价200刀/月，他已...
-
【全网最全】AIGC产品经理面试高频100题答案解析
【全网最全】AIGC产品经理面试高频100题答案解析 说明： 1）目前干货文档总字数9.57万，不管是模型基本功还是每个问题的答案都尽可能详尽； 2）重点给大家深度讲解了机器学习、深度学习、AIGC三个大方向的13个经典模型 3）每个模型从实现...
-
Gemini Pro, Claude 3/3.5, GPT4 turbo/4o, 文心一言, GLM4系列, 月之暗面Kimi, Llama3系列设计推理大比拼
随着大语言模型的发展，各模型的语言对话能力也都得到了大家的认可，随之而来推理分析能力成为大模型下一轮角逐的一个要点。以下也是一家奥林匹克评测机构对于大模型推理能力的评分。 权威评测机构固然测评全面，但是其设计的问题并不一定适合我们日常产品设计，对价格...
-
打造自己的大模型｜01篇LLaMA-Factory微调Llama3和其占用资源分析
面对训练好的通用的大语言模型，例如Llama3-8B，虽然在认知理解，知识问答，逻辑推理，数学，代码方面都表现很好。但是其在特定领域的知识是比较缺乏的，而且对中文问答表现也不是很好，经常出现中英文混答的问题。 所以打造一个属于自己的大模型，非常有必要！...
-
突发！Runway的Gen-3向所有人开放，媲美Sora！
7月2日凌晨，著名生成式AI平台Runway在官网宣布，其文生视频模型Gen-3 Alpha向所有用户开放使用。 上周日Runway只向部分用户提供了Gen-3的使用权限，「AIGC开放社区」也为大家解读了10个非常有代表性的视频案例。（点击查看） 没...
-
真正的AI电视来了！Vidda X 2025和X Mini引领客厅智能新方向
9月9日，海信旗下年轻科技潮牌Vidda正式发布新一代Mini LED AI电视，新品包含X2025和X Mini两大系列。根据发布会上Vidda大屏显示负责人的介绍，Vidda AI电视不仅带来极具智价比的高配硬件，加速推动了Mini LED显示技术的普...
-
24年保姆级教程！关于Stable diffusion的各种模型，看这篇就可以了！
前言 在第一次接触SD的时候，我就被里面的模型搞到头大，不仅有多种模型后缀，模型之间也有很多种类型，如果是新手小白的话，在这一步就很容易被搞晕。而在本期文章，技术巫帮你系统梳理了SD的模型，相信不管是对于小白还是老手，都会有一定帮助！ 一、从模型后...
-
书单 | 大模型的书那么多，如何快速选到适合自己的那一本？来，教你！
大模型的书这么多，该怎么选呢？ 本期书单就来教大家怎么快速地从众多大模型书中选到你想要的那一本！ 大模型基础 大模型入门不可错过的一本书，就是这本大模型界的经典畅销书**《大规模语言模型》**！系统性强，内容适合初学者，如果你想知道如何构建一个大模型...
-
ACL 2024 | CoCA：自注意力的缺陷与改进
近年来，在大语言模型（LLM）的反复刷屏过程中，作为其内核的 Transformer 始终是绝对的主角。然而，随着业务落地的诉求逐渐强烈，有些原本不被过多关注的特性，也开始成为焦点。例如：在 Transformer 诞生之初，被视为天然具备的长度外推能力，...
-
Llama 3.1 92页技术报告详细解读
引言 半个月前，Meta发布了他们的开源大模型Llama3.1，在社区中引起广泛关注和讨论。现在几周的时间过去了，热度逐渐退潮，舆论逐渐降温，整个Llama3家族的技术报告也公开出来。报告数据更新到了Llama 3.1，正是理性地来审视一下这款大模型...
-
美团 AIGC产品经理面经（已拿 offer）
背景：211本科毕业，毕业之后在北京一家中型电商公司做了3年商家后台产品经理，目前通过老薛的朋友关系拿到了美团的offer。 目前还有几家在面试流程中，继续加油? 美团AIGC产品面经-业务面 ?1、自我介绍（每次面试必问）。 ?2、在做XX智...
-
大模型外挂知识库rag综述
一、LLMs 不足点 在 LLM 已经具备了较强能力的基础上，仍然存在以下问题： 幻觉问题：LLM 文本生成的底层原理是基于概率的 token by token 的形式，因此会不可避免地产生“一本正经的胡说八道”的情况； 时效性问题：LLM 的规模越大...
-
AIGC辅助办公
1.什么是AIGC？ 早期内容生成方式为专业(人士 生成内容(Professional Generated Content，PGC 。 如：音乐专业人士的创作、设计师的平面设计创作 用户生成内容(User Generated Content，UGC 更...
-
Intel首批通过AISBench大模型性能测试！5代至强可达每秒2493 token
快科技9月5日消息，近日，第五代英特尔至强处理器，以优秀的表现通过了中国电子技术标准化研究院组织的人工智能服务器系统性能测试（AISBench）。 借此，英特尔也成为首批通过AISBench大语言模型（LLM）推理性能测试的企业。 在AISBench 2....
-
大模型应用新战场：揭秘终端侧AI竞争关键
2024年过去2/3，大模型领域的一个共识开始愈加清晰: AI技术的真正价值在于其普惠性。没有应用，基础模型将无法发挥其价值。 于是乎，回顾这大半年，从互联网大厂到手机厂商，各路人马都在探索AI时代Killer APP的道路上狂奔。这股风潮，也开始在顶级学...
-
手把手系列 ｜ 使用Milvus、Llama 3、Ollama、LangChain本地设置RAG应用
随着 Llama、Mistral、Gemma 等开源大语言模型（LLM）的出现，我们越来越能感受到 LLM 的力量，而本地运行基于 LLM 的 RAG 应用的需求越来越强烈。在将应用推至生产环境前，我们往往都需要先本地运行和测试。 因此，本...
-
Llama-X 开源项目指南
Llama-X 开源项目指南 Llama-XOpen Academic Research on Improving LLaMA to SOTA LLM项目地址:https://gitcode.com/gh_mirrors/ll/Llama-X 项目...
-
6小时完成Llama 3.1-8B适配并开源！MindSpore Transformers大模型套件使能开发者创新
北京时间7月24号, Meta 正式发布 Llama 3.1开源大语言模型, 包含8B、70B 及 405B 参数版本。其中的Llama 3.1 405B模型，在多项基准测试中可以媲美GPT4、Claude3.5等目前最强的闭源大模型。此外，8B 与 70...
-
Llama 3.1 这一最强模型按时降临！扎克伯格最新的访谈表明：Llama 将会成为 AI 领域中的 Linux 。
? 个人主页：TechCodeAI启航，公众号：TechCodeAI ?♂️ 作者简介：2020参加工作，专注于前端各领域技术，共同学习共同进步，一起加油呀！ ? 优质专栏：AI相关最新技术分享（目前在向AI方向发展，欢迎大佬交流） ? 资料...
-
一周打完1000场官司，中科院发布首个AI法庭AgentCourt
在人工智能重塑各个行业的今天，法律界也迎来了前所未有的变革。传统的法律实践面临着效率低下、成本高昂等挑战，而AI技术的出现为解决这些问题提供了新的可能。 从最初斯坦福小镇火遍全网，25个由大语言模型（LLMs）驱动的智能体生活交友，打开了多Agent新视角...
-
智谱AI静悄悄的上线了一大波新模型，过年了，真的。
智谱29日下午在KDD2024上面，悄咪咪的上线了一堆的超级更新。 我真的服了，我本来今天从泰国回来，准备休一天假的，结果晚上又坐在电脑面前被迫营业。 他们总是每次，静悄悄的就把4个2给扔出去了。 嗯，就一场演讲了，发布了一堆新模型还有新功能，个顶个都很...
-
AIGC是怎么为拥有5000家门店的行业头部企业做内容分发？
在AI的发展过程中，我们也曾走过弯路。最初，我们都沉浸在通过海量数据训练出超级智能的幻想中，但随着时间的推移，我们逐渐意识到，在商业应用中，技术的稳定性和可靠性远比单纯的先进性更为重要。特别是在面向企业的应用场景中，客户需要的是稳定、可靠的服务，而不是可能...
-
【黄啊码】三分钟学会文心一言
（一）什么是文心一言 文心一言是百度研发的 人工智能大语言模型产品，能够通过上一句话，预测生成下一段话。 任何人都可以通过输入【指令】和文心一言进行对话互动、提出问题或要求，让文心一言高效地帮助人们获取信息、知识和灵感。 *指令（prompt）其实就...
-
Llama 3模型：多维度损失函数铸就大语言模型新巅峰
在人工智能领域,大型语言模型(Large Language Models, LLMs 的发展如火如荼。作为这一领域的佼佼者,Llama系列模型一直备受关注。随着Llama 3的横空出世,其在模型架构、训练方法等方面的创新再次引发业界热议。本文将深入探讨Ll...