-
AIGC（生成式AI）试用 14 -- 画画
AIGC，内容生成，多多少少都可以达成，好与坏就看你如何引导、如何生成。 画画？本不想让写文本的去生成图片，但忍不住诱惑，小试一把，毕竟文档也是会要个插图的。 CSDN创作助手显然为文字生成而建 文心一言画画也有一定功力，准确率。。。别...
-
【GPT4】微软 GPT-4 测试报告（4）GPT4 的数学能力
**欢迎关注【youcans的AGI学习笔记】原创作品微软 GPT-4 测试报告（1）总体介绍微软 GPT-4 测试报告（2）多模态与跨学科能力微软 GPT-4 测试报告（3）编程能力微软 GPT-4 测试报告（4）数学能力微软 GPT-4 测试报告（5）...
-
大模型版“5年高考3年模拟”来了！6141道数学题，还是多模态的那种
大模型的“5年高考3年模拟”数学题来了，还是加强强强版！ 微软、加州大学洛杉矶分校（UCLA）、华盛顿大学（UW）联合打造全新多模态数学推理基准数据集。 名为“MathVista”。 涵盖各种题型共6141个问题，来源于28个现有的多模态数据集和3个新标...
-
内测挤爆的文心一言，能否迎战GPT-4？
2月7日，百度宣布推出ChatGPT类型人工智能产品“文心一言”，并于3月份完成内测向公众开放。一个多月后的今日，在北京百度总部和上海张江人工智能岛，文心一言如期而至。 百度董事长兼CEO李彦宏介绍，文心一言在商业文案创作、数理推算等方面有突出能力，同时...
-
百度文心一言（千帆大模型）聊天API使用指导
开篇不得不吐槽下百度，百度智能云平台首页跳转千帆大模型平台的按钮太多了，不同按钮跳转不同的子页面，不熟悉的，能把人找懵。入口太多，就导致用户不知道从何开始。本文就从一个前端开发人员的角度，教大家快速使用上文心一言（千帆大模型）API。 直接进千帆控制...
-
微调语言大模型选LoRA还是全参数？基于LLaMA 2深度分析
本文对比了全参数微调和LoRA，并分析了这两种技术各自的优势和劣势。作者使用了三个真实用例来训练LLaMA 2模型，这提供了比较特定任务的性能、硬件要求和训练成本的基准。本文证明了使用LoRA需要在serving效率和模型质量之间做出权衡，而这...
-
生成式对抗网络（GAN）原理推导与网络构建思路
0 引言 设想这样的场景：你是一个工作室的老板，你的工作室主要用来生产名画的赝品；而真正的名画则为前人所创造，存放在收藏室中。你的赝品画会和真品画一起被鉴定家鉴定，而你的终极目标是成为一个以假乱真的工艺大师。通往目标的路自然十分坎坷，你首先要做的就是以...
-
阿里通义千问、百度文心一言、ChatGPT与GPT-4大比拼
各个大模型的研究测试传送门 阿里通义千问传送门： https://tongyi.aliyun.com/chat 百度文心一言传送门： https://yiyan.baidu.com/ ChatGPT传送门（免墙，可直接注册测试）： https...
-
AI震撼材料学！谷歌DeepMind新研究登Nature，一口气预测220万种新材料
只用一个AI，就获取了人类接近800年才能搞出来的知识成果！ 这是谷歌DeepMind新研究的一种材料发现工具，论文已经发表在Nature上。 仅凭这个AI工具，他们发现了220万种理论上稳定的新晶体材料，不仅将预测材料稳定性的准确率从50%拉高到80...
-
专注图表理解，腾讯、南洋理工等开源图表羊驼大模型ChartLlama
在图像理解领域，多模态大模型已经充分展示了其卓越的性能。然而，对于工作中经常需要处理的图表理解与生成任务，现有的多模态模型仍有进步的空间。 尽管当前图表理解领域中的最先进模型在简单测试集上表现出色，但由于缺乏语言理解和输出能力，它们无法胜任更为复杂的问答...
-
关于python环境下的语音转文本，whisper或funASR
因为前阵子，有需求要将语音转为文本再进行下一步操作。感觉这个技术也不算是什么新需求，但是一搜，都是大厂的api，或者是什么什么软件，由于想要免费的，同时也要嵌入在代码中，所以这些都不能用。、 一筹莫展的时候，突然搜到whi...
-
基于AI的架构优化：创新数据集构造法提升Feature envy坏味道检测与重构准确率
本文分享自华为云社区《华为云基于AI实现架构坏味道重构取得业界突破，相应文章已被软工顶会FSE 2023收录》，作者： 华为云软件分析Lab。 基于AI技术实现架构坏味道检测与重构建议是当前业界比较流行的做法，但此做法往往存在一个通病，即训练数据集的质量...
-
解读Lawyer LLaMA，延申专业领域大模型微调：数据集构建，模型训练
解读Lawyer LLaMA，延申自己领域大模型微调：数据集构建，模型训练 项目地址link 自己领域的大模型微调，实现思路大都和这篇文章是一样的，有的是基于LLaMA,或者有的是基于Chinese-LLaMA,或者是其他开源的大模型，本文基于自己训...
-
百度CTO王海峰：全栈AI技术加持，打造新一代大语言模型文心一言
3月16日，百度在北京总部召开新闻发布会，百度创始人、董事长兼首席执行官李彦宏和百度首席技术官王海峰出席，李彦宏展示了新一代知识增强大语言模型文心一言在文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成五个使用场景中的综合能力，王海峰解读了文心一言...
-
使用 RLHF 训练 LLaMA 的实践指南：StackLLaMA
由于LLaMA没有使用RLHF，后来有一个初创公司 Nebuly AI使用LangChain agent生成的数据集对LLaMA模型使用了RLHF进行学习，得到了ChatLLaMA模型，详情请参考：Meta开源的LLaMA性能真如论文所述吗？如果增加RLH...
-
一个提示，让Llama 2准确率飙至80.3%？Meta提出全新注意力机制S2A，大幅降低模型幻觉
2023的科技界，可以说是被大模型抢尽了风头（虚假的室温超导除外）。 我们经历了和LLM对话，见证了它们逐渐进入各个领域，甚至开始感受到威胁。 这一切，仅仅发生在一年之内。 当然了，基于大语言模型的原理，它诞生之时就有的一些毛病到现在也没有完全改正。 比...
-
在少样本学习中，用SetFit进行文本分类
译者 | 陈峻 审校 | 重楼 在本文中，我将向您介绍“少样本（Few-shot）学习”的相关概念，并重点讨论被广泛应用于文本分类的SetFit方法。 传统的机器学习（ML） 在监督（Supervised）机器学习中，大量数据集被用于模型训练，以便...
-
AWS CodeWhisperer产品初体验
CodeWhisperer 简介 CodeWhisperer 是亚⻢逊出品的一款基于机器学习的通用代码生成器，可实时提供代码建议。 在编写代码时，它会自动根据我们现有的代码和注释生成建议。 从单行代码建议到完整的函数，它可为我们提供各种大小和范围的个性...
-
网络规模、训练学习速度提升，清华团队在大规模光电智能计算方向取得进展
随着大模型等人工智能技术的突破与发展，算法复杂度剧增，对传统计算芯片带来了算力和功耗的双重挑战。近年来，以光计算为基础、通过光电融合的方式构建光电神经网络的计算处理方法已经成为国际热点研究问题，有望实现计算性能的颠覆性提升。 然而，光电神经网络的前向数学...
-
更像人脑的新型注意力机制，Meta让大模型自动屏蔽任务无关信息，准确率提高27%
关于大模型注意力机制，Meta又有了一项新研究。 通过调整模型注意力，屏蔽无关信息的干扰，新的机制让大模型准确率进一步提升。 而且这种机制不需要微调或训练，只靠Prompt就能让大模型的准确率上升27%。 作者把这种注意力机制命名为“System 2...
-
openai的whisper语音识别介绍
openAI发布了chatgpt，光环一时无两。但是openAI不止有这一个项目，它的其他项目也非常值得我们去研究学习。 今天说说这个whisper项目 https://github.com/openai/whisper ta是关于语音识别的。它提出了...
-
Hinton和LeCun再交锋，激辩LLM能否引发智能奇点！LeCun：人类理解能力碾压GPT-4
【新智元导读】大模型能否理解自己所说，Hinton和LeCun再次吵起来了。LeCun新论文证明，GPT-4回答问题准确率仅为15%，自回归模型不及人类。 AI大佬的激战再次掀起。 Hinton在线直接点名LeCun，说他对AI接管风险的看法对人类的影响微...
-
六个常用的聚类评价指标
评估聚类结果的有效性，即聚类评估或验证，对于聚类应用程序的成功至关重要。它可以确保聚类算法在数据中识别出有意义的聚类，还可以用来确定哪种聚类算法最适合特定的数据集和任务，并调优这些算法的超参数(例如k-means中的聚类数量，或DBSCAN中的密度参数 ...
-
比「让我们一步一步思考」这句咒语还管用，提示工程正在被改进
大型语言模型（LLM）已经是许多自然语言处理任务的强大工具，只要能给出正确的提示。然而，由于模型的敏感性，找到最优提示通常需要进行大量手动尝试和试错努力。此外，一旦将初始提示部署到生产环境中，可能会出现意想不到的边缘情况，需要更多轮的手动调整来进一步完善...
-
【网安AIGC专题11.1】11 Coreset-C 主动学习：特征选择+11种采样方法+CodeBERT、GraphCodeBERT+多分类(问题分类)二元分类(克隆检测)非分类任务(代码总结)
Active Code Learning: Benchmarking Sample-Efficient Training of Code Models 写在最前面 论文名片 先验知识的补充 主动学习 采样函数 benchmark基准和base...
-
国产大模型黑马诞生，千亿级拿下双榜第一！知识正确性能力突出，大幅降低LLM幻觉问题
【新智元导读】夸克，也下场大模型了。甫一问世，夸克大模型就迅速登顶权威测评双榜第一，幻觉率大幅降低，可以预见，风靡年轻人的夸克APP，要掀起新的飓风了。 最近的各大手机厂商和互联网公司，都在卯足了劲儿地发布大模型。 而其中的一匹黑马，显得格外引人注目——...
-
OpenAI内斗时，Karpathy在录视频：《大型语言模型入门》上线
OpenAI 的风波暂时告一段落，员工也忙着「干活了」。 年初回归 OpenAI 的 Andrej Karpathy 最近做了一场关于大型语言模型（LLM）的 30 分钟入门讲座，但该讲座当时没录制。因此，他基于这场讲座重新录制了一个长达 1 小时的视频...
-
AIGC音乐的中场战事：从技术、产品到商业规则
最近，谷歌围绕着AIGC音乐打出了一套“组合拳”。 11月16日，谷歌旗下 DeepMind发布了最新的AIGC音乐生成模型Lyria，并与YouTube合作打造了两个重要应用场景:Dream Track和Music AI tools。同时，谷歌和YouT...
-
AI 聊天机器人 Claude 2.1 版本公布，支持输入 20 万个 Token 超 GPT-4 Turbo
IT之家 11 月 23 日消息，OpenAI 竞争对手 Anthropic 日前推出了 Claude 2.1 聊天机器人及对应同名 AI 模型，Claude 2.1 支持输入多达 20 万个 Token，并改善了准确度，同时新增系统预设提示词（Syst...
-
ChatGPT最强竞对更新！上下文长度翻倍，API降价近30%
OpenAI开发者大会后不久，它的最强竞对Claude也宣布推出了重磅更新。 更新后的Claude 2.1，上下文长度直接翻番到20万，重新超过了GPT-4。 根据官方通告，Claude 2.1版本的API已经上线，网页版本也已经完成升级。 那么，这...
-
AI视野：ChatGPT语音旁白功能免费开放；文心一言率先实现收费；Claude2.1长下文长度扩展至200K；拼多多成立大模型团队
???AI新鲜事 ChatGPT语音旁白功能现已向所有免费用户开放 OpenAI宣布将ChatGPT with voice语音功能免费对所有用户开放，用户只需下载应用程序，点击耳机图标即可进行语音对话，此功能于今年9月推出，最初仅面向Plus和Enterp...
-
PyTorch团队重写「分割一切」模型，比原始实现快八倍
从年初到现在，生成式 AI 发展迅猛。但很多时候，我们又不得不面临一个难题：如何加快生成式 AI 的训练、推理等，尤其是在使用 PyTorch 的情况下。 本文 PyTorch 团队的研究者为我们提供了一个解决方案。文章重点介绍了如何使用纯原生 PyTo...
-
Vectara排行榜:OpenAI的GPT-4在文档摘要中幻觉率最低
在一项由Vectara进行的开源模型评估中，OpenAI的GPT-4在文档摘要中表现卓越，凭借其出色的97%准确率和令人瞩目的3%的幻觉率，成为幻觉率最低的大型语言模型。 Vectara在GitHub上发布了一个排行榜，评估了一些大型语言模型在其“Hall...
-
GPT-4V医学考试成绩超过多数医学生 AI看病稳妥了？
近期研究显示，GPT-4V在医学执照考试中表现优异，准确率远超过大部分医学生。这为AI在医学临床中的应用提供了新的可能性。尽管人工智能在医学影像诊断方面取得了显著进展，医生仍难以完全信任其诊断结果，需要额外的认知成本。 为了增强医生对人工智能的信任，研究团...
-
研究表明：GPT-4在图形推理任务上表现不佳，准确率仅33%
最近的研究表明，GPT-4在图形推理任务上表现不佳，仅有33%的准确率，引发了对大型语言模型图形处理能力的关注。 通过使用ConceptARC数据集，研究者对451名人类受试者进行了图形推理任务测试，结果显示人类在这方面表现卓越，平均准确率达到91%。...
-
图像相似度比较之 CLIP or DINOv2
在人工智能领域，计算机视觉的两大巨头是CLIP和DINOv2。CLIP改变了图像理解的方式，而DINOv2为自监督学习带来了新的方法。在本文中，我们将探索定义CLIP和DINOv2的强项和微妙之处的旅程。我们旨在发现这些模型中哪一个在图像相似度任务的世界...
-
大模型入门（四）—— 基于peft 微调 LLaMa模型
llama-7b模型大小大约27G，本文在单张/两张 16G V100上基于hugging face的peft库实现了llama-7b的微调。 1、模型和数据准备 使用的大模型：https://huggingface.co/decapoda-resea...
-
GPT-4V医学执照考试成绩超过大部分医学生，AI加入临床还有多远？
人工智能（AI）在医学影像诊断方面的应用已经有了长足的进步。然而，在未经严格测试的情况下，医生往往难以采信人工智能的诊断结果。对于他们来说，理解人工智能根据医学影像给出的判别，需要增加额外的认知成本。 为了增强医生对辅助医疗的人工智能之间的信任，让 AI...
-
AI「cosplay」关键在人设！复旦、人大等发布大五人格+MBTI测试：特质还原率达82.8%，拒绝OOC
想和喜欢的动漫小说角色聊天？想要一个虚拟伴侣？想要自己的数字智能体？ 随着大语言模型（Large Language Models, LLM）的发展，这些过去的幻想似乎越来越近了。 Character AI、Chat 凉宫春日、病娇AI女友模拟器……基于大...
-
GPT-4不会图形推理？“放水”后准确率依然只有33%
GPT-4的图形推理能力，竟然连人类的一半都不到？ 美国圣塔菲研究所的一项研究显示，GPT-4做图形推理题的准确率仅有33%。 而具有多模态能力的GPT-4v表现更糟糕，只能做对25%的题目。 △虚线表示16项任务的平均表现 这项实验结果发表后，迅速在...
-
whisper.cpp在Windows VS的编译
Whisper是OpenAI开源的一款语音识别的模型，包含有英语和多国语言的模型，根据实际情况来看，其支持的90多种语言的准确率着实表现惊艳，英文甚至可以做到3%左右的误词率，官方图表显示中文的误词率大约是14%，但是实际使用的情况来看，误词率也是相当低，...
-
如何使用AI绘画，AI绘画关键词怎么写
AI 绘画为什么被抵制？最重要的是版权不清晰，从工具角度来看是好事，前提是做好知识版权对应的利益划分，相信未来肯定会有相关政策，但是，现在我们就得先去接受和学习AI绘画，未来迎接政策的落地！ 一、AI绘画推荐 首先我们推荐3个排名前三的...
-
GPT、Llama等大模型存在「逆转诅咒」，这个bug该如何缓解？
来自中国人民大学的研究者将 Llama 等因果语言模型所遭遇的 “逆转诅咒” 归咎于 next-token prediction + causal language model 的本质缺陷，并发现 GLM 采用的自回归填空的训练方法对这种 “逆转诅咒”...
-
解决LLaMA、BERT等部署难题：首个4-bit浮点量化LLM来了
大语言模型 (LLM 压缩一直备受关注，后训练量化（Post-training Quantization 是其中一种常用算法，但是现有 PTQ 方法大多数都是 integer 量化，且当比特数低于 8 时，量化后模型的准确率会下降非常多。想较于 In...
-
文心一言、讯飞星火与GPT-4/3.5在回答中文历史问题的表现
最近，随着备受关注的文心一言正式免费向全社会开放，再次引起了社会层面对国产大模型的兴趣。 以文心一言为代表的国产大模型性能究竟如何？如果将它们相互比较，并且和GPT系列模型等国际前沿水平的LLM进行比较，会得到什么样的结果呢？笔者对此...
-
大模型幻觉排行榜GPT-4夺冠，英伟达科学家强力打假！Meta版ChatGPT一作发长文鸣冤
大模型的幻觉问题，是业内老生常谈的话题了。 最近，一个名为Vectara的机构，在GitHub推出了一个大模型幻觉排行榜。 结果显示，在总结短文档方面，GPT-4的表现最为优异，而Google Palm的两款模型直接垫底！ 其中GPT-4的准确率为97...
-
程序员推荐！JetBrains IDEs使用技巧与必备插件
JetBrains是耳熟能详的软件开发工具提供商，旗下的IDE集成开发环境被广泛应用于不同的开发领域。本文将向新手介绍JetBrains IDEs的基本知识和常用功能。 什么是JetBrains IDEs？ JetBrains IDEs是一套面向软件开发...
-
谷歌DeepMind发布全新AI天气预报模型GraphCast 1分钟预测10天全球天气
谷歌DeepMind最新推出的全球天气预报AI模型GraphCast引起科学界瞩目。这一模型不仅能在短短1分钟内预测未来10天的全球天气，甚至还能准确预测极端天气事件。通过在欧洲中期天气预报中心（ECMWF）近40年的数据上进行训练，GraphCast表现...
-
Ghostbuster：一个准确度高的AI生成文本检测工具
大语言模型如ChatGPT，以其卓越的写作能力引发了问题。学生们纷纷利用这些模型代写作业，导致一些学校不得不采取禁止ChatGPT的措施。此外，这些模型还存在生成带有事实错误的文本的倾向，因此谨慎的读者可能想知道，在信任某些新闻文章或其他来源之前，是否有生...
-
大模型幻觉率排行：GPT-4 3%最低，谷歌Palm竟然高达27.2%
人工智能发展进步神速，但问题频出。OpenAI 新出的 GPT 视觉 API 前脚让人感叹效果极好，后脚又因幻觉问题令人不禁吐槽。 幻觉一直是大模型的致命缺陷。由于数据集庞杂，其中难免会有过时、错误的信息，导致输出质量面临着严峻的考验。过多重复的信息还会...