-
大模型应用设计的十个思考
技术不是万能的，但没有技术却可能是万万不能的，对于大模型可能也是如此。基于大模型的应用设计需要聚焦于所解决的问题，在自然语言处理领域，大模型本身在一定程度上只是将各种NLP任务统一成了sequence 到 sequence 的模型。利用大模型， 我们是在...
-
GPT-4惊人表现：文字序列混乱不影响阅读理解
近日，日本东京大学研究人员发现一个有趣的现象:GPT-4在面对文字序列乱序的情况下，仍能准确理解和恢复原文。这一发现与其他大型模型相比显得格外突出。 研究人员通过一系列实验和测试基准，如Scrambled Bench，验证了GPT-4的优越性能。实验结果显...
-
文字序顺不响影GPT-4阅读理解，别的大模型都不行
研表究明，汉字序顺并不定一影阅响读（对于英文来说，则是每一个单词中的字母顺序）。 现在，日本东京大学的一项实验发现，这个“定理”居然也适合GPT-4。 比如面对这样一段“鬼画符”，几乎里面每一个单词的每一个字母都被打乱： oJn amRh wno het...
-
21Dak攻击：计算机顶会PLDI‘23 针对语义依附代码模型的对抗攻击方法：Destroyer篡改输入程序，Finder寻找关键特征，Merger关键特征注入【网安AIGC专题11.22】
Discrete Adversarial Attack to Models of Code 写在最前面 一些对关系抽取和事件抽取相关的启发和思考 摘要 总结与展望 课堂讨论 研究背景与意义 对抗攻击 针对代码模型的对抗攻击 Semanti...
-
RabbitMQ消息顺序性解密：保证消息的正确顺序
在分布式系统中，保证消息的正确顺序对于一些应用场景至关重要。而RabbitMQ作为一种流行的消息队列系统，本身并不提供严格的消息顺序保证。下面将探讨如何在使用RabbitMQ时实现消息的正确顺序，并介绍一些常见的解决方案和注意事项。 一、引言 Rabbi...
-
GPT-4在医学问题上击败了专业调优的 MedPaLM 2 模型
在研究中，微软的研究人员展示了GPT-4在医学知识测试中的卓越表现，特别是当结合先进的提示工程技术时，其性能超过了专业调整的MedPaLM2。 研究结果显示，相较于费时费力的调优和模型训练，将更有效的提示工程应用于主流通用模型可能是实现更准确结果的更好途径...
-
DetZero：Waymo 3D检测榜单第一，媲美人工标注！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 本文提出了一套离线3D物体检测算法框架DetZero，通过在 Waymo 公开数据集上进行全面的研究和评估，DetZero可生成连续且完整的物体轨迹序列，并充分利用长时序点云特征显着提升感知结果的质...
-
通过Whisper模型将YouTube播放列表中的视频转换成高质量文字稿的项目
项目简介 一个通过Whisper模型将YouTube播放列表中的视频转换成高质量文字稿的项目。 这个基于 Python 的工具旨在将 YouTube 视频和播放列表转录为文本。它集成了多种技术，例如用于转录的 Fast-Whisper、用于自然语言处理...
-
AIGC（生成式AI）试用 0 -- 如何测试此类应用
0. 起因 RPA主导的机器人流程自动化风头正劲 AI由来已久 生成式AI正在改变着工作和生活的方式 生成式AI工具不断更新换代 思考的问题，生成式AI： - 能实现什么？ - 不同工具间的区别？ - 如何测试此类工具？ 似乎想的有点多、有点大。何是...
-
英伟达支持的初创公司 Together AI 融资 1.025 亿美元
开源云 AI 初创公司 Together 在日益增长的人工智能投资潮中成为最新一家获得巨额融资的开发商，该公司日前宣布，它已在 A 轮投资中筹集了 1.025 亿美元，包括来自技术巨头 NVIDIA （英伟达）的投资。 Together 的一位发言人表示...
-
Linux 中的机器学习：Whisper——自动语音识别系统
Whisper 是一种自动语音识别 (ASR 系统，使用从网络收集的 680000 小时多语言和多任务数据进行训练，Whisper 由深度学习和神经网络提供支持，是一种基于 PyTorch 构建的自然语言处理系统，这是免费的开源软件。 安装Whisp...
-
今日思考（1） — 算力对机器人的影响（基于文心一言的回答）
目录 1.高tops的算力能支持什么水平的复合机器人控制 2.什么情况下控制机器人需要更高的算力 3.为什么使用人工智能算法，例如深度学习、强化学习等，需要更多的计算资源来实现更精准的决策和控制。 4.将已经训练好的人工智能算法模型，例...
-
Copilot 是否会侵犯开发者的隐私？
作为一个基于人工智能的代码自动生成工具，GitHub Copilot在推出时引发了众多用户的关注。其中最令人担忧的问题之一是 Copilot 在使用过程中是否会侵犯开发者的隐私。在这篇文章中，我们将分析 Copilot 的隐私政策，并讨论它如何保护用户的隐...
-
使用 Whisper AI 领先游戏：最佳和免费的语音到文本 AI
Whisper AI 是一种语音识别和转录软件，它使用人工智能 (AI 将口头语言转换为书面文本。它旨在通过消除手动转录语音内容的需要来帮助个人和企业节省时间并提高工作效率。在下文中，您将学习如何使用 Whisper AI！ 该软件能够识别和转...
-
区块链技术与AI技术的融合可以为多个领域带来新的机遇和变革
区块链技术与AI技术融合起来，有什么值得遐想的空间吗 区块链技术与AI技术的融合可以为多个领域带来新的机遇和变革。以下是一些值得遐想的空间： 数据隐私保护：区块链技术可以提供去中心化的数据存储，保护数据隐私；AI技术可以通过对数据的分析和学习提...
-
解锁机器学习-梯度下降：从技术到实战的全面指南
本文全面深入地探讨了梯度下降及其变体——批量梯度下降、随机梯度下降和小批量梯度下降的原理和应用。通过数学表达式和基于PyTorch的代码示例，本文旨在为读者提供一种直观且实用的视角，以理解这些优化算法的工作原理和应用场景。 关注TechLead...
-
机器学习之无监督学习：九大聚类算法
今天，和大家分享一下机器学习之无监督学习中的常见的聚类方法。 在无监督学习中，我们的数据并不带有任何标签，因此在无监督学习中要做的就是将这一系列无标签的数据输入到算法中，然后让算法找到一些隐含在数据中的结构，通过下图中的数据，可以找到的一个结构就是数据集...
-
基于AI的架构优化：创新数据集构造法提升Feature envy坏味道检测与重构准确率
本文分享自华为云社区《华为云基于AI实现架构坏味道重构取得业界突破，相应文章已被软工顶会FSE 2023收录》，作者： 华为云软件分析Lab。 基于AI技术实现架构坏味道检测与重构建议是当前业界比较流行的做法，但此做法往往存在一个通病，即训练数据集的质量...
-
DeepMind 推出 AI 工具 GNoME，号称已发现 220 万种新晶体材料
12 月 1 日消息，谷歌旗下 DeepMind 日前在《自然》期刊上展示了自家 AI 工具 GNoME，并介绍了 AI 在材料科学上的相关应用，据悉，DeepMind 使用 GNoME 发现了 220 万种新晶体，其中有 38 万种晶体属于稳定材料，可...
-
人工智能的博弈论——初探智能体（Agents）与人、智能体和环境之间的博弈关系
人工智能（AI）是研究如何使计算机和机器具有智能行为的学科，它涉及到多个领域和应用，如机器学习、深度学习、自然语言处理、计算机视觉、机器人、自动驾驶等。人工智能的发展和应用，不仅给人类带来了便利和效率，也带来了挑战和风险，如数据安全、隐私保护、伦理道德、...
-
使用PyTorch加速生成式 AI模型
PyTorch 团队发布了一篇名为《Accelerating Generative AI with PyTorch II: GPT， Fast》的博文，重点介绍如何使用纯原生 PyTorch 加速生成式 AI 模型。 正如最近在PyTorch 开发者大会上...
-
AI颠覆材料学！DeepMind重磅研究登Nature，预测220万晶体结构赢人类800年
陶哲轩一直看好，ChatGPT将颠覆数学证明，而如今，AI在化学领域的潜力同样深不可测。 今天，220万种晶体结构完全被AI预测出来了。 这是什么概念？相当于近800年的知识价值。 谷歌DeepMind开发全新AI工具GNoME，能够预测新材料的稳定性，...
-
构建实时推荐系统：利用MongoDB和机器学习算法
实时推荐系统是当今互联网应用中十分重要的一部分，能够根据用户的兴趣和行为，实时地提供个性化的推荐内容。下面将介绍如何利用MongoDB作为数据存储和管理的基础，并结合机器学习算法来构建一个高效的实时推荐系统。主要包括数据处理与存储、特征工程、机器学习模型...
-
构建大规模数据存储解决方案：探索MongoDB的横向扩展
MongoDB是一个非常适合构建大规模数据存储解决方案的NoSQL数据库。它通过横向扩展的方式来应对不断增长的数据量和负载需求。下面将详细介绍MongoDB的横向扩展机制，并探索如何使用MongoDB来构建高性能、可伸缩的大规模数据存储解决方案。 横向扩...
-
解读Lawyer LLaMA，延申专业领域大模型微调：数据集构建，模型训练
解读Lawyer LLaMA，延申自己领域大模型微调：数据集构建，模型训练 项目地址link 自己领域的大模型微调，实现思路大都和这篇文章是一样的，有的是基于LLaMA,或者有的是基于Chinese-LLaMA,或者是其他开源的大模型，本文基于自己训...
-
Duck AI推多模式计算机交互数据收集器 DuckTrack:可收集鼠标、键盘、屏幕等数据
近日，Duck AI发布了一项引人注目的创新——DuckTrack，一款多模式计算机交互数据收集器。该工具的研发旨在为计算机代理的进步提供精准而准确的用户交互跟踪，成为训练智能系统的关键工具。 DuckTrack能够通过用户友好的桌面应用程序在主要操作系统...
-
用上这个工具包，大模型推理性能加速达40倍
英特尔® Extension for Transformer是什么？ 英特尔® Extension for Transformers[1]是英特尔推出的一个创新工具包，可基于英特尔® 架构平台，尤其是第四代英特尔® 至强® 可扩展处理器（代号Sapp...
-
英特尔推Extension for Transformers工具包 大模型推理性能提升40倍
在当前技术发展的背景下，英特尔公司推出的Extension for Transformers工具包成为一个重要创新，实现了在CPU上对大型语言模型（LLM）推理性能的显著加速。该工具包通过LLM Runtime技术，优化了内核，支持多种量化选择，提供更优的...
-
机器学习 - 似然函数：概念、应用与代码实例
本文深入探讨了似然函数的基础概念、与概率密度函数的关系、在最大似然估计以及机器学习中的应用。通过详尽的定义、举例和Python/PyTorch代码示例，文章旨在提供一个全面而深入的理解。 关注TechLead，分享AI全维度知识。作者拥有10+...
-
人人都能用好大模型-结构化的Prompt让你轻松上手
Prompt，中文可以翻译为提示词，是一种用于引导大模型生成特定内容的文本输入。Prompt的作用是告诉大模型你想要它做什么，以及给它一些必要的信息和约束条件。Prompt的好坏直接影响了大模型的输出质量和效率。 Prompt的写作是一门艺术，也是一门科...
-
GitHub 推出 Copilot X（集合 GPT-4），可自动补全代码和注释，将带来哪些改变？
作为一名CSDN大博主，我非常关注近期 GitHub 推出的基于 GPT-4 的智能编程工具 Copilot X。这种技术对于程序员来说是一个重要的进步，因为它可以显著提高他们的效率和准确性。那么，Copilot X 到底将带来哪些改变呢？让我们来深...
-
AI测试｜史上最全，细数AIGC在测试领域落地的困难点
一、引言&背景 自2022年由横空出世的ChatGPT引发的各类AIGC（Generative AI）爆发以来，人们对其在各个领域的应用潜力产生了极大的兴趣。在研发领域，各种研究已经证明了Github Copilot在研发效能提高上的积极作用。...
-
机器学习中常用的几种回归算法及其特点
回归是统计学中最有力的工具之一，机器学习监督学习算法分为分类算法和回归算法两种。回归算法用于连续型分布预测，可以预测连续型数据而不仅仅是离散的类别标签。 在机器学习领域，回归分析应用非常广泛，例如商品的销量预测问题，交通流量预测问题、预测房价、未来的天气...
-
【解锁未来】让微软Copilot介绍自己，再由ChatGPT润色文章，到底能成什么样？
文章目录 前言 Copilot的介绍 ChatGPT 4.0 的润色 总结 前言 今天突发奇想，如果让微软Copilot介绍自己，再由ChatGPT润色文章，到底能成什么样？ Copilot的介绍 问：撰写关...
-
GAIA基准测试揭示人类胜过GPT-4的惊人差距
近日，来自FAIR Meta、HuggingFace、AutoGPT和GenAI Meta的研究人员共同致力于解决通用人工智能助手在处理需要基本技能，如推理和多模态处理的现实问题上所面临的挑战。他们推出了GAIA，这是一个旨在通过定位人类级别的鲁棒性来实现...
-
Visual chatgpt多模态大模型的前菜
刚开始感觉这就是一篇工程类文章，把各种的模型做了整合，把最近很热的两个方向chatgpt和文本生成图、图文提问整合在一起。看完文章发现自己太自傲了，绝对轻视了微软亚研院大佬们的实力。 表面看起来这是一个用chatgpt做意图理解、对话管理，然后用...
-
在ChatGPT亮相一年后，GenAI是CISO的福音还是祸根?
自OpenAI的ChatGPT进入当今的日常工作以来，已经整整一年了，紧随其后的是谷歌的Bard和其他GenAI产品。在你可以说侏儒怪之前，员工、承包商、客户和合作伙伴似乎都在展示他们新发现的闪闪发光的对象 - AI引擎采用了他们几乎不了解的大型语言...
-
Meta提出全新注意力机制S2A 大模型准确率提升至80.3%
在2023科技领域，大语言模型（LLM）的应用日益广泛，但其在回答问题时存在的问题引起了关注。Meta团队提出的新注意力机制S2A通过解决LLM容易受到上下文虚假相关性的问题，显著提升了模型的准确性和客观性。这一机制的提出得到了深度学习领域的重要人物LeC...
-
一个提示，让Llama 2准确率飙至80.3%？Meta提出全新注意力机制S2A，大幅降低模型幻觉
2023的科技界，可以说是被大模型抢尽了风头（虚假的室温超导除外）。 我们经历了和LLM对话，见证了它们逐渐进入各个领域，甚至开始感受到威胁。 这一切，仅仅发生在一年之内。 当然了，基于大语言模型的原理，它诞生之时就有的一些毛病到现在也没有完全改正。 比...
-
Kumo.AI推出全新预测性AI平台 引入了类似SQL的预测性查询语言
近年来，技术的快速发展已经改变了企业的业务模式，人工智能成为全球范围内的核心讨论话题。在这一背景下，Kumo.AI宣布推出了一款全新的预测性AI平台，引入了类似SQL的预测性查询语言。相较于生成式AI，预测性AI更专注于基于当前数据预测未来趋势，能够处理更...
-
AWS语音转文本服务推出生成式AI技术 支持100种语言
亚马逊的 AWS 公司宣布，其语音转文本服务 Amazon Transcribe 现在采用生成式人工智能技术，能够识别并转录来自100种语言的语音，相较于2022年底的79种语言有了显著的提升。据AWS称，Transcribe通过对超过100种语言的数百万...
-
FlashOcc：占用预测新思路，精度、效率和内存占用新SOTA！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 原标题：FlashOcc: Fast and Memory-Efficient Occupancy Prediction via Channel-to-Height Plugin 论文链接：https...
-
谷歌向印度BharatGPT投资400万美元 支持130多种语言
印度初创公司CoRover.ai近日成为Google重点投资对象，计划获得400万美元的资金支持。CoRover.ai是印度的人工智能工作室，推出了基于大型语言模型（LLM）的人工智能解决方案BharatGPT。这一举措被认为是印度在人工智能领域挑战Ope...
-
LLMLingua:集成LlamaIndex，对提示进行压缩，提供大语言模型的高效推理
大型语言模型(llm 的出现刺激了多个领域的创新。但是在思维链(CoT 提示和情境学习(ICL 等策略的驱动下，提示的复杂性不断增加，这给计算带来了挑战。这些冗长的提示需要大量的资源来进行推理，因此需要高效的解决方案，本文将介绍LLMLingua与专有的...
-
更像人脑的新型注意力机制，Meta让大模型自动屏蔽任务无关信息，准确率提高27%
关于大模型注意力机制，Meta又有了一项新研究。 通过调整模型注意力，屏蔽无关信息的干扰，新的机制让大模型准确率进一步提升。 而且这种机制不需要微调或训练，只靠Prompt就能让大模型的准确率上升27%。 作者把这种注意力机制命名为“System 2...
-
CardanoGPT 宣布 Girolamo AI 聊天机器人 Beta 版发布，将 AI 融入区块链技术
据一份新闻稿称，CardanoGPT 宣布了其 AI 驱动聊天机器人 Girolamo 的 Beta 版发布，这标志着该公司将人工智能（AI）与区块链技术结合的重要一步。 Girolamo 得名于意大利著名数学家 Girolamo Cardano，这一发...
-
如何使用GPTQ量化使LLM更轻
译者 | 李睿 审校 | 重楼 大型语言模型(LLM 应用的一大挑战是其耗费巨大的内存和计算需求，通常需要数十GB的GPU内存。这使得它们不仅昂贵而且难以运行。 为了缓解这些问题，研究人员开发了几种LLM压缩技术，其中包括“量化”。量化通过改变参数的存...
-
Llama 2 论文《Llama 2: Open Foundation and Fine-Tuned Chat Models》阅读笔记
文章目录 Llama 2: Open Foundation and Fine-Tuned Chat Models 1.简介 2.预训练 2.1 预训练数据 2.2 训练详情 2.3 LLAMA 2 预训练模型评估 3. 微调 3.1 s...
-
南开&山大&北理工团队开发trRosettaRNA：利用Transformer网络自动预测RNA 3D结构
RNA 3D 结构预测是一个长期存在的挑战。 受最近蛋白质结构预测领域突破的启发，南开大学、山东大学以及北京理工大学的研究团队开发了 trRosettaRNA，这是一种基于深度学习的自动化 RNA 3D 结构预测方法。 trRosettaRNA 流程包括...
-
六个常用的聚类评价指标
评估聚类结果的有效性，即聚类评估或验证，对于聚类应用程序的成功至关重要。它可以确保聚类算法在数据中识别出有意义的聚类，还可以用来确定哪种聚类算法最适合特定的数据集和任务，并调优这些算法的超参数(例如k-means中的聚类数量，或DBSCAN中的密度参数 ...