-
GPT-4抽象推理PK人类差距巨大！多模态远不如纯文本，AGI火花难以独立燃烧
GPT-4，可能是目前最强大的通用语言大模型。一经发布，除了感叹它在各种任务上的出色表现之外，大家也纷纷提出疑问：GPT-4是AGI吗？他真的预示了AI取代人类那一天的到来吗？ 推特上也有一众网友发起了投票： 其中，反对的观点主要在于： - 有限的推理...
-
LLaMA模型论文《LLaMA: Open and Efficient Foundation Language Models》阅读笔记
文章目录 1. 简介 2.方法 2.1 预训练数据 2.2 网络架构 2.3 优化器 2.4 高效的实现 3.论文其余部分 4. 参考资料 1. 简介 LLaMA是meta在2023年2月开源的大模型，在这之后，很多开源模型都...
-
CodeGeeX、CodeWhisperer、Github Copilot三款AI辅助编程工具，程序员该如何选择？
亚马逊今天在Re:Mars大会上宣布推出CodeWhisperer，这是一款类似于CodeGeeX和GitHub Copilot的AI辅助编程工具，它根据一个注释或几个按键来自动补全整个函数。目前支持Java、JavaScript和Python，和Code...
-
百度正式推出「文心一言」，然而港股股价已暴跌近 10%，客观来说其能力与 ChatGPT 相较如何？...
击上方关注 “终端研发部” 设为“星标”，和你一起掌握更多数据库知识 本文首发于我的知乎：- 终端研发部的回答 - 知乎 https://www.zhihu.com/question/589941496/answer/293924...
-
一文通透位置编码：从标准位置编码、旋转位置编码RoPE到ALiBi、LLaMA 2 Long
前言 关于位置编码和RoPE 应用广泛，是很多大模型使用的一种位置编码方式，包括且不限于LLaMA、baichuan、ChatGLM等等 我之前在本博客中的另外两篇文章中有阐述过(一篇是关于LLaMA解读的，一篇是关于transformer从零实现...
-
ChatGPT变笨新解释：世界被AI改变，与训练时不同了
对于ChatGPT变笨原因，学术界又有了一种新解释。 加州大学圣克鲁兹分校一项研究指出: 论文重点研究了“任务污染”问题，也就是大模型在训练时期就见识过很多任务示例，给人一种AI拥有零样本或少样本能力的错误印象。 也有学者从另一个角度指出，大模型训练...
-
神经网络中的分位数回归和分位数损失
在使用机器学习构建预测模型时，我们不只是想知道“预测值(点预测 ”，而是想知道“预测值落在某个范围内的可能性有多大(区间预测 ”。例如当需要进行需求预测时，如果只储备最可能的需求预测量，那么缺货的概率非常的大。但是如果库存处于预测的第95个百分位数(需求...
-
LLaMA, ChatGLM, BLOOM的参数高效微调实践
作者：回旋托马斯x（腾讯NLP算法工程师） 项目地址：https://zhuanlan.zhihu.com/p/635710004 1. 开源基座模型对比 大语言模型的训练分为两个阶段： （1）在海量文本语料上的无监督预训练，学习通用的语义表...
-
kaggle竞赛-Stable Diffusion数据分析与baseline
你的目的是来预测我们生成图像的提示词 1.比赛目标 这个竞赛的目标不是从文本提示生成图像，而是创建一个模型，可以在给定生成图像的情况下预测文本提示（你有一堆提示词，你预测是否该提示词参与了图像的生成）?您将在包含由Stable Diffusion 2....
-
聊聊拉长LLaMA的一些经验
Sequence Length是指LLM能够处理的文本的最大长度，越长，自然越有优势： 更强的记忆性。更多轮的历史对话被拼接到对话中，减少出现遗忘现象 长文本场景下体验更佳。比如文档问答、小说续写等 当今开源LLM中的当红炸子鸡——LLaMA...
-
基于Stable Diffusion的2D游戏关卡生成【实战】
接下来的几篇文章将与常规主题有所不同（这是在从事通用机器人技术的职业中吸取的教训）。 相反，我决定利用我的一些新空闲时间 1 边做边学，并使用所有酷孩子都在谈论的一些很酷的新 ML。 推荐：用 NSDT设计器 快速搭建可编程3D场景。...
-
Patronus AI发现LLM存在令人担忧的安全漏洞
自动评估和安全平台Patronus AI（守护神）发布了一个诊断测试套件SimpleSafetyTest的结果，该套件显示了大型语言模型(LLM 中的关键安全风险。该公告揭示了人工智能模型的局限性，并强调了改进的必要性，特别是对金融等高度监管行业的人工智...
-
史上最大AI版权案深度分析！OpenAI必败，还是纽约时报胜率为0？
纽约时报起诉OpenAI和微软的案子，可能成为影响AI技术发展的里程碑式案例。 《纽约时报》作为西方传统媒体中影响力最大的机构之一，下场与代表AI技术「最先进生产力」的OpenAI开撕，本身就话题性十足。 图片 一位传统媒体人Jason Kint，在读完...
-
生成式 AI 没有从 Web 2.0 中学到任何东西：与困扰社交平台的同样问题作斗争
自 OpenAI 在 12 个月前发布 ChatGPT 以来，它不仅创造了消费产品增长最快的记录，也引发了对于新技术的政府干预的快速响应。美国联邦选举委员会正在调查虚假的竞选广告，国会呼吁对人工智能公司如何开发和标记其算法训练数据进行监管，而欧盟则通过了对...
-
字节具身智能新成果：用大规模视频数据训练GR-1，复杂任务轻松应对
最近 GPT 模型在 NLP 领域取得了巨大成功。GPT 模型首先在大规模的数据上预训练，然后在特定的下游任务的数据上微调。大规模的预训练能够帮助模型学习可泛化的特征，进而让其轻松迁移到下游的任务上。 但相比自然语言数据，机器人数据是十分稀缺的。而且机器...
-
CodeWhisperer——轻松使用一个超级强大的工具
CodeWhisperer 简介 CodeWhisperer是亚⻢逊云科技出品的一款基于机器学习的通用代码生成器，可实时提供代码建议。 CodeWhisperer有以下几个主要用途： 解决编程问题，提供代码建议，学习编程知识等等，并且CodeWhi...
-
Gemini偷师文心一言？这一局，百度给中国大模型找回了面子！
大数据产业创新服务媒体 ——聚焦数据 · 改变商业 在模型表现方面，百度文心一言、阿里通义千问、华为盘古、腾讯混元、科大讯飞星火等，都在说超过ChatGPT-3.5，马上要追上GPT-4，甚至在某些领域的表现超越了GPT-4。...
-
Stable Diffusion XL webui tagger 插件Linux安装（保姆级教程）
文章目录 Stable Diffusion XL webui tagger 插件Linux安装 为什么要安装tagger插件 安装tagger插件 下载tagger仓库 下载wd-v1-4-vit-tagger 模型权重 S...
-
人工智能作画
人工智能作画是一种利用深度学习技术生成艺术作品的过程。其原理主要基于深度神经网络，通过训练大量的图像数据，使模型学习到各种艺术风格的特征和规律，然后根据用户的输入进行创作。在这个过程中，人工智能算法起着至关重要的作用。 一种常见的人工智能作画方法是使用生...
-
KwaiAgents体验入口 快手AI模型工具app免费下载地址
KwaiAgents是由快手科技KwaiKEG开源的一系列智能体相关工作。这个工具集包括KAgentSys-Lite系统，它是Paper中KAgentSys系统的精简版；KAgentLMs系列模型，这是具备计划、反思、工具使用等智能体功能的大语言模型；KA...
-
纽约时报以版权为由起诉微软和OpenAI 使用其文章训练大模型
《纽约时报》在美国时间12月27日对微软和OpenAI提起诉讼，理由是这两家公司利用其文章训练ChatGPT等人工智能（AI）聊天机器人，侵犯了其版权。这反映出，媒体与可能对新闻业造成颠覆性影响的人工智能技术之间的关系正日益紧张。 据报道，《纽约时报》声...
-
2024年我期待的五个AI故事
在OpenAI于2022年11月发布ChatGPT之后，我喜欢称之为AI新闻的持续“海啸”，我不必等待很长时间：从GPT-4和欧盟AI法案到AI搜索之战，开放与封闭AI之争，以及对训练数据和计算能力的渴望，我多次写下了所有这些话题。 现在，距离新年只有...
-
快手Agents系统、模型、数据全部开源！
7B 大小的模型也能玩转 AI Agents 了？近期，快手开源了「KwaiAgents」，问它周末滑雪问题，它不但帮你找到场地，连当天的天气都帮你考虑周到了。 大家都知道大语言模型（LLM）通过对语言的建模而掌握了大量知识，并具备一定认知和推理能力。...
-
得物大模型平台，业务效果提升实践
一、背景 得物大模型训练与推理平台上线几个月后，我们与公司内部超过 10 个业务领域展开了全面的合作。在一些关键业务指标方面，取得了显著的成效，例如： 效率相关部门的合作，多维度打标总正确率取得 2 倍以上提升。利用大模型开辟了新的业务，提升了效...
-
什么？NeRF还能提升BEV泛化性能！首个BEV跨域开源代码并首次完成Sim2Real！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人总结 鸟瞰图(Bird eye's view, BEV 检测是一种通过融合多个环视摄像头来进行检测的方法。目前算法大部分算法都是在相同数据集训练并且评测，这导致了这些算法过...
-
2023-12-12 AIGC-AI在理解用户提问时的局限性和误解领域
摘要: 2023-12-12 AIGC-AI在理解用户提问时的局限性和误解领域 AI在理解用户提问时的局限性和误解领域 局限性: AI在理解用户提问时的局限性和误解领域是多方面的，这些限制通常源于技术的本质、训练数据的特性以及AI模型的设计...
-
百度文心一言，不做ChatGPT的中国翻版
数据智能产业创新服务媒体 ——聚焦数智 · 改变商业 3月16日，百度的文心一言终于正式邀请测试了。 据李彦宏介绍，文心一言可以实现文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成等。 通过观看直...
-
AI自动写作：解锁创作新境界
我是一名资深作家，多年来一直致力于写作工作。最近，我开始尝试使用AI自动写作技术，与机器智能共同创作文章。通过与AI自动写作模型的合作，我获得了许多宝贵的经验，并且在这个过程中也收获了不少乐趣。下面我将详细分享我与AI自动写文章的经验，希望能对大家有所启发...
-
AI视野：Pika1.0正式向所有人开放；阿里开源文生3D模型；Midjourney V6涉嫌侵权；谷歌推出新AI SDK
新鲜AI产品点击了解：https://top.aibase.com/ ???AI应用 Pika1.0正式向所有人开放 Pika1.0官方宣布正式向所有人开放网页版本试用资格，每个用户都可免费体验该创意视频制作平台。该版本以文生成视频为特色，提供3秒视频快速...
-
处理不平衡数据的过采样技术对比总结
在不平衡数据上训练的分类算法往往导致预测质量差。模型严重偏向多数类，忽略了对许多用例至关重要的少数例子。这使得模型对于涉及罕见但高优先级事件的现实问题来说不切实际。 过采样提供了一种在模型训练开始之前重新平衡类的方法。通过复制少数类数据点，过采样平衡了训...
-
折射OpenAI新一年技术路线图，透视Sam Altman的12个愿望清单
当地时间12月24日，Sam Altman 在X 平台上罕见地发起了一个「许愿池」， 「希望 OpenAI 在2024年构建/修复什么?」，这条推文迅速吸引 AI 领域众多大佬和网友的参与。 两个小时后，Sam Altman 挑选了12个期望值最高的愿望清...
-
大模型微调非得依赖人类数据吗？DeepMind：用带反馈的自训练更好
如你我所见，大语言模型（LLM）正在改变深度学习的格局，在生成人类质量的文本和解决各种语言任务方面展现出了卓越的能力。虽然业界通过对人类收集的数据进行监督微调进一步提升了在具体任务上的性能，但获取高质量人类数据却面临着重大瓶颈。这对于要解决复杂问题的任务...
-
AI绘画是什么？怎样提高AI绘画技巧
大家好，我是网媒智星，今天跟大家探讨一下AI绘画是什么？怎样才能提高AI绘画技巧的问题。 随着人工智能技术的迅速发展，AI绘画已成为一项具有前瞻性的技术。在过去几年中，涌现出了许多功能强大的人工智能绘画工具，这些工具利用机器学习和计算机视觉技术，...
-
LLM微调（四）| 微调Llama 2实现Text-to-SQL，并使用LlamaIndex在数据库上进行推理
Llama 2是开源LLM发展的一个巨大里程碑。最大模型及其经过微调的变体位居Hugging Face Open LLM排行榜（https://huggingface.co/spaces/HuggingFaceH4/open_llm_lea...
-
Python+AI实现AI绘画
? 运行环境：Python ? 撰写作者：左手の明天 ? 精选专栏：《python》 ? 推荐专栏：《算法研究》 ?#### 防伪水印——左手の明天 ####? ? 大家好???，我是左手の明天！好久不见? ?今天分享py...
-
人工智能会改变旧建筑的能源效率吗？
从智能建筑的角度来看，人工智能正被整合到许多面向居住者的技术中，以帮助改善建筑物和校园的安全、健康和功能。更重要和更关键的是，将人工智能和机器学习(ML 相结合，以监测和分析能源和碳的使用情况。 虽然“智能”电气、照明和暖通空调系统已经存在了一段时间，...
-
AI视野：必应推出GPT-4Turbo模型；抖音测试“AI搜”功能；小红书内测AI聊天机器人；OpenAI计划新一轮融资
????大模型动态 必应推出GPT-4Turbo模型 微软推出Bing Chat的最新模型，GPT-4Turbo，为用户提供更准确和最新的信息。目前仅限部分用户试用，使用方法需通过检查资格确认。 阿里团队推新AI模型I2VGen-XL 视频合成领域迎来...
-
LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention
Paper name LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention Paper Reading Note Paper URL: htt...
-
一文看懂ChatGPT对美国企业带来了哪些影响
ChatGPT 自问世以来，一直在 AI 技术创新领域扮演着改变游戏规则的角色。美国是全球 ChatGPT 用户中最多的国家，占总数的15%。ChatGPT 在美国的企业中的使用就像是一把魔杖，快速改变着各行各业。 目前，公司正在探索如何使用 AI，尤其是...
-
港联证券|万亿级AIGC赛道或迎有序监管
近段时间，连续有国内外科技巨子涌入万亿级AIGC（生成式AI）赛道，A股商场上AIGC、ChatGPT等人工智能相关概念也是继续火热。但与此同时，安全隐患也如冰山一角逐渐露出。多国政府正在考虑加强对其监管，AIGC在全球范围内正在进入强监管时代。在强监管之...
-
Copilot：AI自动写代码，人工智能究竟还能取代什么？
Copilot：AI自动写代码，人工智能究竟还能取代什么？ 前言 在AI绘画掀起一阵热潮之后，AI写代码又逐渐进入了我们的视野，似乎这一步我们还没想到就迅速到来了，难道说AI在取代画家之后，还要取代程序员吗？相信我们都曾幻想过这一天，在编写那些...
-
GPT系列训练与部署——GPT2环境配置与模型训练
本文为博主原创文章，未经博主允许不得转载。 本文为专栏《Python从零开始进行AIGC大模型训练与推理》系列文章，地址为“https://blog.csdn.net/suiyingy/article/details/13...
-
最强英文开源模型LLaMA架构探秘，从原理到源码
导读：LLaMA 65B是由Meta AI（原Facebook AI）发布并宣布开源的真正意义上的千亿级别大语言模型，发布之初（2023年2月24日）曾引起不小的轰动。LLaMA的横空出世，更像是模型大战中一个搅局者。虽然它的效果（performance）...
-
一分钟叫你怎样AI绘画 Vega Ai
先看效果图： 是不是也想自己去创造这样的图片呢，注意已经不需要自己画了！！ Vega AI 简介 Vega AI是一款能够 文字生成图片、根据图片+文字进行生成图片、条件生成图片 、根据多张图片训练出自己的风格，在风格广场选择他人制作的...
-
LLaMA系列模型
1.LLama 1.1 简介 Open and Efficient Foundation Language Models (Open但没完全Open的LLaMA 2023年2月，Meta（原Facebook）推出了LLaMA大模型，使用了1.4...
-
关于生成式语言大模型的一些工程思考 paddlenlp & chatglm & llama
生成式语言大模型，随着chatgpt的爆火，市场上涌现出一批高质量的生成式语言大模型的项目。近期百度飞桨自然语言处理项目paddlenlp发布了2.6版本。更新了以下特性：全面支持主流开源大模型Bloom, ChatGLM, GLM, Llama, OPT...
-
Anthropic发布新方法 通过提示降低生成式AI偏见
人工智能公司Anthropic最近发布了一项方法，旨在通过提示工程减少公司使用的大型语言模型（LLMs）输出中的歧视。该公司在一份文件中详细介绍了一种评估方法，指导公司如何通过优化提示降低模型输出的歧视性。该文件为开发人员和决策者提供了了解LLMs生成答案...
-
23年生成式AI全球投资超360亿！开发者预测2024年LLM应用进入大爆发
2023年11月30日，ChatGPT庆祝了它的生日，Similarweb发布了下面这张精美的信息图来纪念这一时刻。 从ChatGPT诞生，到2023年5月，它的访问量一直在迅速增长，峰值达到了每月18亿次的访问量。 随后，客流量在6月有所下降，但自9...
-
Copilot 简介 背景,优势与快速开始
Copilot 简介: 背景,优势与上手 Copilot是什么 Copilot是一个人工智能代码生成器，由OpenAI和GitHub合作开发，可以根据用户提供的代码输入和上下文，自动生成相应的代码，帮助开发人员提高效率。Copilot利用机器学习技...
-
一分钟图情论文：《AIGC驱动的智慧图书馆转型：框架、路径与挑战》
一分钟图情论文：《AIGC驱动的智慧图书馆转型：框架、路径与挑战》 AIGC（Artificial Intelligence Generated Content）是一种全新的生产方式，利用人工智能技术自动生成文本、图片、语音、视频甚至虚拟现实等各种形式...