-
开发者笑疯了！ LLaMa惊天泄露引爆ChatGPT平替狂潮，开源LLM领域变天
来源: 新智源 微信号：AI-era Meta的LLaMA模型开源，让文本大模型迎来了Stable Diffustion时刻。谁都没想 谁能想到，一次意外的LLaMA泄漏，竟点燃了开源LLM领域最大的创新火花。 一系列表现出色的Chat...
-
四分钟成功复现诺奖！CMU开发GPT-4化学家，自主编码操控机器人颠覆化学研究登Nature
ChatGPT大模型爆火这一年，没想到竟颠覆了整个化学领域。 先是谷歌DeepMind的AI工具GNoME成功预测出200万种晶体结构，随后微软推出的MatterGen，大大加速了设计所需材料特性的速度。 今天，CMU和Emerald Cloud Lab...
-
使用 PyTorch FSDP 微调 Llama 2 70B
引言 通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accelerate 和 TRL 库。我们还将展示如何在 SL...
-
together.ai让AI模型训练快9倍，获NVIDIA参投1.025亿美元A轮融资
目前获得融资最多的两家大模型创业公司是OpenAI和Anthropic，而这两家公司最大的投资者分别是微软和亚马逊，他们投资的很大一部分不是资金，而是等值的云计算资源。这其实也就把这两家顶尖的闭源大模型公司“绑上了”科技巨头的“战车”。 在闭源大模型之外，...
-
11 位作家加入针对 OpenAI 和微软的诉讼
11位非虚构作家，包括普利策奖得主泰勒·布兰奇（Taylor Branch）、斯泰西·舍夫(Stacy Schiff 和凯·伯德(Kai Bird 等人，已加入了一起针对OpenAI和微软的侵权诉讼。 图源备注：图片由AI生成，图片授权服务商Midjou...
-
如何用ChatGPT把控应用程序生命周期
译者 | 朱先忠 审校 | 重楼 简介 在本文中，我们将从基础设施供应到配置管理和部署等各个环节来全方位探讨大型语言模型（LLM）是否适合应用于实际应用程序的生命周期开发。这项工作产生的源代码工程已经在GitHub上公开（［参考资料11］）。基础设施即代...
-
AIGC相关知识记录-1. 上手ChatGPT
AIGC系列文章目录 文章目录 AIGC系列文章目录 前言 一、半小时上手ChatGPT 二、行业黑话 1. LLM（大语言模型） 2. few-shot prompt（少样本提示） 3. temperature（温度） 三、运用...
-
微软Azure发布GPT-RAG，为LLM部署提供超智能解决方案
微软Azure最近推出了GPT-RAG，这是一项超智能的解决方案，旨在让大型语言模型（LLMs）在企业中更加顺畅地运行。随着人工智能的不断发展，对LLMs的需求因其理解和生成类似人类文本的能力而迅速增长。然而，在企业中使这些工具正常运行并不容易。我们需要确...
-
LLM实践-在Colab上使用免费T4 GPU进行Chinese-Llama-2-7b-4bit推理
一、配置环境 1、打开colab，创建一个空白notebook，在[修改运行时环境]中选择15GB显存的T4 GPU. 2、pip安装依赖python包 !pip install --upgrade accelerate !pip ins...
-
生物技术打开新大门：AI 可设计出具有非凡结合强度的蛋白质
12 月 20 日消息，华盛顿大学医学院蛋白质设计研究所的科学家利用人工智能软件，设计创建出一批具有非凡结合强度的蛋白质分子。 这些分子与包括人类激素在内的各种生物标志物具有极高的亲和力和特异性，而且有些分子与其目标之间实现了迄今最高的相互作用强度。...
-
你真的会写 Prompt ? 剖析 RAG 应用中的指代消解
随着 ChatGPT 等大语言模型(LLM 的不断发展，越来越多的研究人员开始关注语言模型的应用。 其中，检索增强生成（Retrieval-augmented generation，RAG）是一种针对知识密集型 NLP 任务的生成方法，它通过在生成过程中...
-
微软 Copilot 再添新功能，只需文字描述就能生成完整歌曲
IT之家 12 月 20 日消息，微软 Copilot 近日与 AI 音乐创作平台 Suno 达成合作，推出了一项新功能：只需输入简短的文字描述，Copilot 就可以自动生成包含器乐、歌词和演唱的歌曲片段。微软表示，用户无需任何音乐制作经验，只需脑中...
-
研究人员发现，谷歌Gemini表现不如GPT-3.5 Turbo
在近期的一项研究中，来自卡内基梅隆大学和BerriAI的研究团队对Google Gemini Pro进行了深入的评估，并发现其在多项任务中表现不如OpenAI的GPT-3.5Turbo。这一发现无疑是对Google在生成式人工智能领域与OpenAI竞争的雄...
-
AIGC大记事【2023-0625】【第五期】：《时代》专访ChatGPT之父：人工智能影响经济还需要很多年
大咖观点： 《时代》专访ChatGPT之父：人工智能影响经济还需要很多年 孙正义：我每天和ChatGPT聊天，一场巨大革命即将到来，软银“终将统治世界！” 刘慈欣谈 ChatGPT：人类的无能反而是人类最后的屏障 AI时代已来，吴恩达呼吁向每个孩...
-
每个开发人员都应该知道的六个生成式AI框架和工具
译者 | 晶颜 审校 | 重楼 在快速发展的技术领域，生成式人工智能是一股革命性的力量，它改变了开发人员处理复杂问题和创新的方式。本文深入探讨了生成式AI的世界，揭示了对每个开发人员都必不可少的框架和工具。 LangChain LangChain由H...
-
构建企业级大语言模型应用的秘诀：GitHub Copilot 的实践之路
GitHub Copilot 的开发团队分享了他们在构建能够同时为个人和企业用户带来价值的大语言模型（LLM）应用的心得体会。 本文经授权转载宝玉老师的个人博客（微博@宝玉xp），链接：https://baoyu.io/translatio...
-
MosaicML 推出 30B 模型 — 挑战 LLaMA、Falcon 和 GPT
MosaicML正在推出其第二个开源大型语言模型（LLM），称为MPT-30B，这是继五月份首次推出的较小的MPT-7B模型之后。 为了讨论新模型及其对开发人员的意义，我采访了MosaicML联合创始人兼首席执行官Naveen Rao。他之前的创业公司是...
-
使用LM Studio在本地运行LLM完整教程
GPT-4被普遍认为是最好的生成式AI聊天机器人，但开源模型一直在变得越来越好，并且通过微调在某些特定领域是可以超过GPT4的。在开源类别中，出于以下的原因，你可能会考虑过在本地计算机上本地运行LLM ： 脱机:不需要互联网连接。 模型访问:在本地运行...
-
2024 年八大生成式 AI 工具类别
需要为组织的开发项目提供特定于生成式 AI 的工具？探索这些工具所属的主要类别及其功能。 ChatGPT 等生成式AI 服务的普及激发了将这些新工具应用于实际企业应用的兴趣。如今，几乎每个企业应用程序都通过生成式 AI 功能进行了增强。 大多数 AI、...
-
微软推出机器学习库GPT-RAG
随着人工智能的增长，大型语言模型（LLMs）因其解释和生成类似人类文本的能力而日益受欢迎。然而，将这些工具整合到企业环境中并确保可用性和维护治理是一项具有挑战性的任务。 为了解决这一难题，Microsoft Azure推出了GPT-RAG，这是一种专为使用...
-
编码碾压ChatGPT！UIUC清华联手发布7B参数Magicoder，代码数据权重全开源
开源「代码大模型」来了！ UIUC清华团队的研究人员发布了Magicoder，不到7B参数，就能在代码生成领域与顶级代码模型不相上下。 值得一提的是，Magicoder的代码、权重和数据，毫无保留完全开源。 论文地址：https://arxiv.org...
-
丹麦 AI 模型预测死亡率准确度超保险公司，引发被滥用担忧
12 月 19 日消息，丹麦科技大学的苏尼・莱曼・乔根森及其团队开发了一款强大的人工智能模型，可以根据个人数据预测死亡率，准确度远超现有的任何模型，甚至包括保险业使用的模型。研究人员表示，该模型能提前预警健康和社会问题，也需要警惕其被大型企业滥用。 乔...
-
大语言模型之四-LlaMA-2从模型到应用
最近开源大语言模型LlaMA-2火出圈，从huggingface的Open LLM Leaderboard开源大语言模型排行榜可以看到LlaMA-2还是非常有潜力的开源商用大语言模型之一，相比InstructGPT，LlaMA-2在数据质量、培训技术、能力...
-
推理性能超H100十倍！21岁华裔小哥哈佛辍学开发AI加速芯片「Sohu」，2人公司估值3400万刀
像Pika一样的神级创业故事又要再次上演了？ 两位哈佛退学的年轻人，想要制造一款专用于大语言模型加速的AI加速器芯片，将于2024年第三季度交付，推理性能达H100的10倍。 在今年6月份，两位创始人Gavin Uberti和Chris Zhu创立了E...
-
谷歌AI提出视觉语言模型PixelLLM:能够进行细粒度定位和视觉语言对齐
谷歌AI研究团队与加州大学圣迭戈分校的研究人员合作，提出了一种名为PixelLLM的智能模型，旨在解决大型语言模型在细粒度定位和视觉-语言对齐方面的挑战。这一模型的提出受到了人类自然行为的启发，尤其是婴儿描述其视觉环境的方式，包括手势、指向和命名。 Pix...
-
OpenAI 成立“防备”预警团队：董事会有权阻止新 AI 模型发布
IT之家 12 月 19 日消息，开发了 ChatGPT 的 OpenAI 公司日前宣布成立新的“防备（Preparedness）”团队，旨在监控旗下技术可能带来的潜在威胁，防止其落入坏人之手，甚至被用于制造化学和生物武器。 该团队由麻省理工学院人工智...
-
程序员撑过ChatGPT一周年！不仅没被取代，还把AI用得贼6：10分钟开发一个应用
不知不觉间，距离掀起全球新一轮 AI 革命的 ChatGPT 出道，已经过去一周年了。在这场颠覆性的 AI 革命中，许多企业和程序员们逐渐形成了一个共识:“不会用 AI 就将被淘汰”。 为了避免“被淘汰”，这一年来众多企业和程序员全力拥抱 AI、开发各种...
-
Microsoft 365 Copilot正式上线，如何稳定访问体验？
如果将微软对人工智能的投资看成一场豪赌，Microsoft Copilot无疑是现阶段最受瞩目的赌注。2023年9月正式发布的Microsoft Copilot是一种基于大型语言模型（LLM）和微软图形（Microsoft Graph）的数据和人工智能（A...
-
Google Bard 最速上手，这些要点也许是你想了解的
昨晚，Google 对标 ChatGPT 的竞品 Bard 开放公众预览。得知消息后我连忙申请加入等待名单，跟预想中不同，Google 时隔一个多小时后便发邮件告知我「该试试 Bard 了」，跟前阵子 Bing AI Chat 的内测资格通过速度相比简直一...
-
使用Llama.cpp在CPU上快速的运行LLM
大型语言模型(llm 正变得越来越流行，但是它需要很多的资源，尤其时GPU。在这篇文章中，我们将介绍如何使用Python中的llama.cpp库在高性能的cpu上运行llm。 大型语言模型(llm 正变得越来越流行，但是它们的运行在计算上是非常消耗资...
-
风景类Midjourney prompt提示词
稳定输出优美风景壁纸的Midjourney prompt提示词。 1\在夏夜，有淡蓝色的星空，海边，流星，烟花，海滩上全是蓝色的玫瑰和绿色的植物，由Ivan Aivazovsky和Dan Mumford，趋势在cgsociety，柔和的光线，童话，梦幻，...
-
腾讯云推出高性能应用服务HAI，让每个开发者都能开发自己的AI应用
降低AIGC应用开发门槛，才能更快发现下一个AIGC现象级应用。 12月18日，腾讯云宣布推出高性能应用服务(Hyper Application Inventor，HAI ，用户无需复杂配置，最快10分钟即可创建自己的AI应用。 HAI能够提供即插即用的...
-
科学家：大型 AI 模型已可自动生成小型 AI 工具
12 月 18 日消息，据 Businessinsider 报道，大型 AI 模型现在已经强大到可以完全自动地创建新的小型 AI 工具，无需任何人类干预。来自麻省理工学院、加州大学多个校区和 AI 科技公司 Aizip 的科学家团队表示，他们已经能...
-
重塑未来数字格局的五大技术趋势
科技改变了世界，这是一个毫无争议的说法。从古人犁地到今天的印刷机再到个人电脑，先进的技术有能力从根本上重塑世界和我们的生活方式。过去几十年的许多变化使我们认识到，我们社会中一些最具变革性的变化是由软件实现的。数字化转型不仅仅是一个流行语，而是一个现实。...
-
OpenAI 的超级对齐团队在做什么
今年11月17日，OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman 在首席科学家伊利亚·苏茨克韦尔 (Ilya Sutskever 的政变下被罢免，但三天后复职。不到一个月，OpenAI 宣布一切恢复正常，而这一切导火索是团队内部的有...
-
2024 年的六个生成式 AI 预测
分析师迈克·莱昂内（Mike Leone）预测了生成式人工智能的下一步——从开源到监管转变——提供了对2024年行业发展方向的全面看法。 随着 2023 年接近尾声，是时候展望明年了。当涉及到生成式人工智能时，我们很容易迷失在所有的可能性中——我们在 ...
-
埃森哲在班加罗尔启动生成式AI工作室，加速AI采纳
埃森哲（Accenture）在印度班加罗尔启动了生成式人工智能(Generative AI 工作室，旨在加速人工智能和分析技术的广泛采纳。该工作室将充分利用埃森哲在先进人工智能中心为客户所做的战略性投资。 公司计划通过工作室与现代数据和人工智能基础、LLM...
-
OpenAI「登月计划」剑指超级AI！LeCun提出AGI之路七阶段，打造世界模型是首位
通用AGI，或许近在咫尺。 OpenAI下一步「登月计划」，就是实现人类期待已久的超级人工智能，而到达这一步的前提是——解决超级AI对齐问题。 就在前几天，首席科学家Ilya带头OpenAI超级对齐团队取了的实质性成果。他们发表的最新论文，首次确定了超...
-
只需10分钟，开发者即可创建AIGC应用，腾讯云推出高性能应用服务HAI
降低AIGC应用开发门槛，才能更快发现下一个AIGC现象级应用。 12月18日，腾讯云宣布推出高性能应用服务(Hyper Application Inventor，HAI ，用户无需复杂配置，最快10分钟即可创建自己的AI应用。 HAI能够提供即插即用...
-
三分钟使用Google Bard模型：搭建实时聊天页面
Google Bard 中文版已经正式上线 Bard 是 Google AI 开发的大型语言模型 (LLM 聊天机器人，虽然 Google Bard 相比于 ChatGPT、Claude、文心一言语言理解，代码解释还存在差距 但是 Bard 上新了图...
-
腾讯讯云推出高性能应用服务HAI 10分钟即可创建AI应用
12月18日，腾讯云宣布推出高性能应用服务（Hyper Application Inventor，HAI），无需复杂配置，用户只需10分钟即可创建自己的AI应用。 据介绍，HAI提供即插即用的算力和常见环境，可以帮助中小企业、开发者和个人用户快速部署语言模...
-
大语言模型微调数据竞赛，天翼云斩获冠军！
近日，天池FT-Data Ranker竞赛落下帷幕，天翼云智能边缘事业部AI团队（后称天翼云AI团队）凭借在大语言模型（LLM）训练数据增强方面的卓越研究，荣获大语言模型微调数据竞赛——7B模型赛道冠军。 FT-Data Ranker竞赛是一场面向大语...
-
【LLM】大语言模型学习之LLAMA 2：Open Foundation and Fine-Tuned Chat Model
大语言模型学习之LLAMA 2：Open Foundation and Fine-Tuned Chat Model 快速了解 预训练 预训练模型评估 微调 有监督微调（SFT） 人...
-
OpenAI官方的Prompt工程指南：你可以这么玩ChatGPT
随着 ChatGPT、GPT-4 等大型语言模型（LLM）的出现，提示工程（Prompt Engineering）变得越来越重要。很多人将 prompt 视为 LLM 的咒语，其好坏直接影响模型输出的结果。 如何写好 prompt，已经成为 LLM 研究...
-
突发！OpenAI封禁字节跳动账户！内部爆料滥用GPT生成内容
整理丨诺亚 外媒The Verge于北京时间今日凌晨报道，在生成式AI的疯狂竞赛中，字节跳动一直在秘密利用OpenAI的技术“走捷径”，直指字节跳动在中国使用GPT生成的数据来训练自己的大模型，违反了微软和OpenAI的开发者许可。不久后，OpenAI...
-
安装LLaMA-Factory微调chatglm3，修改自我认知
安装git clone https://github.com/hiyouga/LLaMA-Factory.git conda create -n llama_factory python=3.10 conda activate llama_factory...
-
GPT-4V都搞不明白的未来推理有解法了！来自华科大&上科大
多模态大语言模型展现了强大的图像理解和推理能力。 但要让它们基于当前观测来对未来事件进行预测推理仍然非常困难。 即便是当前最强大的GPT-4V（如下图所示），也无法很好地解决这一问题。 △ GPT-4V的错误案例 现在，华科大和上科大团队提出了一个赋予...
-
生成式人工智能潜力的释放：软件工程师的MLOps和LLM部署策略
译者 | 李睿 审校 | 重楼 生成式人工智能最近的爆发标志着机器学习模型的能力发生了翻天覆地的变化。像DALL-E 2、GPT-3和Codex这样的人工智能系统表明，人工智能系统在未来可以模仿人类独特的技能，例如创作艺术、进行对话，甚至编写软件。然而，...
-
我们聊聊如何增强ChatGPT处理模糊问题能力
提示工程技术可帮助大语言模型在检索增强生成系统中处理代词等复杂核心参照物。 译自Improving ChatGPT’s Ability to Understand Ambiguous Prompts，作者 Cheney Zhang 是 Zilliz 的一...
-
Llama-2大模型本地部署研究与应用测试
最近在研究自然语言处理过程中，正好接触到大模型，特别是在年初chatgpt引来的一大波AIGC热潮以来，一直都想着如何利用大模型帮助企业的各项业务工作，比如智能检索、方案设计、智能推荐、智能客服、代码设计等等，总得感觉相比传统的搜索和智能化...