-
llama.cpp Mac版本llama
骆驼.cpp 路线图/宣言/ ggml 纯C/C++中LLaMA模型的推理 热点话题： 简单的网络聊天示例：#1998 k-quants 现在支持 64 的超级块大小 super-block size of 64:：#2001 新...
-
2024 年数据管理在人工智能中的四大趋势
在 2023 年即将结束之际，我们会发现随着 ChatGPT 的引入，世界发生了不可逆转的变化。人工智能的主流化继续以强劲势头推进，我们如何应对这些不断变化的时代需要信念的飞跃。人工智能可能同时具有潜在的变革性和不准确性！但我们的未来不仅仅是人工智能，因...
-
快手Agents系统、模型、数据全部开源！
7B 大小的模型也能玩转 AI Agents 了？近期，快手开源了「KwaiAgents」，问它周末滑雪问题，它不但帮你找到场地，连当天的天气都帮你考虑周到了。 大家都知道大语言模型（LLM）通过对语言的建模而掌握了大量知识，并具备一定认知和推理能力。...
-
得物大模型平台，业务效果提升实践
一、背景 得物大模型训练与推理平台上线几个月后，我们与公司内部超过 10 个业务领域展开了全面的合作。在一些关键业务指标方面，取得了显著的成效，例如： 效率相关部门的合作，多维度打标总正确率取得 2 倍以上提升。利用大模型开辟了新的业务，提升了效...
-
估值或将达1000亿美元 OpenAI 将成为仅次于 SpaceX 的第二大最有价值初创公司
据彭博社的报道，人工智能研究公司 OpenAI 正在洽谈新一轮融资，估值将达到1000亿美元或以上，这将使其成为仅次于 SpaceX 的全球第二大最有价值的初创公司。 该报道援引参与潜在融资初步讨论的投资者的话说，融资的条款、估值和时间尚未确定，并且可能会...
-
LLaMa、Qwen、ChatGLM、ChatGLM2的区别
LLaMa、Qwen、ChatGLM、ChatGLM2的区别 以下比较的前提是首先和BERT(transfomer 的对比 感谢帮忙给我github repository的star，更多最新模型长期更新：https://github.com/zysN...
-
阿里云赵大川：弹性计算推理解决方案拯救 AIGC 算力危机
云布道师 本篇文章围绕弹性计算推理解决方案 DeepGPU 实例如何支持 Stable Diffusion 文生图推理、Stable Diffusion 推理演示示例等相关话题展开。 赵大川 阿里云弹性计算高级技术专家 GPU 云服务器推理解决方案...
-
Conversate AI官网体验入口 AI聊天机器人软件app免费下载地址
Conversate AI是一个提供GPT- 4 驱动聊天机器人服务的平台，专门为网站提供快速、定制化的聊天机器人解决方案。这个服务允许用户在几秒钟内构建并立即将聊天机器人嵌入到任何网站中。Conversate AI 支持最新的大型语言模型（LLMs），并...
-
谷歌推出 Google AI SDK，简化在安卓应用中集成高性能模型 Gemini Pro
12 月 26 日消息，谷歌近日推出了全新的 Google AI SDK，旨在简化 Android 应用集成其高性能的 Gemini Pro 模型。借助该 SDK，开发人员无需构建和管理自己的后端基础架构。 据谷歌介绍，Gemini Pro 是其功能...
-
研究表明 ChatGPT 提供的建议，比专家更全面、更有帮助
12 月 26 日消息，专家近期展开的一项研究表明，ChatGPT 所提供的建议，相比较人类专家提供的回复更平衡、更全面、更善解人意、更有帮助。 来自墨尔本大学和西澳大利亚大学的研究团队从十大热门建议栏网站上，随机挑选了 50 个社会困境问题。 该科...
-
华为诺亚的盘古Agent来了，让智能体学会结构化推理
自 AI 诞生以来，开发能够解决和适应复杂工作的多任务智能体（Agent）一直是个重要的目标。 AI 智能体对于许多应用至关重要，研究者通常用强化学习方法通过环境交互来培养智能体的决策技能。基于模型和无模型的深度强化学习方法都已取得了广为人们所知的成就，...
-
大模型微调非得依赖人类数据吗？DeepMind：用带反馈的自训练更好
如你我所见，大语言模型（LLM）正在改变深度学习的格局，在生成人类质量的文本和解决各种语言任务方面展现出了卓越的能力。虽然业界通过对人类收集的数据进行监督微调进一步提升了在具体任务上的性能，但获取高质量人类数据却面临着重大瓶颈。这对于要解决复杂问题的任务...
-
你的云网络准备好拥抱生成式人工智能了吗?
生成式人工智能(AI 有可能为企业释放数万亿美元的价值，并从根本上改变我们的工作方式。这项突破性的技术已经进入了全球经济的几乎每个领域，以及我们生活的许多方面，人们已经使用人工智能来查询其银行账单，甚至要求医疗处方。当前的预测表明，生成式人工智能可以自动...
-
Omdia：2024年值得关注的主要人工智能趋势
今年是人工智能的关键一年，因为生成式人工智能正在改变人和机器的沟通方式。本文给大家分享下2024年值得关注的主要人工智能趋势。 1.综合数据驱动创新 合成数据已经在推动大量创新，我们看到这些创新来自生成型人工智能领域本身，其中有很多较小的模型，它们的...
-
LLM微调（四）| 微调Llama 2实现Text-to-SQL，并使用LlamaIndex在数据库上进行推理
Llama 2是开源LLM发展的一个巨大里程碑。最大模型及其经过微调的变体位居Hugging Face Open LLM排行榜（https://huggingface.co/spaces/HuggingFaceH4/open_llm_lea...
-
Gartner：生成式人工智能对中国CIO和安全团队的影响
ChatGPT的热烈炒作、广泛使用和快速蔓延提升了最终用户对LLM和GenAI的认识，引发了一波商业实验和AI初创企业的浪潮。2023年4月的Gartner网络研讨会发现，381名中国参会人员有70%已经或计划启动GenAI项目，其中6%已在生产环境部...
-
一篇综述，看穿基础模型+机器人的发展路径
机器人是一种拥有无尽可能性的技术，尤其是当搭配了智能技术时。近段时间创造了许多变革性应用的大模型有望成为机器人的智慧大脑，帮助机器人感知和理解这个世界并制定决策和进行规划。 近日，CMU 的 Yonatan Bisk 和 Google DeepMind...
-
微软必应聊天引入 GPT-4 Turbo 模型，部分用户已可免费使用
12 月 25 日消息，据 Windowslatest 报道，微软必应聊天的 GPT-4 Turbo 模型近日向部分随机选中的用户免费开放，该模型基于 OpenAI 的最新人工智能技术，能够提供更智能、更流畅、更有趣的聊天体验。此外，微软还计划...
-
LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention
Paper name LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention Paper Reading Note Paper URL: htt...
-
LLama Factory 安装部署实操记录（二）
1. 项目地址 GitHub - hiyouga/LLaMA-Factory: Easy-to-use LLM fine-tuning framework (LLaMA, BLOOM, Mistral, Baichuan, Qwen, ChatGLM E...
-
OpenAI 阿尔特曼晒网友新年愿望清单：通用人工智能（AGI）等呼声最多
IT之家 12 月 25 日消息，时值圣诞季，OpenAI 首席执行官萨姆・阿尔特曼化身“圣诞老人”在自己的 X 平台账号上发文征求网友们 2024 年对 OpenAI 的愿望与期待：“你希望 OpenAI 明年新增或修复哪些功能？”。 这条帖子是 12...
-
李飞飞DeepMind全新「代码链」碾压CoT！大模型用Python代码推理，性能暴涨12%
思维链（CoT），最具开拓性和影响力的提示工程技术之一，能增强LLM在推理决策中的表现。 那么，如果大模型可以在代码中「思考」，会如何呢？ 最近，谷歌DeepMind、斯坦福、UC伯克利团队联手提出了全新技术——「代码链」（CoC）。 论文地址：htt...
-
苹果与新闻出版机构谈判，寻求利用其内容开发生成式 AI 系统
据《纽约时报》报道，四位熟悉谈判的人士透露，苹果公司近几周已经开始与主要新闻和出版机构进行谈判，旨在获得使用其材料以开发生成式人工智能（AI）系统的权限。 这些知情人士表示，苹果提出了价值至少 5000 万美元的多年期协议，以获得新闻文章档案的授权。由于...
-
苹果开放 AI 研究成果，发布多模态 LLM 模型 Ferret
IT之家 12 月 25 日消息，苹果公司于 2023 年 10 月与哥伦比亚大学的研究人员合作发布了名为 Ferret（雪貂）的开源多模态 LLM，但当时并没有引起太多关注。 许多人工智能社区的人士都错过了 Ferret 的发布，他们对苹果意想不到地...
-
印度正测试通过 AI 改善天气预报精度，应对极端气候
12 月 24 日消息，据路透社当地时间周五报道，印度正在测试使用 AI 构建气候模型，从而改善天气预报精度。当地的一名高级气象官员表示，在印度这个幅员辽阔的国家，暴雨、洪水和干旱等极端气候出现频次越来越多，正不断蔓延。 据报道，印度气象局正使用超级计...
-
AI 侵袭广告部门，谷歌员工担忧人工智能抢饭碗
12 月 24 日消息，谷歌近期正考虑利用人工智能（AI）工具来提高内部效率，此举引发了公司内部员工的担忧，担心他们会被人工智能取代而失业。 据IT之家了解，谷歌拥有庞大的广告销售部门，超过 3 万名员工负责广告销售业务。据 The Informat...
-
baichuan-7B-chat微调报错及解决记录 使用的仓库：LLaMA-Factory 2023年11月27日
我所使用的代码仓库是LLaMA-Factoryhiyouga/LLaMA-Factory: Easy-to-use LLM fine-tuning framework (LLaMA, BLOOM, Mistral, Baichuan, Qwen, Chat...
-
深度解读 | 搭载谷歌最强大模型Gemini的Bard能否赶上ChatGPT
大家好，我是极智视界，欢迎关注我的公众号，获取我的更多前沿科技分享 昨天早上看到了相关的报道，谷歌昨天发布了 "号称最强的大模型" Gemini，还是熟悉的字眼、还是熟悉的配方。之前谷歌一直在 AIGC 的竞争相对于微软的 OpenAI 全方位处于下风...
-
Llama中文社区开源预训练Atom-7B-chat大模型体验与本地化部署实测(基于CPU，适配无GPU的场景)
一、模型简介 原子大模型Atom由Llama中文社区和原子回声联合打造，在中文大模型评测榜单C-Eval中位居前十（8月21日评测提交时间）。 Atom系列模型包含Atom-7B和Atom-...
-
清华特奖焦剑涛大模型创业：突破GPT-4工具使用能力，搞开源种子轮融资七千万
两位清华校友打造，在GPT-4核心优势之一使用工具上实现超越。 连HuggingFace CEO都来帮它造势： 它的名字叫“NexusRaven”，参数只有130亿。 出色的函数调用能力连网友都忍不住称赞，既可以并行也可以嵌套。 背后团队则更令人瞩目...
-
最强英文开源模型LLaMA架构探秘，从原理到源码
导读：LLaMA 65B是由Meta AI（原Facebook AI）发布并宣布开源的真正意义上的千亿级别大语言模型，发布之初（2023年2月24日）曾引起不小的轰动。LLaMA的横空出世，更像是模型大战中一个搅局者。虽然它的效果（performance）...
-
LLMs-入门二：基于google云端Colab部署Llama 2
LLMs-入门二：基于google云端Colab部署Llama 2 1、访问网址 2、基础概念 3、选择最适合您的 Colab 方案 4、基于Colab部署开源模型Llama 2 1）在Colab上安装huggingface套件 2）申请调用...
-
Llama 2免费托管及API提供
Llama 2 是 Meta 最新的文本生成模型，目前其性能优于所有开源替代方案。 推荐：用 NSDT编辑器 快速搭建可编程3D场景 1、强大的Llama 2 它击败了 Falcon-40B（之前最好的开源基础模型），与 GPT-3....
-
基于MindSpore的llama微调在OpenI平台上运行
基于MindSpore的llama微调在OpenI平台上运行 克隆预训练模型 克隆chatglm-6b代码仓，下载分布式的模型文件 git lfs install git clone https://huggingface.co/openlm-...
-
AIGC专题报告：ChatGPT的工作原理
今天分享的AIGC系列深度研究报告：《AIGC专题报告：ChatGPT的工作原理》。 （报告出品方：省时查） 报告共计：107页 前言 ChatGPT 能够自动生成一些读起来表面上甚至像人写的文字的东西，这非常了不起，而且出乎意料。但它是如何做...
-
Anthropic发布新方法 通过提示降低生成式AI偏见
人工智能公司Anthropic最近发布了一项方法，旨在通过提示工程减少公司使用的大型语言模型（LLMs）输出中的歧视。该公司在一份文件中详细介绍了一种评估方法，指导公司如何通过优化提示降低模型输出的歧视性。该文件为开发人员和决策者提供了了解LLMs生成答案...
-
使用 GPT-4 和 Midjourney 建构Tiktok故事
您准备好探索生成AI的奇妙世界，创作出富有吸引力的故事并配以引人入胜的插图了吗？根据我最近使用GPT-4和Midjourney的体验，我成功地使用YiVal构建了一个端到端的叙事，GPT-4用来生成大规模的故事，同时Midjourney创建令人惊叹的插图。...
-
Apple不装了：AI iPhone将至！
撰稿 | 云昭 出品 | 51CTO技术栈（微信号：blog51cto） 临近年末，生成式AI的“惊艳”速度远远超过了人们“野望”它的速度。比如炙手可热的Midjourney推出了再度炸街的V6版本，再比如谣传月底即将发布的GPT4.5、谷歌的多模态模型...
-
Gemini AI免费测试入口在哪 谷歌Gemini软件怎么样
谷歌Gemini AI是一款由谷歌人工智能部门开发的大型语言模型（LLM）。它是在一个包含文本、代码、音频、图像和视频的庞大数据集上训练的。Gemini AI可以用于各种任务，包括自然语言处理(NLP 、机器翻译、代码生成、创意写作和问题回答。Google...
-
23年生成式AI全球投资超360亿！开发者预测2024年LLM应用进入大爆发
2023年11月30日，ChatGPT庆祝了它的生日，Similarweb发布了下面这张精美的信息图来纪念这一时刻。 从ChatGPT诞生，到2023年5月，它的访问量一直在迅速增长，峰值达到了每月18亿次的访问量。 随后，客流量在6月有所下降，但自9...
-
超强小说生成工具Midreal AI来袭！不仅逻辑在线，还能自动生成精美配图
没看够OpenAI drama的玩家有福了! 最近，有网友用AI把OpenAI“内斗”魔改成了一篇网文。 “这是一个关于背叛与复仇的故事”…… 看得出来，这是围绕Sam的第一人称视角展开的。 图源:知乎@Midreal小助手（由用户“april0568...
-
苹果AI研究取得重大进展 iPhone有望流畅运行复杂AI系统
据VB报道，苹果公司最近公布了两篇论文，展示了该公司在人工智能研究方面取得的重大进展。其中一项新技术有望让复杂的AI系统在iPhone、iPad等小内存设备上流畅运行。 在论文中，苹果研究人员解决了一个关键挑战:如何在内存有限的设备上部署大语言模型（LLM...
-
生成式人工智能如何改变数据中心的要求
什么是数据中心，我们如何使用它?更具体地说，数据中心有哪些不同类型，它们为使用它们的企业提供哪些不同的用途? 这些问题看似简单，但要得出令人满意的答案却出人意料地困难。就在过去一年左右的时间里，我们看到越来越强大的大型语言模型(LLM 正在支持新的生成...
-
Visual Studio Code 和 GitHub Copilot
翻译自 Chris Dias 的博客 AI 这个话题，近期我们看到它被大家广泛地谈论，有些人很兴奋，也有些人表达了担忧。进步几乎每天都在发生，速度前所未有。每天有超过一百万的 Copilot 用户，如果你有机会尝试，你可能也会认为这项技术并没有让人失望，...
-
4090成A100平替？token生成速度只比A100低18%，上交大推理引擎火了
不仅如此，PowerInfer 与最先进的本地LLM推理框架 llama.cpp 相比，在单个 RTX 4090 (24G 上运行 Falcon (ReLU -40B-FP16，实现了 11 倍多的加速，还能保持模型的准确性。 具体来说，PowerIn...
-
苹果 AI 新突破：在 iPhone 上部署大型语言模型成为可能
苹果公司的人工智能研究人员表示，在将大型语言模型（LLMs）部署到 iPhone 和其他内存有限的苹果设备上取得了关键性突破。他们发明了一种创新的闪存利用技术，可有效应对内存限制问题。 LLMs 与内存限制 像 ChatGPT 和 Claude 这样基于...
-
我的大模型观：我眼中的LLM
文章目录 大模型是有智能的。 也许，大模型是一场骗局？ 从头训练or微调 我想象中的大模型架构 大厂的大模型 中小厂和个人开发该何去何从？ 今年，大模型火的一塌糊涂。最近几个月paper with code上，前几名的论文几乎都是生成模...
-
【AI大模型】Google Bard (PaLM2) 大模型写代码能力实测: LSM Tree, DAG Scheduler, AI大模型加持自然语言零代码平台设计（福利O：文末附PaLM2访问链接）
禅与计算机程序设计艺术评测结论：当前AI大模型写代码能力当之无愧的 No.1. Google Bard (PaLM2 文章目录 禅与计算机程序设计艺术评测结论：当前AI大模型写代码能力当之无愧的 No.1. Google Bard...
-
Llama 架构分析
从代码角度进行Llama 架构分析 Llama 架构分析 前言 Llama 架构分析 分词 网络主干 DecoderLayer Attention MLP 下游任务 因果推理 文本分类 Llama 架构分析...
-
Video-LLaMA An Instruction-tuned Audio-Visual Language Model for Video Understanding 用于视频理解的指令调谐视听语言
1.摘要 我们提出了一个多模态框架Video-LLaMA1，它使大型语言模型(LLM 能够理解视频中的视觉和听觉内容。视频-来自冻结的预训练视频和音频编码器和冻结的LLM的美洲驼引导跨模式训练。不像以前的工作，补充线性最小二乘法只处理视觉或听觉信号...