-
Llama-2-Open-Source-LLM-CPU-Inference 使用教程
Llama-2-Open-Source-LLM-CPU-Inference 使用教程 Llama-2-Open-Source-LLM-CPU-InferenceRunning Llama 2 and other Open-Source LLMs on...
-
运行Llama 2于本地CPU上的开源LLM推理指南
运行Llama 2于本地CPU上的开源LLM推理指南 Llama-2-Open-Source-LLM-CPU-InferenceRunning Llama 2 and other Open-Source LLMs on CPU Inference Lo...
-
小米宣布大模型小爱全量升级：支持AI图片编辑、车外唤醒防御
快科技7月31日消息，日前，小米宣布小爱同学大模型小爱应用正全量升级，覆盖手机、平板、电视、音箱、汽车等核心品类，支持AI图片编辑、车外唤醒防御等功能。 大模型小爱在不同设备上，将发挥不同优势，比如手机端主打AI图片编辑、文档问答、智能成片。 平板端主...
-
【AIGC】智能文档处理解决方案深度剖析
文章目录 @[toc] 一、文档处理是什么 二、文档处理场景分析 1.文档问答 2.文档校订 3.财务文档解析 4.简历解析 5.发票和收据分析 6.表提取 7.身份证/护照解析 三、文档处理用户案例 四、文档处理市场分析 1...
-
清华和微软联合起来对提示词下手了！直接缩短80%，跟大模型对话的头疼系数直线下降！变相扩大了上下文窗口！
出品 | 51CTO技术栈（微信号：blog51cto） 想一下，现在普通人调用个大模型有多别扭，你得一个个上传文件，然后再告诉它自己想要什么样的输出，最好给它一套优秀的模版，它才能给出个像样的回答。 这就好比你自己的大脑都快想出答案来了，它只不过是帮...
-
GPT-4V只能排第二！华科大等发布多模态大模型新基准：五大任务14个模型全面测评
近期，多模态大模型（LMMs）在视觉语言任务方面展示了令人印象深刻的能力。然而，由于多模态大模型的回答具有开放性，如何准确评估多模态大模型各个方面的性能成为一个迫切需要解决的问题。 目前，一些方法采用GPT对答案进行评分，但存在着不准确和主观性的问题。另...
-
华科大发布多模态大模型新基准 覆盖五大任务
近期，华中科技大学等机构发布了一项关于多模态大模型（LMMs）的全面评估新基准，旨在解决多模态大模型性能评估的问题。这项研究涉及了14个主流多模态大模型，包括谷歌Gemini、OpenAI GPT-4V等，覆盖了五大任务、27个数据集。然而，由于多模态大模...
-
AskDocs官网体验入口 AI文档处理工具软件app在线使用地址
AskDocs是您的AI助手，可以快速阅读、理解、查找和总结来自您的文档的信息。它可以处理多种文件类型，支持PDF、DOCX、TXT、CSV、EPUB和YouTube链接。用户可以选择不同的定价方案，根据需求选择适合自己的功能。通过AskDocs，用户可以...
-
AI游戏设计的半年度复盘；大模型+智能音箱再起波澜；昇思大模型技术公开课第2期；出海注册经验分享；如何使用LoRA微调Llama 2 | ShowMeAI日报
👀日报&周刊合集 | 🎡生产力工具与行业应用大全 | 🧡 点赞关注评论拜托啦！ 🔥 进步or毁灭：Nature 调研显示 1600+ 科学家对AI的割裂态度 国际顶级期刊 Nature 最近一项调研很有意思，全球 1600 多名科...
-
四行代码让大模型上下文暴增3倍，羊驼Mistral都适用
无需微调，只要四行代码就能让大模型窗口长度暴增，最高可增加3倍! 而且是“即插即用”，理论上可以适配任意大模型，目前已在Mistral和Llama2上试验成功。 有了这项技术，大模型（LargeLM）就能摇身一变，成为LongLM。 近日，来自得克萨斯农...
-
[NLP] 使用Llama.cpp和LangChain在CPU上使用大模型-RAG
一 准备工作 下面是构建这个应用程序时将使用的软件工具: 1.Llama-cpp-python 下载llama-cpp, llama-cpp-python [NLP] Llama2模型运行在Mac机器-CSDN博客 2、LangChain L...
-
聊聊拉长LLaMA的一些经验
Sequence Length是指LLM能够处理的文本的最大长度，越长，自然越有优势： 更强的记忆性。更多轮的历史对话被拼接到对话中，减少出现遗忘现象 长文本场景下体验更佳。比如文档问答、小说续写等 当今开源LLM中的当红炸子鸡——LLaMA...
-
最高20倍！压缩ChatGPT等模型文本提示，极大节省AI算力
在长文本场景中，ChatGPT等大语言模型经常面临更高算力成本、更长的延迟以及更差的性能。为了解决这三大难题，微软开源了LongLLMLingua。 据悉，LongLLMLingua的核心技术原理是将“文本提示”实现最高20倍的极限压缩，同时又可以准确评估...