-
使用 OpenLLM 构建和部署大模型应用
本次分享主题为：使用 OpenLLM 快速构建和部署大语言模型的应用。OpenLLM 是一个开源的大语言模型（LLM）开发框架。它支持多种开源的 LLM 模型，并且具有内建的两个关键的 LLM 优化，能够优化内存使用。此外，它与 LangChain 和...
-
一文读懂用于构建多代理的 CrewAI 开源框架
Hello folks，我是 Luga，今天我们继续来聊一下人工智能(AI 生态领域相关的技术 - AI Agents ，本文将继续聚焦在针对新型开源 AI Agents CrewAI 的技术进行解析，使得大家能够了解 CrewAI 的基本概念以及基于...
-
15位大咖预测：2024年AI将改变网络安全游戏规则
随着AI技术的突破性发展，攻击者正在加速AI的武器化，结合社会工程技术让企业防不胜防；与此同时，在防御侧，AI也是CISO赢得人工智能军备竞赛的关键武器。 2024年，AI将如何改变网络安全的游戏规则？近日，科技媒体VentureBeat采访了13家公...
-
Gartner：生成式人工智能对中国CIO和安全团队的影响
ChatGPT的热烈炒作、广泛使用和快速蔓延提升了最终用户对LLM和GenAI的认识，引发了一波商业实验和AI初创企业的浪潮。2023年4月的Gartner网络研讨会发现，381名中国参会人员有70%已经或计划启动GenAI项目，其中6%已在生产环境部...
-
在 “小小容器” WasmEdge 里运行小小羊驼 llama 2
昨天，特斯拉前 AI 总监、OpenAI 联合创始人 Andrej Karpathy 开源了 llama2.c 。 只用 500 行纯 C 语言就能训练和推理 llama 2 模型的框架，没有任何繁杂的 python 依赖。这个项目一推出就受到大家的追捧...
-
AI Native工程化：百度App AI互动技术实践
作者 | GodStart 导读 随着AI浪潮的兴起，越来越多的应用都在利用大模型重构业务形态，在设计和优化Prompt的过程中，我们发现整个Prompt测评和优化周期非常长，因此，我们提出了一种Prompt生成、评估与迭代的一体化解决方案，...
-
如何用ChatGPT把控应用程序生命周期
译者 | 朱先忠 审校 | 重楼 简介 在本文中，我们将从基础设施供应到配置管理和部署等各个环节来全方位探讨大型语言模型（LLM）是否适合应用于实际应用程序的生命周期开发。这项工作产生的源代码工程已经在GitHub上公开（［参考资料11］）。基础设施即代...
-
数据治理与大模型一体化实践
降本增效方面，以机器学习团队的构成为例，滴普科技Deepexi产品线总裁柏海峰介绍道：“传统机器学习或者说小模型的技术落地，对人才的要求很高，但企业往往没有意识到这个问题。具体来说，一般需要构建一个综合性的团队即数据科学团队，团队中需要数据开发工程师、...
-
Hugging News #0814: Llama 2 学习资源大汇总
每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣...
-
LLaMA(大规模机器学习和分析)
LLaMA(大规模机器学习和分析 是一个先进的软件平台，是Meta 推出 AI 语言模型 LLaMA，一个有着 上百亿数量级参数的大语言模型用于大规模部署和管理机器学习模型。借助LLaMA，组织可以高效地在大型数据集上训练和部署模型，缩短投放市场的...
-
玖章算术CEO叶正盛在数据技术嘉年华分享NineData AIGC的应用实践
4月8日下午，为期两天的第十二届数据技术嘉年华（DTC 2023）在北京新云南皇冠假日酒店圆满落下帷幕。大会得到了工业和信息化部电子五所的支持和指导，围绕“开源·融合·数字化——引领数据技术发展，释放数据要素价值”这一主题，通过一场主论坛和十二场专题论坛，...
-
微调语言大模型选LoRA还是全参数？基于LLaMA 2深度分析
本文对比了全参数微调和LoRA，并分析了这两种技术各自的优势和劣势。作者使用了三个真实用例来训练LLaMA 2模型，这提供了比较特定任务的性能、硬件要求和训练成本的基准。本文证明了使用LoRA需要在serving效率和模型质量之间做出权衡，而这...
-
机器学习 - 混淆矩阵：技术与实战全方位解析
本文深入探讨了机器学习中的混淆矩阵概念，包括其数学原理、Python实现，以及在实际应用中的重要性。我们通过一个肺癌诊断的实例来演示如何使用混淆矩阵进行模型评估，并提出了多个独特的技术洞见。文章旨在为读者提供全面而深入的理解，从基础到高级应用。...
-
比「让我们一步一步思考」这句咒语还管用，提示工程正在被改进
大型语言模型（LLM）已经是许多自然语言处理任务的强大工具，只要能给出正确的提示。然而，由于模型的敏感性，找到最优提示通常需要进行大量手动尝试和试错努力。此外，一旦将初始提示部署到生产环境中，可能会出现意想不到的边缘情况，需要更多轮的手动调整来进一步完善...
-
三分钟快速构建大语言模型AI知识库
FastGPT FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！ 知识库核心流程图 图片 图片来源：https://doc.fa...
-
Stable Diffusion — ControlNet 超详细讲解
Stable Diffusion — ControlNet 超详细讲解 ControlNet 最近非常火?！ControlNet 和 Stable Diffusion 的结合使 Stable Diffusion 能够接受指导图像生成过程的条件输入，从而增...
-
OpenAI，请重新思考 Retrieval Assistant 的方案
作者：栾小凡 Zilliz 合伙人、技术总监 近期， OpenAI 在首届开发者大会上公布了系列最新进展，引发各大媒体和从业人员的广泛关注。 其中最引人注目的是全新推出的 GPT-4 Turbo ——一个更经济、更高效的服务版本，可以显著提升用户体验。...
-
运行基于云的生成式AI系统的几个优秀实践
译者 | 布加迪 审校 | 重楼 您猜怎么着？云计算会议现在是生成式AI会议。怎么会这样？很简单，云提供商将生成式AI视为销售更多云服务的最佳方式了。 随着企业界转向AI驱动的生态系统，这一幕主要在云计算环境中上演。在这里您通常可以找到最先进的生成式A...
-
AntDB数据库受邀参加第六届上海人工智能大会，分享AIGC时代核心交易系统升级方案
近日，第六届上海人工智能大会春季论坛圆满落幕。大会以“数智互联，瞰见未来”为主题，邀请了来自国内外十余个国家和地区的学术界顶级学者和业内知名企业的技术大咖，探讨人工智能的学术、人才、技术、行业发展痛点。亚信科技AntDB数据库作为数智转型时代的基础软件受邀...
-
聚焦 AIGC，函数计算为 AI 应用插上腾飞翅膀
6月1日，2023 阿里云峰会·粤港澳大湾区在广州举办，Serverless 加速创新分论坛如约亮相，阿里云函数计算 FC 聚焦 AIGC 应用开发，GPU 性能体验再升级，让 AIGC 应用开发更简单。 以更少的代码，实现业务创新 函数计算 FC...
-
浅析半监督学习及其应用场景
Labs 导读 随着互联网的发展，企业可以获得越来越多的数据，这些数据可以用于帮助企业更好的了解用户，即客户画像，也可以用来改善用户的体验。但这些数据中可能存在大量没有标记的数据。如果所有数据均采用人工标记的方式则存在两方面的缺点，一是花费的时间成本较...
-
如何测试生成式人工智能（AIGC）
简介：在人工智能日趋普及的今天，生成式人工智能（AIGC）已经成为不可忽视的一个分支。从自动化生成新闻、编写代码到图像和音频生成，AIGC几乎无处不在。但如何确保这些生成的内容达到预期标准、安全可靠，同时又具有高度的可用性呢？这是一个值得细细思考的问题。...
-
探索下一步：红帽“三位一体”护航企业数字化转型
“降本增效是结果，不是过程，但怎么才能实现降本增效？” 带着客户抛出的疑问以及跟客户交流时记下的满满两页笔记，红帽全球副总裁兼大中华区总裁曹衡康匆匆赶到媒体沟通会。数字化转型并非一日之功，在充满经济波动和技术颠覆的环境下，步入数字化转型中场的众多企...
-
Copilot 的训练数据集是如何生成的？是否包含开源项目的代码？
GitHub Copilot 是一款基于人工智能的代码自动生成工具，它是由 GitHub 与 OpenAI 合作开发的。为了让 Copilot 能够学习大量的代码片段，从而能够为开发者生成高质量的代码，它需要依赖海量的训练数据集。本文将深入探讨 Copil...
-
AIGC实战——深度学习 (Deep Learning, DL)
AIGC实战——深度学习 0. 前言 1. 深度学习基本概念 1.1 基本定义 1.2 非结构化数据 2. 深度神经网络 2.1 神经网络 2.2 学习高级特征 3. TensorFlow 和 Keras 4. 多层感知器 (MLP ...
-
分布式ELK日志采集系统
文章目录 1. 传统日志采集存在哪些优缺点 2. Elk采集日志的原理 3. 为什么需要将日志存储在ElasticSeach 而不是mysql中呢 4. 为什么需要使用elk+kafka 5. elk+kafka原理 6. elk+kafka...
-
国内最具影响力科技创投媒体36Kr的容器化之路
本文由1月19日晚36Kr运维开发工程师田翰明在Rancher技术交流群的技术分享整理而成。微信搜索rancher2，添加Rancher小助手为好友，加入技术群，实时参加下一次分享~ 田翰明，36Kr 运维开发工程师，在 36Kr 主要负责运维...
-
疫苗生产空调系统，如何做数据采集控制
疫苗生产背景 生产出现的问题 项目工期十分紧张 无法及时获知产线生产进度，不易进行计划调整 无法准确的安排现场生产计划 产品线数量多，纸质记录及流程近10万页 设备采集数量庞大，超过40000点 设备管理不明确、报修维修等无法及时通知设备管理人员。 案...
-
Koordinator v1.1发布：负载感知与干扰检测采集
作者：Koordinator 社区 背景 Koordinator 旨在为用户提供完整的混部工作负载编排、混部资源调度、混部资源隔离及性能调优解决方案，帮助用户提高延迟敏感服务的运行性能，挖掘空闲节点资源并分配给真正有需要的计算任务，从而提高全局的资源利...
-
分享Docker监控体系（Kubernetes Mesos监控）
分享Docker监控体系（Kubernetes Mesos监控） 博客分类： dubbo mesos PS：监控系统是整个运维环节,乃至整个产品生命周期中最重要的一环。 监控的价值与体系 在运维体系中， 监控是非常重要的组成部分。通过...
-
探索GreatADM：如何快速定义监控
引文 在数据库运维过程中，所使用的运维管理平台是否存在这样的问题： 1、默认监控粒度不够,业务需要更细颗粒度的监控数据。 2、平台默认的监控命令不适合,需要调整阈值量身定制监控策略。 3、不同类型的实例或组件需要有不同的监控重点,但管理平台监...
-
PHP 基础篇 - PHP 错误级别详解
一、前言 最近经常看到工作 2 年左右的童鞋写的代码也会出现以静态方法的形式调用非静态方法，这是个 Deprecated 级别的语法错误，代码里不应该出现的。对方很郁闷，说：为什么我的环境可以正常运行呢？ 二、详解 代码会不会报错，以及你能不能看到报...
-
Devops下的分布式监控方案
1基础监控的设计需求 现在devops,云计算，微服务，容器，大数据等理念正在逐步落地和大力发展，企业的服务器越来越多，架构越来越复杂，相应的应用运行基础环境越来越多样化，服务越来越微化，带来的监控压力也越来越大； 如何在错综复杂的监控源里面...
-
高德Android高性能高稳定性代码覆盖率技术实践
前言 代码覆盖率(Code coverage 是软件测试中的一种度量方式，用于反映代码被测试的比例和程度。 在软件迭代过程中，除了应该关注测试过程中的代码覆盖率，用户使用过程中的代码覆盖率也是一个非常有价值的指标，同样不可忽视。因为伴随着业务扩展和功能...
-
Flink CDC + Hudi 海量数据入湖在顺丰的实践
本文整理自顺丰大数据研发工程师覃立辉在 5月 21 日 Flink CDC Meetup 的演讲。主要内容包括： 顺丰数据集成背景 Flink CDC 实践问题与优化 未来规划 点击查看直播回放 & 演讲PDF...
-
容器日志采集利器Log-Pilot
容器时代越来越多的传统应用将会逐渐容器化，而日志又是应用的一个关键环节，那么在应用容器化过程中，如何方便快捷高效地来自动发现和采集应用的日志，如何与日志存储系统协同来高效存储和搜索应用日志。本文将主要跟大家分享下如何通过Log-Pilot来采集容器的标准输...
-
DO输出为三极管Sink输出的MxxxT
首先，MxxxT 系列工业远程以太网 I/O 数据采集模块的设计符合苛刻的工业应用环境需求。这意味着它能够在高温、低温、潮湿、噪声等恶劣条件下正常运行，不会因为环境原因而出现故障。同时，该系列产品还具有较高的抗干扰性能，能够适应复杂的工业生产环境。...
-
远程采集网关支持自动上传实时数据到云平台
远程采集网关具有多种功能，如数字量输入、模拟量输入、数字量输出、模拟量输出、传感器接口、通信接口等。其中，数字量输入可兼容干接点、湿节点，支持0-3V常开；第1路数字量输入可作为高速脉冲计数器，采样频率可达1MHz；第2~4路数字量输入可作为低速脉冲计数器...
-
64.监控平台介绍 安装zabbix 忘记admin密码
19.1 Linux监控平台介绍 19.2 zabbix监控介绍 19.3/19.4/19.6 安装zabbix 19.5 忘记Admin密码如何做 19.1 Linux监控平台介绍： 常见开源监控软件 ~1...
-
一文搞懂 SAE 日志采集架构
作者：牛通(奇卫 日志，对于一个程序的重要程度不言而喻。无论是作为排查问题的手段，记录关键节点信息，或者是预警，配置监控大盘等等，都扮演着至关重要的角色。是每一类，甚至每一个应用程序都需要记录和查看的重要内容。而在云原生时代，日志采集无论是在采集方案，...
-
直击痛点，详解 K8s 日志采集最佳实践
作者 | 元乙 阿里云存储服务技术专家 导读：上一篇文章主要介绍 Kubernetes 日志输出的一些注意事项，日志输出最终的目的还是做统一的采集和分析。在 Kubernetes 中，日志采集和普通虚拟机的方式有很大不同，相对实现难度和部署代价也略大，...
-
KubeSphere 多行日志采集方案深度探索
作者：大飞哥，视源电子运维工程师，KubeSphere 用户委员会广州站站长 采集落盘日志 日志采集，通常使用 EFK 架构，即 ElasticSearch,Filebeat,Kibana，这是在主机日志采集上非常成熟的方案，但在容器日志采集方面，...
-
SpringCloud 分布式日志采集方案
前言 由于微服务架构中每个服务可能分散在不同的服务器上，因此需要一套分布式日志的解决方案。spring-cloud提供了一个用来trace服务的组件sleuth。它可以通过日志获得服务的依赖关系。 基于sleuth，通过使用ELK(elasti...
-
http2.0爬虫解决方案
文章目录 现在的大部分网站都是基于HTTP/1.x协议的，但是还有一小部分是HTTP/2.0的，遇到这样的网站，爬虫的很多常用库都没法用了，目前python 的requests库并不支持http/2.0网站，scrapy2.5.0 2021.4...
-
监控系统中使用MxxxT工业远程以太网I/O数据采集模块
首先，MxxxT工业远程以太网I/O数据采集模块内嵌32位高性能微处理器MCU，具有强大的运算和控制能力，同时支持标准的Modbus协议，能够方便地与第三方SCADA软件、PLC、HMI设备整合应用。此外，该设备还自带一路RS485接口，可通过RS485总...
-
在游戏运营行业，Serverless 如何解决数据采集分析痛点？
众所周知，游戏行业在当今的互联网行业中算是一棵常青树。在疫情之前的 2019 年，中国游戏市场营收规模约 2884.8 亿元，同比增长 17.1%。2020 年因为疫情，游戏行业更是突飞猛进。玩游戏本就是中国网民最普遍的娱乐方式之一，疫情期间更甚。据不完全...
-
沐 鸣1总 代 (2023已更新(今日更新/知乎)
沐 鸣1总 代 【635901】【主管宗师】那么在实际生产环境中，用户是如何使用日志功能采集的呢？而面对不同的业务场景，不同的业务诉求时，采用哪种采集方案更佳呢？Serverless 应用引擎 SAE（Serverless App Engine）作为一个全...
-
金 巴 黎 娱 乐 负 责 人 (2023已更新(豆瓣/知乎)
金 巴 黎 娱 乐 负 责 人 【635901】【主管宗师】日志，对于一个程序的重要程度不言而喻。无论是作为排查问题的手段，记录关键节点信息，或者是预警，配置监控大盘等等，都扮演着至关重要的角色。是每一类，甚至每一个应用程序都需要记录和查看的重要内容。而在...
-
神 机 娱 乐 总 代 (2023已更新(微博/知乎)
神 机 娱 乐 总 代 【635901】【主管宗师】日志，对于一个程序的重要程度不言而喻。无论是作为排查问题的手段，记录关键节点信息，或者是预警，配置监控大盘等等，都扮演着至关重要的角色。是每一类，甚至每一个应用程序都需要记录和查看的重要内容。而在云原生时...
-
AI为DevOps体验带来的改变远不止眼前所见
Cycode的联合创始人兼首席技术官Ronen Slavin表示，人工智能实现的自动化有助于“减少花在琐碎任务上的时间，使团队能够专注于战略沟通和计划”。 DevOps技术团队非常欣赏人工智能在协助和自动化代码开发和部署方面的作用，这可能会使DevOp...