-
异常检测算法在可观测性平台的落地和实践｜得物技术
一、背景 在稳定性保证中，重要的一个环节就是故障管理体系建设，故障管理体系的四大核心功能------故障发现、故障触达、故障定位和故障恢复，其中故障发现作为故障管理的第一步至关重要，包含了指标预测、异常检测和故障预测等方面，主要目标是能及时、准确地发现故...
-
开源智能助手平台Dify是什么？
1.背景 对于国内小公司，怎样通过Ai 将内部流程、产品重新做一次，从而提高人效、给客户带来价值，这是老板们在考虑的问题 ？ 当前市面上的你大模型例如：通义千问、文心一言、kimi、智谱清言、盘古 等，底层能力都非常强大（千亿级参数），但各个模型使用有...
-
JuiceFS 在多云架构中加速大模型推理
在大模型的开发与应用中，数据预处理、模型开发、训练和推理构成四个关键环节。本文将重点探讨推理环节。在之前的博客中，社区用户 BentoML 和贝壳的案例提到了使用 JuiceFS 社区版来提高模型加载的效率。本文将结合我们的实际经验，详细介绍企业版在此场景...
-
实现 LLM 应用的可观测，难在哪里？
随着生成式 AI 概念的火爆，以 ChatGPT、通义大模型为代表，市场上涌现了一系列商用或者开源的大模型，同时基于大语言模型（LLM ）以及 AI 生态技术栈构建的应用以及业务场景也越来越多。 众所周知，LLM 包含数十亿甚至万亿级别的参数，其架构复杂...
-
释放Stable Diffusion 无限可能
最近在整理大语言模型的系列内容，Stable Diffusion 是我下一篇博客的主题。关注 Stable Diffusion，是因为它是目前最受欢迎和影响力最大的多模态生成模型之一。Stable Diffusion 于 2022 年 8 月发布，主要用于...
-
ApsaraMQ Copilot for RocketMQ：消息数据集成链路的健康管家
作者：文婷 引言 如何正确使用消息队列保证业务集成链路的稳定性，是消息队列用户首要关心的问题。ApsaraMQ Copilot for RocketMQ 从集成业务稳定性、成本、性能等方面帮助用户更高效地使用产品。 背景 消息队列产品通过异步消...
-
加州大学最新！CarDreamer：全面、灵活的自动驾驶算法测试开源平台
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 为了在复杂的真实世界场景中安全导航，自动驾驶汽车必须能够适应各种道路条件并预测未来事件。基于世界模型的强化学习（RL）已经成为一种有前景的方法，通过学习和预测各种环境...
-
什么是AI网关？你还需要一个吗？
出品 | 51CTO技术栈（微信号：blog51cto） 作者 | Liam Crilly 编译 | 言征 从GitHub Copilot到Microsoft Office Copilot再到ChatGPT等，AI已经以光速从“总有一天我们会到达那里”转...
-
用AI应对网络安全挑战，思科推出“HyperShield”安全系统
思科日前推出了一款新的安全产品，据称可以利用AI帮助用户保护关键系统。 思科表示，这项名为“HyperShield”的安全系统能够将多个IT资产转换为安全执行点，包括公共云中的虚拟机和Kubernetes集群，使用户能够更容易地阻止应用程序漏洞和黑客入...
-
IT领导者可以从谷歌的GenAI起步不稳中学到什么
谷歌推出 Bard 时，试图对抗 OpenAI 的 ChatGPT，但在首次演示中不幸出现了事实错误。尽管谷歌随后将 Bard 扩展到 Gmail 到 YouTube 等所有平台，但公众最初的焦点仍然是该工具未能达到 OpenAI 响应的质量。 谷歌...
-
【直播预告】程序员逆袭CEO分几步？
2024年，是充满未知和挑战的一年。AI 的发展日新月异，已经有人用它来写代码了，啥时候会替代程序员，可真不好说。另一方面，程序员扎堆的 IT 互联网行业却进入了平台期甚至下行期，降本增效成为行业主流，裁员缩招的声音不绝于耳。在这种前有狼后有虎的年头，作为...
-
人工智能驱动的效率：重新定义数据中心的能源使用
在当今的数字时代，数据中心是积极管理巨大信息流的动力，以保持我们互联世界的运行。数据中心格局反映了这场技术革命，其在过去三年中增长了惊人的48%。 然而，这种进步是有代价的，因为大型数据中心是贪婪的能源消耗者，每个数据中心都需要足够的电力来供电。人工智...
-
AIGC：大语言模型开放平台OpenLLM简介（提供简易的模型部署体验）
文章目录 @[toc] 简介 一、安装 二、启动LLM服务器 项目链接 简介 该项目旨在为各种大语言模型（LLM）在生产环境中的部署和可观测性提供一个标准的解决方案，用最简单直接的方式把大语言模型（LLM）部署到云端或本...
-
AIGC 大模型纷纷部署，企业如何为 AI 数据降本增效
编辑 | 宋慧 出品 | CSDN 云计算 AIGC 从年初开始持续爆火，国内各种大模型纷纷涌现，其中模型参数轻松突破千亿数量级。模型中数据的形态、部署也是多种多样的，庞大数据量背后的管理和成本不容小觑。 混合数据厂商肯睿 Cloudera...
-
数据计算任务工具Fluid在AIGC模型推理场景中的优化方案
Fluid的介绍 Fluid是一个在Kubernetes环境中编排数据和使用数据的计算任务的工具。它的编排不仅涉及空间上的优化，还包括时间上的调度。从空间角度看，计算任务会优先被分配到存有缓存数据或靠近缓存的节点上，从而提升数据密集型应用的性能。从时间角...
-
一文读懂 LLM 可观测性
Hello folks，我是 Luga，今天我们继续来聊一下人工智能(AI 生态领域相关的技术 - LLM (大型语言模型 可观测性 ，本文将继续聚焦在针对 LLM 的可观测性进行解析，使得大家能够了解 LLM 的可观测性的必要性以及其核心的生态体系知...
-
2024年大数据行业预测（二）
大数据 数字化转型投资将成为2024年首席信息官议程上的优先事项，特别是在通货膨胀不断上升的情况下，因为这将允许更大的风险管理、降低成本和改善客户体验。此外，根据我们今年看到的趋势，在生成人工智能方面也会有持续的投资。在评估我们最初的业务需求和目标时，...
-
测试时领域适应的鲁棒性得以保证，TRIBE在多真实场景下达到SOTA
测试时领域适应（Test-Time Adaptation）的目的是使源域模型适应推理阶段的测试数据，在适应未知的图像损坏领域取得了出色的效果。然而，当前许多方法都缺乏对真实世界场景中测试数据流的考虑，例如： 测试数据流应当是时变分布（而非传统领域适应中...
-
微软推出机器学习库GPT-RAG
随着人工智能的增长，大型语言模型（LLMs）因其解释和生成类似人类文本的能力而日益受欢迎。然而，将这些工具整合到企业环境中并确保可用性和维护治理是一项具有挑战性的任务。 为了解决这一难题，Microsoft Azure推出了GPT-RAG，这是一种专为使用...
-
OpenAI，请重新思考 Retrieval Assistant 的方案
作者：栾小凡 Zilliz 合伙人、技术总监 近期， OpenAI 在首届开发者大会上公布了系列最新进展，引发各大媒体和从业人员的广泛关注。 其中最引人注目的是全新推出的 GPT-4 Turbo ——一个更经济、更高效的服务版本，可以显著提升用户体验。...
-
iLogtail 开源之路
2022年6月底，阿里云iLogtail代码完整开源，正式发布了完整功能的iLogtail社区版。iLogtail作为阿里云SLS官方标配的采集器，多年以来一直稳定服务阿里集团、蚂蚁集团以及众多公有云上的企业客户，目前已经有千万级的安装量，每天采集数十PB...
-
云原生应用 Kubernetes 监控与弹性实践
前言 云原生应用的设计理念已经被越来越多的开发者接受与认可，而Kubernetes做为云原生的标准接口实现，已经成为了整个stack的中心，云服务的能力可以通过Cloud Provider、CRD Controller、Operator等等的方式从K...
-
新一代云原生日志架构 - Loggie的设计与实践
Loggie萌芽于网易严选业务的实际需求，成长于严选与数帆的长期共建，持续发展于网易数帆与网易传媒、中国工商银行的紧密协作。广泛的生态，使得项目能够基于业务需求不断完善、成熟。目前已经开源：https://github.com/loggie-io/logg...
-
OpenTelemetry 项目解读
Opentelemetry Architecture 在 Collector 内部设计中，一套数据的流入、处理、流出的过程称为 pipeline。一个 pipeline 有三部分组件组合而成，它们分别是 receiver/ processor/ expo...
-
云原生在京东丨云原生时代下的监控：如何基于云原生进行指标采集？
从 Kubernetes 成为容器管理领域的事实标准开始，基于云原生也就是基于 Kubernetes 原生。在云的体系下，基础硬件基本上都被抽象化、模糊化，硬故障需要人为干预的频次在逐渐降低，健康检查、失败自愈、负载均衡等功能的提供，也使得简单的、毁灭性的...
-
云原生日志架构实践：网易数帆开源Loggie的三生三世
导读：网易从2015年就开始了云原生的探索与实践，作为可观测性的重要一环，日志平台也经历了从主机到容器的演进，支撑了集团内各业务部门的大规模云原生化改造。本文会讲述在这个过程中我们遇到的问题，如何演进和改造，并从中沉淀了哪些经验与最佳实践。 主要内容...
-
无需重启应用，动态采集任意点位日志
作者： 屿山 现实系统往往有着较高的复杂度，我们借助 Trace、Log、Metric 三驾马车使我们的系统具备了一定的可观测性，但观测位置和信息往往是固定的，而我们所遇到的问题常常是意料之外的，这就导致我们能够定位问题的范围，但是难以更进一步，这时候我...
-
自动驾驶系统中相机相对地面的在线标定
本文经自动驾驶之心公众号授权转载，转载请联系出处。 文章：Online Camera-to-ground Calibration for Autonomous Driving 作者：Binbin Li, Xinyu Du, Yao Hu, Hao Yu...
-
人工智能如何增强可观测性
当前的时代背景下，理解怀念过去是可以理解的，但我们正处在这样的环境里，因此，可观测性永远不会和从前一样了。 译自 How AI Can Supercharge Observability 。 最近，可观测性变得越来越复杂，肯定比IT监控的早期阶段要复杂得...
-
从单机到多机的无人机与机器人集群的SLAM综述
本文经自动驾驶之心公众号授权转载，转载请联系出处。 前言 在本系列，我将会更新我的博士毕业论文“Decentralized and Distributed Collaborative Simultaneous Localization and Mapp...