-
1张Nvidia A100 80G部署Lamma3 70b 4bit的性能测试
这里写自定义目录标题 硬件 部署模型 硬件性能监控工具 GPU监控工具 CPU和系统内存监控工具 部署框架 命令 测试脚本与结果 输出定量token测试 prompt 脚本 Test Result 输入定量token测试 prom...
-
LLaMA-Factory：手把手教你从零微调大模型！
引言 随着人工智能技术的飞速发展，大型语言模型（LLM）在自然语言处理（NLP）领域扮演着越来越重要的角色。然而，预训练的模型往往需要针对特定任务进行微调，以提高其在特定领域的性能。LLaMA-Factory作为一个高效、易用的微调工具，为广大开发者提...
-
SidebarDiagnostics体验报告：高效便捷，电脑硬件监控新利器，你确定不进来了解一下？
前言 嘿，各位小伙伴们，我是小江湖！今天我要给你们安利一款超级炫酷的软件！你是不是经常好奇自己的电脑到底在卖力工作还是偷偷打盹呢？哈哈，我也是！所以，当我发现这款宝藏软件时，简直是眼前一亮，心里那个激动啊，就像找到了失散多年的宝藏一样！ 这款软件啊，...
-
14个Flink SQL性能优化实践分享
本文分享自华为云社区《Flink SQL性能优化实践》 ，作者：超梦。 在大数据处理领域，Apache Flink以其流处理和批处理一体化的能力，成为许多企业的首选。然而，随着数据量的增长，性能优化变得至关重要。本文将深入浅出地探讨Flink SQL的常...
-
什么情况下会出现Redis的内存溢出问题？有哪些解决方法？
Redis内存溢出问题通常是由以下几种情况引起的： 数据量过大：如果Redis中存储的数据量超过了服务器可用内存的限制，就会导致内存溢出问题。这可能是因为业务量增长、存储的数据类型变多或者数据量突然增加而导致的。 内存碎片化：Redis使用内存分配器来管...
-
2024年，开源AI潜力更大？
开源（OS）正在驱动生成式 AI 的创新。得益于像 GitHub 和 Hugging Face 等学术研究平台，我们得以见证 AI 技术的蓬勃发展。但值得注意的是，OpenAI、Anthropic 等越来越多的科技公司选择不公开模型的代码和权重。 指责大...
-
机器学习 - 混淆矩阵：技术与实战全方位解析
本文深入探讨了机器学习中的混淆矩阵概念，包括其数学原理、Python实现，以及在实际应用中的重要性。我们通过一个肺癌诊断的实例来演示如何使用混淆矩阵进行模型评估，并提出了多个独特的技术洞见。文章旨在为读者提供全面而深入的理解，从基础到高级应用。...
-
分享Docker监控体系（Kubernetes Mesos监控）
分享Docker监控体系（Kubernetes Mesos监控） 博客分类： dubbo mesos PS：监控系统是整个运维环节,乃至整个产品生命周期中最重要的一环。 监控的价值与体系 在运维体系中， 监控是非常重要的组成部分。通过...
-
实战｜网站监控如何做好监测点管理与内网数据采集
本文主要讲述了使用监控宝做网站监控时如何管理其中的监测点，以及如何做内网数据的采集管理。包括如何管理监测点以及查看并管理监测点分组下的监控任务，内网数据采集器运行需要的环境说明，如何下载、解压内网数据采集器以及如何配置采集器端口。 监测点管理 配置入口...
-
用SkyWalking监控MySQL（一）工具与方案
本文适用于SkyWalking v9.1.0。 SkyWalking简介 SkyWalking是一个分布式系统的应用程序性能监视（APM）工具，专为微服务、云原生架构和基于容器（K8s）架构而设计。当前版本具备了全路径跟踪、指标采集、日志记录等功能...
-
Nginx 作为web server 的优化要点
常用优化要点 nginx使用的是固定数量的workers, 每个worker都处理进入的请求。最佳实践是每个CPU内核配置一个worker. 如何知道您的系统有几个CPU？ $ grep ^processor /proc/cpuinfo...
-
利用Java的日志框架监控系统运行情况
在Java应用程序开发中，监控系统的运行情况是非常重要的。通过日志框架记录关键信息、异常和性能指标，可以及时捕获问题，进行故障排除，并优化系统性能。下面将介绍如何利用Java的日志框架监控系统运行情况，并提供一些实践技巧和经验。 一、选择适合的日志框架...
-
OpenAI 宣布成立新团队以评估和防范人工智能模型可能带来的「灾难性风险」
OpenAI 今天宣布，已成立一个名为「准备组」（Preparedness）的新团队，由麻省理工学院可部署机器学习中心的主任亚历山大·马德里（Aleksander Madry）领导，以评估、检测并预防人工智能模型可能导致的「灾难性风险」。 据 Linke...