-
eBPF 实践 -- 网络可观测
简介 观测云采集器，是一款开源、一体式的数据采集 Agent，它提供全平台操作系统支持，拥有全面数据采集能力，涵盖基础设施、指标、日志、应用性能、用户访问以及安全巡检等各种场景。通过 eBPF 技术的引入，观测云采集器实践了网络传输层和应用层的部分协议的...
-
iLogtail 开源之路
2022年6月底，阿里云iLogtail代码完整开源，正式发布了完整功能的iLogtail社区版。iLogtail作为阿里云SLS官方标配的采集器，多年以来一直稳定服务阿里集团、蚂蚁集团以及众多公有云上的企业客户，目前已经有千万级的安装量，每天采集数十PB...
-
基于Flume+Log4j+Kafka的日志采集架构方案（上）
Flume是一个完善、强大的日志采集工具，关于它的配置，在网上有很多现成的例子和资料，这里仅做简单说明不再详细赘述。 Flume包含Source、Channel、Sink三个最基本的概念： Source——日志来源，其中包括：Avro Source、...
-
PHP 采集大全 采集原理分析 禁用采集 各种采集方法详解 采集的攻于防 采集性能 应用协议分析
做了N年的PHP，采集了N家数据，由初学者菜鸟，到现在的熟手，采集天猫、淘宝、腾讯、京东、敦煌、Lightinthebox、大龙、zencart、magento、prestashop、opencart、xcart、踏踏。。。。对采集颇有诸多的理解。 现在...
-
Python—WebSocket爬虫实战
1. WebSocket WebSocket 是 HTML5 开始提供的一种在单个 TCP 连接上进行全双工通讯的协议。在 WebSocket API 中，浏览器和服务器只需要做一个握手的动作，然后，浏览器和服务器之间就形成了一条快速通道。两者之间...
-
如何使用代理IP进行数据采集和海外问卷调查
随着全球化的不断发展，越来越多的企业开始关注海外市场。而进行海外数据采集和问卷调查是了解海外市场的重要手段之一。但是，由于许多海外网站或问卷调查平台限制了来自特定地区的访问，因此需要使用代理IP来获取海外数据。在本文中，我们将介绍如何使用代理IP进行海外数...
-
学习爬虫心得体会
什么是爬虫：使用编程语言所编写的一个用于爬取Web或Appd数据的应用程序。 爬虫按照系统结构和实现技术，大致可以分为以下几种类型：通用网络爬虫（General Purpose Web Crawler）、聚焦网络爬虫（Focused Web Crawl...
-
Android网络性能监控方案
背景 移动互联网时代，移动端极大部分业务都需要通过App和Server之间的数据交互来实现，所以大部分App提供的业务功能都需要使用网络请求。如果因为网络请求慢或者请求失败，导致用户无法顺畅的使用业务功能，会对用户体验造成极大影响。 此外，EMAS对外...
-
爬虫概述
文章目录 爬虫相关知识 1.1 爬虫概述 1.2 爬虫语言 1.3 爬虫分类 协议 2.1 OSI七层模型 2.2 HTTP协议与HTTPS协议 2.3 服务器常见端口 爬虫相关知识 1.1 爬虫概述 爬虫, 又称网...
-
Flume数据采集工具之agent
1.Flume介绍 Flume是一个分布式、可靠、和高可用的海量日志采集、汇聚和传输的系统。 Flume可以采集文件，socket数据包（网络端口）、文件夹、kafka、mysql数据库等各种形式源数据，又可以将采集到的数据(下沉sink 输出到HDF...
-
【PHP】Nginx+Php服务器环境部署
Nginx+Php服务器环境部署 1、安装环境及软件版本 1.1 windows版本 10 1.2 php服务版本：php-5.2.17-nts-Win32-VC6-x86 1.3 nginx版本：nginx-1.20...
-
Devops下的分布式监控方案
1基础监控的设计需求 现在devops,云计算，微服务，容器，大数据等理念正在逐步落地和大力发展，企业的服务器越来越多，架构越来越复杂，相应的应用运行基础环境越来越多样化，服务越来越微化，带来的监控压力也越来越大； 如何在错综复杂的监控源里面...
-
Qt编写物联网管理平台45-采集数据转发
一、前言 本系统严格意义上说是一个直连硬件的客户端软件，下面接的modbus协议的设备直接通过网络或者串口和软件通信，软件负责解析数据和存储记录。有时候客户想要领导办公室或者分管这一块的部门经理办公室，也安装一套这样的软件，能够查看到对应设备的数据，一种...
-
爬虫入门（一）：基础知识与原理
前言 一直以来，对爬虫技术都十分向往，虽然是学Java出身，但是很少有编码的机会，因为热爱，想认真学习一下这方面的技术，故用此系列文章来记录自己的学习过程。一方面是提升自己的学习效果，另一方面希望能对同样想学习爬虫技术的同学能提供一些小小的帮助。...
-
Python爬虫入门教程（非常详细）
初学Python之爬虫的简单入门 一、什么是爬虫？ 1.简单介绍爬虫 爬虫的全称为网络爬虫，简称爬虫，别名有网络机器人，网络蜘蛛等等。 网络爬虫是一种自动获取网页内容的程序，为搜索引擎提供了重要的数据支撑。搜索引擎通过网络爬虫技术，...
-
一篇万字博文带你入坑爬虫这条不归路 【万字图文】
?最近，很多粉丝私信我问——爬虫到底是什么？学习爬虫到底该从何下手？? ?其实，我想说的也是曾经的我身为小白的时候某些大牛对我说过的——很多时候我们都有一颗想要学习新知识的心，却总是畏惧于对想要学习内容的无知，这也是多数人失败甚至后悔终身的：因为他们从来...
-
利用Zabbix部署一个简易的MySQL监控系统
GreatSQL社区原创内容未经授权不得随意使用，转载请联系小编并注明来源。 GreatSQL是MySQL的国产分支版本，使用上与MySQL一致。 [toc] 一、Zabbix部署 1.配置Zabbix源 # 1.下载rpm包 rpm -Uv...
-
【多进程】如何使用PHP编写daemon process
PHP 5.3.3 不能使用端口重用 PHP Notice: Use of undefined constant SO_REUSEPORT - assumed 'SO_REUSEPORT' in /soft/b.php on line 96...
-
Nginx 作为web server 的优化要点
常用优化要点 nginx使用的是固定数量的workers, 每个worker都处理进入的请求。最佳实践是每个CPU内核配置一个worker. 如何知道您的系统有几个CPU？ $ grep ^processor /proc/cpuinfo...
-
Python多篇新闻自动采集
昨天用python写了一个天气预报采集，今天趁着兴头写个新闻采集的。 目标是，将腾讯新闻主页上所有新闻爬取下来，获得每一篇新闻的名称、时间、来源以及正文。 接下来分解目标，一步一步地做。 步骤1：将主页上所有链接爬取出来，写到文件里。...
-
64.监控平台介绍 安装zabbix 忘记admin密码
19.1 Linux监控平台介绍 19.2 zabbix监控介绍 19.3/19.4/19.6 安装zabbix 19.5 忘记Admin密码如何做 19.1 Linux监控平台介绍： 常见开源监控软件 ~1...
-
声音采集播放及IIS接口介绍
1、硬件接口 （1）硬件原理图 IIS部分用来传声音和收声音，L3接口部分用来控制声音。 （2）2410和声卡连接图 （3）声音采集 （4）录音和播放 2、IIS （1） 当LRCK是低电平时传输的是左声道数据，是高电平时传...
-
腾讯云容器服务日志采集最佳实践
概述 本文介绍如何利用腾讯云容器服务 TKE 的日志功能对日志进行采集、存储与查询，分析各种功能用法与场景，给出一些最佳实践建议。 注: 本文仅适用于 TKE 集群。 如何快速上手 ? TKE 的日志功能入口在 集群运维-日志规则，更多关...
-
Python爬虫之Scrapy框架系列（1）——初识Scrapy框架【安装+简介+运行流程+组件介绍】
目录： 1.Scrapy模块安装 2.Scrapy框架简介 2.1 Scrapy是个啥？ 2.2 我们为啥要用这玩意呢？ 3.运行流程 3.1 引入： 3.2 进入正题： 3.3 数据流： 3.4 中间件介绍: 3.4.1 下载中间件...
-
工业相机接口和采集卡
采集卡主要是捕获外界光电、视频、音频等模拟信号并将其数字化导入计算机进行数字处理的捕获设备，主要用图像采集卡、视频采集卡、音频采集卡(比如声卡 、数据采集卡等。 采集卡主要应用于视频直播及游戏直播领域。 图像采集卡是机器视觉系统中的一个部件，是一种可以获...
-
SpringCloud 分布式日志采集方案
前言 由于微服务架构中每个服务可能分散在不同的服务器上，因此需要一套分布式日志的解决方案。spring-cloud提供了一个用来trace服务的组件sleuth。它可以通过日志获得服务的依赖关系。 基于sleuth，通过使用ELK(elasti...
-
如何实现车联网的灵活数据采集
随着车联网与 5G 技术的融合以及车辆智能化的发展，车联网的数据采集需求呈现爆发式增长。传统的车辆数据采集主要用于车辆的远程监测和故障诊断。随着车辆应用的丰富和智能化水平的提高，车辆数据采集逐渐应用到更多的场景，如研发用数据采集、数据统计和分析、规则引擎与...
-
JAVA采集数据相关技术攻略
1、 用户登录数据采集 用户登录 采集银行或者其他企业数据 首先需要用户登录利用java语言的URL方法获取登录url 或者使用java的开源工具HTTPClient模拟登录，用到的插件有IE的httpwotch工具和FireFox里的Firebug工具...
-
两万字博文教你python爬虫requests库【详解篇】
?上一篇博文一篇万字博文带你入坑爬虫这条不归路（你还在犹豫什么&抓紧上车） 【❤️熬夜整理&建议收藏❤️】被众多爬虫爱好者/想要学习爬虫的小伙伴们阅读之后，很多小伙伴私信我说——大佬搞爬虫都是用的socket套接字嘛？? ?（苦笑）“...
-
Python网络爬虫数据采集实战：基础知识
今天开始更新爬虫系列笔记，此系列旨在总结回顾常用爬虫技巧以及给大家在日常使用中提供较为完整的技术参考。在进行正式的爬虫之前有必要熟悉以下爬虫的基本概念，例如爬虫的基本原理、网络通信原理以及Web三件套的相关知识等。 目录 一、爬虫原理...
-
SpreadJS 应用案例：电力自动化在线数据采集报表系统
电力自动化在线数据采集报表系统，由南京畅洋科技有限公司自主研发。使用该系统，用户只需简单的配置，便可轻松获取想要的数据。该系统通过嵌入SpreadJS纯前端表格控件，可应对电力系统中针对数据处理的各项需求，让数据变得更有价值。 下面，让我们一起来看看如何...
-
Go语言爬虫：知乎直播间弹幕爬虫分析，ProtoBuf逆向过程分析
使用的工具： Charles、Protoc、Golang 开始分析 依旧老套路，使用Charles进行直播间抓包 发现弹幕数据的传输方式默认使用的是websocket，所以我们在这里使用http 得到初步未解码的protobuf数据...
-
PHP多进程编程
使用PHP真正的多进程运行模式，适用于数据采集、邮件群发、数据源更新、tcp服务器等环节。 PHP有一组进程控制函数(编译时需要 –enable-pcntl与posix扩展 ，使得php能在*nix系统中实现跟c一样的创建子进程、使用exec函数执行程...
-
2020、2021、2022数控机床数据采集方案汇总
一、机床数据采集应用背景 随着当下智能制造和工业4.0的热度发展，同时大数据、边缘计算等技术的兴起，实时记录设备的各类运行数据，成为目前比较火的一个行业，部分厂家仅仅以此为契机，便收获几千万的融资；机床的数据采集，乃至制造业装备系统的数据采集发展，也就...
-
数据采集-呼吸心跳信号检测方法（二）
系列文章目录 《呼吸心跳信号检测方法(一）》 文章目录 前言 一、雷达模块 二、X4M200模块介绍 三、配套软件介绍和具体操作 3.1 XeThruExplorer安装方法 3.2 XeThruExplorer操作介绍 3...
-
网络代理技术：隐私安全与数据采集的双赢
在数字化时代，网络代理技术已经不再是陌生名词。Socks5代理、IP代理等代理技术正在为用户和开发者提供了隐私保护和数据采集的强大工具。本文将深入探讨这些技术的原理和应用，揭示它们在网络安全、爬虫开发以及HTTP通信中的关键作用。 1. Socks5代理...
-
爬虫与浏览器的区别，爬虫产生（出自简书）
一篇文章了解爬虫技术现状 - 简书 https://www.jianshu.com/p/fbdad6f77d0c 需求 万维网上有着无数的网页，包含着海量的信息，无孔不入、森罗万象。但很多时候，无论出于数据分析或产品需...
-
使用scws组件分词和phpanalysis分词类实现简单的php分词搜索
什么是scws： SCWS 是 Simple Chinese Word Segmentation 的首字母缩写（即：简易中文分词系统）。 这是一套基于词频词典的机械式中文分词引擎，它能将一整段的中文文本基本正确地切分成词。 词是中文的最小语素单位，但在...
-
ELK日志采集
ELK 即 Elasticsearch、Logstash、Kibana,组合起来可以搭建线上日志系统，在目前这种分布式微服务系统中，通过 ELK 会非常方便的查询和统计日志情况. 本文以 pigx 的 upms 模块为例 ELK 中各个服务的作用...
-
数据采集、归档、报表
数据采集、归档、报表 数据生产和消费 如何采集 周期和订阅 采集方式： 块数据读取 网络设备： 端口状态 实时流量 设备运行状态 SNMP： 数据归档： 变量管理： 报表服务来源于：历史数据归档的数据访问。 数据整合到大的历史数据归档。 单...
-
使用LIME解释各种机器学习模型代码示例
机器学习模型变得越来越复杂和准确，但它们的不透明性仍然是一个重大挑战。理解为什么一个模型会做出特定的预测，对于建立信任和确保它按照预期行事至关重要。在本文中，我们将介绍LIME，并使用它来解释各种常见的模型。 LIME LIME (Local Inter...
-
网络安全行业需要借鉴“马斯克算法”
今天，我们已经进入一个人工智能和数字化转型驱动的颠覆式创新时代，网络安全不再是企业IT的“成本和摩擦”，相反，网络安全是构建下一代数字基础设施和信息秩序的支点，也是所有科技创新（从药品研发到军工智造）的要素。这意味着传统网络安全技术研发、方案实施、防御体...
-
民调显示:58%美国成年人认为AI将在2024年选举中增加虚假信息
美国联合通讯社（Associated Press）与芝加哥大学哈里斯公共政策学院最新的民调显示，在2024年即将来临之际，人工智能工具的快速发展可能会以前所未有的规模加剧选举中的虚假信息。根据这项民调，几乎六成(58% 的成年人认为人工智能工具会增加明年选...
-
AMD 下一代 APU 路线图更新：Strix Halo「Sarlak」推迟至 2025 年，AI 性能得到显著提升
近日，Moore’s Law Is Dead 分享了关于 AMD 下一代 APU 系列的最新消息。关键亮点是，被称为 Sarlak 或 Strix Halo 的产品现已被安排在 2025 年推出。此外，在 Phoenix 之后，Strix Point 将实...
-
使用Llama index构建多代理 RAG
检索增强生成(RAG 已成为增强大型语言模型(LLM 能力的一种强大技术。通过从知识来源中检索相关信息并将其纳入提示，RAG为LLM提供了有用的上下文，以产生基于事实的输出。 但是现有的单代理RAG系统面临着检索效率低下、高延迟和次优提示的挑战。这些问题...
-
三星预告 Galaxy S24 Ultra 相机配备 AI 图像堆叠和改进的 4K 变焦功能
三星最近发布了一个视频，展示了由高通的新 Snapdragon 8 Gen 3 芯片组驱动的 ISOCELL 200 MP 传感器的新功能。目前市场上还没有配备此类硬件的智能手机，因此这显然是对即将推出的 Galaxy S24 Ultra 的预告。 该...
-
高通发布第三代骁龙8移动平台，为下一代旗舰智能手机带来生成式AI
在今日凌晨的骁龙峰会期间，高通技术公司正式推出全新旗舰移动平台——第三代骁龙®8，它是一款集终端侧智能、顶级性能和能效于一体的强大产品。作为Android旗舰智能手机SoC领导者，高通技术公司的全新平台将在全球OEM厂商和智能手机品牌的终端上得到广泛采用，...
-
自动驾驶传感器融合面临的三大挑战
随着越来越多的自动驾驶汽车难题出现，挑战的难度越来越大。 汽车工业正在将传感器融合作为应对日益增加的自动驾驶汽车所需的复杂性和可靠性的最佳选择，为汽车内部如何管理和利用来自多个设备的数据的另一转变奠定了基础。 事实证明，向更大的自治迈进比起初所期望的要复...