-
IDEA插件 Github Copilot无法授权出现“waiting for github authentication”的解决方法
Github Copilot这个插件十分好用，不仅能自动补全代码，写注释也是极其方便的。当安装这个插件时可能会遇到无法授权的问题，即出现waiting for github authentication，一直在走进度条的问题，根据老办法我们可以安装旧版本的...
-
【个人笔记本】本地化部署详细流程 LLaMA中文模型：Chinese-LLaMA-Alpaca-2
不推荐小白，环境配置比较复杂 全部流程 下载原始模型：Chinese-LLaMA-Alpaca-2 linux部署llamacpp环境 使用llamacpp将Chinese-LLaMA-Alpaca-2模型转换为gguf模型 windows部署...
-
还没有上手Stable Diffusion XL 1.0 的同学，看这篇文章就够了
Midjourney虽然出图精美，使用方便，但是出图的灵活性方面是一大硬伤，Stable Diffusion 作为Midjourney的开源替代品，由于其丰富的插件，灵活可控，受到社区的热捧，一直被寄予厚望，这次Stable Diffusion发布了 XL...
-
[LLM+AIGC] 01.应用篇之中文ChatGPT初探及利用ChatGPT润色论文对比浅析（文心一言 | 讯飞星火）
近年来，人工智能技术火热发展，尤其是OpenAI在2022年11月30日发布ChatGPT聊天机器人程序，其使用了Transformer神经网络架构（GPT-3.5），能够基于在预训练阶段所见的模式、统计规律和知识来生成回答，还能根据聊天的上下文进行互动，...
-
NLP-分词器：SentencePiece【参考Chinese-LLaMA-Alpaca在通用中文语料上训练的20K中文词表并与原版LLaMA模型的32K词表进行合并的代码】
背景 随着ChatGPT迅速出圈，最近几个月开源的大模型也是遍地开花。目前，开源的大语言模型主要有三大类：ChatGLM衍生的大模型（wenda、ChatSQL等）、LLaMA衍生的大模型（Alpaca、Vicuna、BELLE、Phoenix、Chim...
-
AI工具 ChatGPT-4 vs Google Bard ， PostgreSQL 开发者会pick谁？
在人工智能 (AI 进步的快节奏世界中，开发人员正在寻找最高效和突破性的解决方案来加快和提高他们的工作质量。对于 PostgreSQL 开发人员来说，选择理想的 AI 支持的工具以最专业的方式解决他们的查询至关重要。 近年来，人工智能工具的普及率飙升，...
-
人工智能推动“电脑嗅觉”用于昆虫控制
机器嗅觉初创公司Osmo于2023年1月成立，获得由Lux Capital和Google Ventures领投的 6000万美元A轮资金。Osmo将机器学习、数据科学、心理物理学、嗅觉神经科学、电气工程和化学融合在一种多学科的气味数字化方法中。 Osm...
-
华人团队获最佳论文、最佳系统论文，CoRL获奖论文出炉
自 2017 年首次举办以来，CoRL 已经成为了机器人学与机器学习交叉领域的全球顶级学术会议之一。CoRL 是面向机器人学习研究的 single-track 会议，涵盖机器人学、机器学习和控制等多个主题，包括理论与应用。 2023 年的 CoRL 大会...
-
【AIGC使用教程】Notion AI 从注册到体验：如何免费使用
欢迎关注【AIGC使用教程】 专栏 【AIGC使用教程】SciSpace 论文阅读神器【AIGC使用教程】Microsoft Edge/Bing Chat 注册使用完全指南【AIGC使用教程】GitHub Copilot 免费注册及在 VS Code...
-
各种文字生成图片的AIGC模型（openAI、谷歌、stable、Midjourney等）
1 前言 AIGC，全名“AI generated content”，又称生成式AI，意为人工智能生成内容。例如AI文本续写，文字转图像的AI图、视频等。 本文主要描述文字生成图片的模型。而且目前扩散模型（Diffusion Models）流行，所以下...
-
AIGC技术发展和应用方向
AIGC（Artificial Intelligence Generated Content）是指通过人工智能技术生成的各种文本、图像、音频和视频等多媒体内容。AIGC技术是机器学习和自然语言处理等技术的结合，通过对海量数据的学习和分析，可以让计算机模拟人...
-
AI初创公司Anthropic与谷歌扩大合作，将使用谷歌芯片
在最近的一份报道中，人工智能初创公司Anthropic宣布将成为首批使用Alphabet Inc.旗下Google最新芯片的公司，进一步扩大了他们在最近的云计算协议之后的合作。 Anthropic计划部署Google的Cloud TPU v5e芯片来支持其...
-
打开stable diffusion webui时，提示缺少clip或clip安装不上的解决方案（windows下的操作）
1.问题描述 打开stable diffusion webui时，提示缺少clip或clip安装不上 2.解决方案 原因：stable diffusion webui环境中的clip其实是open_clip，不能用pip install clip...
-
北大具身智能团队提出需求驱动导航，对齐人类需求，让机器人更高效
如果想让机器人帮助你，你通常需要下达一个较为精准的指令，但指令在实际中的实现效果不一定理想。如果考虑真实环境，当要求机器人找某个特定的物品时，这个物品不一定真的存在当前的环境内，机器人无论如何也找不到；但是环境当中是不是可能存在一个其他物品，它和用户要求...
-
万字长文：Stable Diffusion 保姆级教程
万字长文：Stable Diffusion 保姆级教程 2022年绝对是人工智能爆发的元年，前有 stability.ai 开源 Stable Diffusion 模型，后有 Open AI 发布 ChatGPT，二者都是里程碑式的节点事件，其重要性不...
-
谷歌承包商员工投票成立工会：希望维护自己的权益
2018年11月1日，作为全球工作场所问题抗议活动的一部分，一些员工在谷歌的英国分支机构抗议 据外媒报道，谷歌一家承包商的员工日前投票成立了一个工会，其中一些成员曾参与谷歌搜索和AI聊天机器人Bard的开发和服务。 这些员工来自谷歌的一家承包商埃森哲，...
-
AIGC实战——深度学习 (Deep Learning, DL)
AIGC实战——深度学习 0. 前言 1. 深度学习基本概念 1.1 基本定义 1.2 非结构化数据 2. 深度神经网络 2.1 神经网络 2.2 学习高级特征 3. TensorFlow 和 Keras 4. 多层感知器 (MLP ...
-
使用 GitHub Copilot 自动化测试
代码完成并不是什么新鲜事。像 IntelliSense 这样的工具已经允许开发人员通过尝试自动完成他们正在编写的函数或语句的名称来提高工作效率，但是可用的工具只有一定程度的实际“智能”可用。随着 GitHub 的 Copilot 的有限发布，他们正在利用...
-
「我的AIGC咒语库：分享和AI对话交流的秘诀——如何利用Prompt和AI进行高效交流？」
文章目录 每日一句正能量 前言 基础介绍 什么是Prompt? 什么是 Prompt Engineering？ 为什么需要 Prompt Engineering？ 如何进行 Prompt Engineering？ Prompt的基本原则 Pro...
-
MoE：LLM终身学习的可能性
性质 说明 知识记忆（knowledge retention） √ LLM预训练后，具备世界知识，小规模finetune不易对LLM造成遗忘灾难。但大规模数据续训会造成。 前向迁移（forward...
-
AI插件诱导注入数据外泄漏洞曝光 攻击者可以将恶意指令注入Google Bard
近期，Google Bard推出了强大的扩展功能，使其能够访问YouTube、搜索航班和酒店，以及用户的个人文档和电子邮件。然而，这也为潜在的安全漏洞敞开了大门。 国外一博主介绍了一种称为间接提示注入的攻击方法，利用这一漏洞，攻击者可以将恶意指令注入Goo...
-
MySQL server has gone away 问题的解决方法
我的原因是数据库导出之后，从新导入新库sql语句太长 set interactive_timeout=24*3600 mysql出现ERROR : (2006, 'MySQL server has gone away' 的问题意思就是指clien...
-
防止网页被搜索引擎爬虫和网页采集器收录的方法汇总
防止网页被搜索引擎爬虫和网页采集器收录的方法汇总 博客分类： 搜索引擎，爬虫 最常规的防止网页被搜索引擎收录的方法是使用robots.txt，但是这样做的弊端是要将所有已知的搜索引的爬虫信息都罗列进去，难免有疏漏。下面的这些方法是可以标本兼治的...
-
python3反爬虫原理与绕过实战 网盘_Python 3反爬虫原理与绕过实战
第 1章 开发环境配置 1 1.1 操作系统的选择 1 1.1.1 Ubuntu 简介 1 1.1.2 VirtualBox 的安装 2 1.1.3 安装 Ubuntu 3 1.1.4 全屏设置 8 1.1.5 Python...
-
Android网络性能监控方案
背景 移动互联网时代，移动端极大部分业务都需要通过App和Server之间的数据交互来实现，所以大部分App提供的业务功能都需要使用网络请求。如果因为网络请求慢或者请求失败，导致用户无法顺畅的使用业务功能，会对用户体验造成极大影响。 此外，EMAS对外...
-
网站数据统计分析之二：前端日志采集是与非
在上一篇《网站数据统计分析之一：日志收集原理及其实现》中，咱们详细的介绍了整个日志采集的原理与流程。但是不是这样在真实的业务环境中就万事大吉了呢？事实往往并非如此。比如针对前端采集日志，业务的同学经常会有疑问：你们的数据怎么和后端日志对不上呢？后端比你们多...
-
08 | 数据采集：如何自动化采集数据？
上一节中我们讲了如何对用户画像建模，而建模之前我们都要进行数据采集。数据采集是数据挖掘的基础，没有数据，挖掘也没有意义。很多时候，我们拥有多少数据源，多少数据量，以及数据质量如何，将决定我们挖掘产出的成果会怎样。 举个例子，你做量化投资，基于大数据预测未来...
-
python爬虫大作业
Python爬虫大作业 一、大作业要求 结合所选专业方向（信息处理、嵌入式、人工智能、大数据处理），用所学Python技术设计并实现一个与专业方向技术相关的、功能完整的系统，并撰写总结报告。 实现要求： （1）实现时必须涵盖以下技术： 图形界面、...
-
【爬虫篇】根据网站的robots.txt文件判断一个爬虫是否有权限爬取这个网页
使用robotparser模块来解析robots.txt文件，该模块提供了一个RobotFileParser，它可以根据网站的robots.txt文件判断一个爬虫是否有权限爬取这个网页。 语法： urllib.robotparser.RobotFile...
-
爬虫概念与概述
1. 爬虫概述 1.1 爬虫概念 爬虫又被称为网页蜘蛛、网络机器人，有时也被称为网页追逐者，是一种按照一定的规则，自动地抓取互联网上网页中相应信息（文本、图片等）的程序或脚本，然后把抓取的信息存储到自己的计算机上。简单来说，爬虫就是抓取目标网站内容...
-
爬虫概述
文章目录 爬虫相关知识 1.1 爬虫概述 1.2 爬虫语言 1.3 爬虫分类 协议 2.1 OSI七层模型 2.2 HTTP协议与HTTPS协议 2.3 服务器常见端口 爬虫相关知识 1.1 爬虫概述 爬虫, 又称网...
-
NodeJs爬虫框架-Spider
gz-spider 一个基于Puppeteer和Axios的NodeJs爬虫框架 源码仓库 为什么需要爬虫框架 爬虫框架可以简化开发流程，提供统一规范，提升效率。一套优秀的爬虫框架会利用多线程，多进程，分布式，IP池等能力，帮助开发者快速开发出易...
-
网络爬虫是否合法？
网络爬虫合法吗？ 网络爬虫领域目前还属于早期的拓荒阶段，虽然互联网世界已经通过自身的协议建立起一定的道德规范（Robots协议），但法律部分还在建立和完善中。从目前的情况来看，如果抓取的数据属于个人使用或科研范畴，基本不存在问题；而如果数据属于商业盈利...
-
开源网站访问统计系统Piwik的基本使用
#piwik简介# 最近试用了开源的网站访问统计系统——piwik，觉得功能非常强大，一点不输于商业产品百度统计与google analysis，替代他们完全没有问题。 关于piwik的简介可以去piwik的官网( http://piwik.org ...
-
python爬虫 爬取网页图片
想要爬取指定网页中的图片主要需要以下三个步骤： （1）指定网站链接，抓取该网站的源代码（如果使用google浏览器就是按下鼠标右键 -> Inspect-> Elements 中的 html 内容） （2）根据你要抓取的内容设置正则...
-
高德Android高性能高稳定性代码覆盖率技术实践
前言 代码覆盖率(Code coverage 是软件测试中的一种度量方式，用于反映代码被测试的比例和程度。 在软件迭代过程中，除了应该关注测试过程中的代码覆盖率，用户使用过程中的代码覆盖率也是一个非常有价值的指标，同样不可忽视。因为伴随着业务扩展和功能...
-
视频直播相机采集篇
这是一篇以前的开发笔记，当时5.0以下的系统占比还不少，所以使用了旧的Camera Api。 下面是正文： 虽然从API21开始Google已经推出了一套新的Camera Api，但是鉴于目前还有很多手机运行在Api 21之下,SDK仍使用旧版本的Ap...
-
网络爬虫是干什么的？有哪些应用场景？
不知道大家对于Google、百度这种搜索引擎的工作原理都了解多少，搜索引擎的首要工作流程就是利用网络爬虫去爬取各个网站的页面。 以百度蜘蛛为例，一旦有网站的页面更新了，百度蜘蛛就会出动，然后把爬取的页面信息搬回百度，再进行多次的筛选和整理。最终在大家搜索...
-
python自动化爬虫实战
python自动化爬虫实战 偶然的一次机会再次用到爬虫，借此机会记录一下爬虫的学习经历，方便后续复用。 需求：爬取网站数据并存入的csv文件中，总体分为两步 爬取网站数据 存到到csv文件中 1、配置爬虫环境 1.1、下载自动...
-
爬虫到底合不合法？
文章目录 前言 一、爬虫 爬虫产生的背景 爬虫是什么？ 二、Robots协议 定义 位置 查看方式 三、具体案例分析 爬虫行为 反爬措施 爬取内容 四、爬虫涉及到的相关法律规定 非法获取计算机系统数据罪 侵犯商业秘密罪 非法侵入计...
-
Python 反爬虫与反反爬虫
✅作者简介：人工智能专业本科在读，喜欢计算机与编程，写博客记录自己的学习历程。 ?个人主页：小嗷犬的博客 ?个人信条：为天地立心，为生民立命，为往圣继绝学，为万世开太平。 ?本文内容：Python 反爬虫与反反爬虫 Python 反爬虫与...
-
【转】社会化海量数据采集爬虫框架搭建
随着BIG DATA大数据概念逐渐升温，如何搭建一个能够采集海量数据的架构体系摆在大家眼前。如何能够做到所见即所得的无阻拦式采集、如何快速把不规则页面结构化并存储、如何满足越来越多的数据采集还要在有限时间内采集。这篇文章结合我们自身项目经验谈一下。...
-
Python爬虫入门教程（非常详细）
初学Python之爬虫的简单入门 一、什么是爬虫？ 1.简单介绍爬虫 爬虫的全称为网络爬虫，简称爬虫，别名有网络机器人，网络蜘蛛等等。 网络爬虫是一种自动获取网页内容的程序，为搜索引擎提供了重要的数据支撑。搜索引擎通过网络爬虫技术，...
-
Python爬虫入门教程！手把手教会你爬取网页数据
其实在当今社会，网络上充斥着大量有用的数据，我们只需要耐心的观察，再加上一些技术手段，就可以获取到大量的有价值数据。这里的“技术手段”就是网络爬虫。今天就给大家分享一篇爬虫基础知识和入门教程： 什么是爬虫？ 爬虫就是自动获取网页内容的程序，例如搜索引擎...
-
数据采集
数据分析的前提就是数据的数量和质量。今天介绍几种数据源和数据的采集方式。 从数据采集角度，数据源分为开放数据源、爬虫抓取、日志采集、传感器，四类数据源。 开放数据源和爬虫听得比较多（主要是我听得比较多），所以简单说一下传感器和日志采...
-
Python爬虫 爬虫需要遵守的规则
Python爬虫（二十） 学习Python爬虫过程中的心得体会以及知识点的整理，方便我自己查找，也希望可以和大家一起交流。 —— 爬虫需要遵守的规则 —— 文章目录 Python爬虫（二十） —— 爬虫需要遵守的规则 —— 网...
-
聊聊4种类型的爬虫技术
聊聊4种类型的爬虫技术 1、聚焦爬虫 2、通用爬虫技术 3、增量爬虫技术 4、深层网络爬虫技术 网络爬虫是一种很好的自动采集数据的通用手段 聚焦爬虫是“面向特定主题需求”的一种爬虫程序，而通用网络爬虫测试搜索引擎抓取系统（B...
-
通用爬虫和聚焦爬虫的区别
根据使用场景网络爬虫可分为通用爬虫和聚焦爬虫两种。 1 通用爬虫 通用网络爬虫是捜索引擎抓取系统（Baidu、Google、Yahoo等）的重要组成部分。主要目的是将互联网上的网页下载到本地，形成一个互联网内容的镜像备份。 1.1 目标 把互联...
-
主流爬虫框架的基本介绍
1 、Scrapy: Scrapy，Python开发的一个快速、高层次的屏幕抓取和web抓取框架，用于抓取web站点并从页面中提取结构化的数据。Scrapy用途广泛，可以用于数据挖掘、监测和自动化测试. Scrapy吸引人的地方在于它是一个框架，任何人...
-
数据采集实战（一）-
概述 最近在学习python的各种数据分析库，为了尝试各种库中各种分析算法的效果，陆陆续续爬取了一些真实的数据来。 顺便也练习练习爬虫，踩了不少坑，后续将采集的经验逐步分享出来，希望能给后来者一些参考，也希望能够得到先驱者的指点！ 采集工具 其...