安装步骤 安装完成node.js后,我们需要一个编辑器来进行代码的编写。 目前我觉得比较好用的一个是vscode,一个是webstorm。 这两个我比较推荐使用vscode,因为webstorm有一个很致命的问题,就是他的终端不能解析一些编码格式的内容,比如说表情,就会导致非常的难受。 并且vscode免费,而webstorm是付费的,高下立判。 百度搜索v
Tag
Node.js
安装步骤 首先,既然学爬虫,那么其实最重要的一点就是要安装node.js。 这里我用的是Windows系统,重新用虚拟机开了一个全新的windows10系统。 然后我们百度搜一下nvm,然而其实并没有找到直接的下载地址,唯一的一个GitHub是Linux的。 操作截图 所以我们直接打开GitHub,在GitHub上找一下。 不错,找到了windows版本的n
教程说明 目前有想法做一套简单的node.js的爬虫教程。 其实这是因为目前node.js的爬虫教程有点少,但是node.js写爬虫其实效果还是非常不错的。所以本着技术共享,共同提升的想法,准备简单的出一套node.js的爬虫教程。 首先其实简单说一下,如果是前端想要学爬虫,我建议学node.js来做爬虫,这是因为node.js是使用的v8引擎,直接用Jav
其实这个报错非常恶心人,如果是入库等程序一般不会遇到,但是如果是请求网页的进程,很容易就遇到了,然后就会心跳超时,之后就会重启消费者,重新执行eachMessage函数,但是之前的eachMessage函数依然在执行,会导致eachMessage越来越多然后卡死。 这里是两篇遇到这个问题的文章,第一个解决的方法是 HOW TO RESOLVE THIS IS
问题记录 微信小程序反编译遇到Read file error: Error: EISDIR: illegal operation on a directory, read怎么办? 这个其实就是反编译分包的时候用的bingo.bat文件,我们应该使用node wuWxapkg.js进行反编译。 node wuWxapkg.js s=主包位置 分包 然后就可以将
操作步骤 微信小程序反编译 需要使用到的工具wxappUnpacker,node.js 其中wxappUnpacker关注公众号Kisger的工作台,并回复wxappUnpacker即可获取下载地址。 首先将wxappUnpacker以下简称wx解压缩,然后输入npm install将对应的node.js模块下载下来。 之后我们需要利用到的是wuWxapkg
1\. cookie获取 1.1 cookie 首先是cookie,这个想必大家都知道,我们登录一个网站后,再次访问如果不需要输入密码的话,那么就是cookie的帮助了.所以我们如果需要上传文件,那么就需要使用cookie. 1.2 获取 既然cookie这么重要,那么应该怎么获取呢?大多数的网站,都是通过客户端发送账号密码到服务器,然后服务器返回setco
最简单的方法就是cd/node\moudle/puppeteer 然后npm run install即可. 千万不要设置环境变量 PUPPETEER\SKIP\DOWNLOAD=true npm install puppeteer 因为你设置了他会跳过,只需要进入puppeteer路径,进行安装就可以了. 再就是安装后可能会报错.需要安装几个包才可以使用.
操作步骤 首先是更新服务器的apt,然后安装npm,全局更新npm版本到最新或者指定版本npm install g npm@xx.xx.xx,之后全局安装n,再用n安装node,我一般都是指定版本 n xx.xx.x,然后hash r就可以正常使用了
问题记录 不断的把写好的项目部署到服务器进行测试,每一次都要重新对服务器进行配置,非常的烦。 在我的日常使用中,发现一个非常致命的问题,就是newPage会冻结。用通俗的话来表示那么就是会卡死。 这样是非常影响进度的,因为你不知道他会什么时候卡死,如果是正好下班的时候,卡死了,那么只有等到第二天上班才能重新启动,这就令人非常烦躁。 然后本来其实我是以为是服务
问题记录 发现服务器上跑的进程进场会卡死,必须要手动重启一下才行,一开始以为是服务器配置不行,但是后来一想,我之前运行的代码一直在跑着也没出什么事情,为啥这次就不行了呢? 于是仔细地检查了一下,发现了一个问题。 可以持续运行的代码是只执行了一次puppeteer.lanuch,而不可以持续运行的代码是执行一次后关闭重启再执行,这样的话,启动可能会造成资源的浪
报错信息 报错信息: 错误日志 将跑的数据加进excel中,发现出现了MarkCompactCollector: young object promotion failed Allocation failed JavaScript heap out of memory这个问题,于是百度查了好久,最后找到了一个不算方法的方法。 https://support.
前两天了解到了nodered,一个低代码平台。 简单测试了一些功能感觉挺不错的,于是尝试将部分代码移植到nodered上。 安装 我是先百度查了一下,感觉可以用docker来安装这个nodered,所以我就用的docker。 其实还是因为这一篇文章,所以选择的docker,具体安装推荐百度查一下。 docker pull nodered/nodered 安装
问题记录 在用nodejs向MySQL插入数据的时候,获取返回值发现insertid一直是0,然后再获取的时候会获得比最新小1的值,比如说最新插入的值为1122,获取的id就是1121。 后来发现是因为获取id的时候,没有等待query执行完成就获取id了,而我们应该等待query执行完成后再获取id,这样才能获取到当前id。 但是当时给query加上awa