更多>>关于我们

西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲之鹏
陕西 西安

加关注

  • 【视频演示】受客户委托对淘宝APP-淘鲜达店铺商品数据抓取的可行性进行评估。实测可行(销量也可以采集到),如录屏网页版。  西安鲲之鹏的微博视频 ​​​​

    发布时间:2020-02-21 17:44:07
  • 【经验分享】Win8下安装VMware出现"error1316 指定账户已存在"问题的解决

    似乎是之前的安装有注册表残留(在控制面板已安装程序列表里看不到),尝试安装了多次,持续出现"error1316 指定账户已存在"问题,网上有VMware注册表清理工具试了也不管用。

    后来使用Windows Installer CleanUp Utility(Windows Installer 清理实用工具包,简称MSICUU)解决了问题。MSICUU会显示你以前没卸干净的软件列表(如附图1网页版), 然后选择你想完全卸掉的项目 ,卸载了就可以了。

    附MSICUU的下载链接>>> O【Windows Installer CleanUp Utility下载】2...
    发布时间:2020-02-19 17:14:47
  • 【视频】携程酒店价格采集对比工具定制版演示
    该最新定制版(2020年)使用Google Chrome Dev Protocol(非Selenium + webdirver模式)实现,不会暴露navigator.webdriver等各种特征,不容易被识别。
    对比17年的版本:采用的是(Selenium + phantomjs)能够被反爬虫机制识别,关注有虚假价格情况,失败率也高。  西安鲲之鹏的微博视频

    发布时间:2020-02-18 15:24:40
  • 【经验分享】一例正则表达式效率低问题的分析

    一直以来都觉得正则表达式的效率非常高,今天遇到一例正则匹配耗时特长的情况,mark一下。
    目标是判断目标网页(大小约350KB)中是否有符合以下要求的子串:
    "至少要有一个不为'的字符<div class="tips_unresult">"

    想当然的写出了如下的代码:
    re.compile(r'[^\']+<div[^<>]+class="tips_unresult">').search(html)
    测试的时候发现这一步耗时特别长,记了一下时,竟然花了差不多10秒,很是诧异。

    后来试着修改了下正则式,如下:
    re.compile(r'[^\']<div[^<>]+class="tips_unresult">').search(html)
    和第一次的相比,区别在于:这里只匹配"<div..."前面有一个非'字符即可,而第一步是匹配"<div..."前面有一个或多个非'字符。
    这次只用了0.004秒,结果相差了1600多倍!

    PS:[汗]第一次的那个代码在以往一个的爬虫中曾执行过70多万次[汗],以前竟然没有发现问题,还以为时间都花在webkit加载页面上了...这样一算竟然多花了近一周的时间。

    独立的测试代码和运行截图如附图网页版。
    发布时间:2020-02-17 17:57:15
  • 【经验分享】“supervisor实现无限重试”中的坑

    背景:Debian 10系统,Wifi联网,需要实现系统启动时自动启动autossh。
    问题:如果网络未连接成功(例如,Wifi是在用户登录之后才会连接),启动autossh会失败退出。因此不能直接使用rc.local(在网络连接成功之前就执行了)。于是想到使用supervisor,让其不断的重试,当网络连接正常时就autossh就会正常被启动了,配置如附图1网页版。但是发现supervisor最多只重试了3次就放弃了。

    查询supervisor configuration文档(http://supervisord.org/configuration.html?highlight=startretries)得知startretries参数用于控制每次启动的重试次数,默认值是3。

    另外还有一个autorestart参数,如果设置为true,则无条件重启(If true, the process will be unconditionally restarted when it exits, without regard to its exit code.)。但我设置了autorestart为true后,还是只重试了3次。

    为什么呢?在autorestart参数注意事项里看到了如下说明:
    autorestart controls whether supervisord will autorestart a program if it exits after it has successfully started up (the process is in the RUNNING state).

    意思就是说目标program必须成功启动过一次(被标记过为RUNNING状态),autorestart机制才会起作用。

    由于本案例中supervisor服务启动的时候网络连接还没建立成功,所以目标program(autossh)首次启动(3次重试)会失败,这样autorestart机制就没起作用。

    怎么破?
    首先我们要弄清楚supervisor是怎么判断目标程序成功启动了呢。
    在startsecs参数的说明里我们可以看到:
    The total number of seconds which the program needs to stay running after a startup to consider the start successful (moving the process from the STARTING state to the RUNNING state).
    也就是只有目标程序启动保持运行超过startsecs秒才会被认为启动成功了(标记状态为RUNNING)。startsecs默认值是1。本例中autossh由于没有网络连接闪退了,所以supervisor认为其启动失败。

    弄清原理之后,就好办了,我们实现一个这样的脚本:
    (1)先判断网络连接是否正常(可以使用ping),如果不正常则等待10秒(只要超过startsecs值即可)后退出。
    (2)如果网络连接正常,则启动autossh。

    #!/bin/bash

    #
    检测网络是否通畅
    ping -c 1  www.baidu.com
    if [ $? -eq 0 ]
    then
      # 网络正常,启动autossh
      echo "Network is ready"
      sudo /bin/su qi -l -c "/usr/bin/autossh -M 6777 -N -D 127.0.0.1:1080 目标主机SSH参数"
    else
      #
    网络不通,等待11秒后退出
      echo "Network is not ready."
      sleep 11s
      exit 1
    fi

    实测成功。

    附Supervisor Configuration File文档链接:http://supervisord.org/configuration.html
    发布时间:2020-02-15 23:14:20
  • 发布时间:2020-02-14 21:06:44
  • 【经验分享】python2 pip安装frida-tools,在安装prompt-toolkit依赖时出现"No matching distribution found for prompt-toolkit<4.0.0,>=3.0.3 (from frida-tools)"问题(如附图1网页版)的解决。

    问题分析:需要的prompt-toolkit版本是 <4.0.0,>=3.0.3,而python 2库中prompt-toolkit的最高版本才是2.0.10。 查询得知"prompt_toolkit 3.0 requires at least Python 3.6." (来源:https://python-prompt-toolkit.readthedocs.io/en/master/),3.0以后版本需要至少python 3.6。

    怎么破?
    (1)下载frida-tools源码包。
    (2)修改setup.py文件,如附图2网页版,将prompt-toolkit的版本要求去掉。
    (3)sudo python setup.py install。
    发布时间:2020-02-11 18:55:01
  • 【视频演示】受客户委托对淘宝APP直播弹幕数据抓取的可行性进行评估。实测可行,如录屏网页版。  西安鲲之鹏的微博视频 ​​​​

    发布时间:2020-02-11 15:38:51
  • 【经验分享】Linux下如何查看服务器的型号,出厂日期?
    可以使用dmidecode命令查看BIOS信息来实现。
    e.g.
    # 查看机器型号
    sudo dmidecode -s system-product-name
    #
    查看出厂日期
    sudo dmidecode -s bios-release-date

    如图1网页版为我最近折腾的TDE上网本的情况;
    如图2网页版为公司某服务器的情况;
    如图3网页版为阿里云服务器的情况;

    关于dmidecode命令的详细说明见这里 >>> http://t.cn/A6Pemztx
    发布时间:2020-02-08 13:32:58
  • 【经验分享】这两天被冠状病毒困在家,翻出了一台10年前的上网本(TDE山寨货),配置如图1(i686 CPU 1.6GHz,1G RAM)。
    折腾了一下安装各种系统,可能驱动兼容性问题,期间遇到了各种问题,总结如下:

    (1)Chrome OS:
    安装比较顺利,运行也比较流畅,进入系统之后就是一个谷歌浏览器。
    但由于国内无法使用Google相关服务,使用起来比较麻烦,放弃。

    (2)Android系列:
    Bliss OS 下载 32位,安装后无法进入桌面环境。
    PrimeOS,没有32位的版本,无法安装。

    (3)Linux发行版:
    Linux Mint 19.3 cinnamon 32位,进入桌面后巨卡,无法正常使用,后来试了兼容模式启动情况好一些。
    Ubuntu 16.04.6 Desktop i386,安装过程复制文件后期卡死,无后文。
    Debian 10.2.0 i386,赞一个,安装过程很流畅(“配置软件包管理器”那步耗时较长),使用也很流畅。

    最终选定使用Debian 10。
    发布时间:2020-02-08 11:17:45
当前位置:首页 >技术文章 >
用Python实现自动化操作Android手机
发布时间:2018-09-12

一、【必须】安装adb工具

adb全称Android Debug Bridge,是Android系统的调试工具。

下并安装ADB Installer v1.4.3,下载链接:http://pan.webscraping.cn:8000/index.phphtml/s/7kDAJUOmKEa1h4N 安装完成后,启动一个新的cmd窗口,输入adb devices,若无错误提示则表明安装成功。

Ubuntu下安装adb可以参考这篇文章:http://bernaerts.dyndns.org/linux/74-ubuntu/354-ubuntu-xenial-android-adb-fastboot-qtadb)

二、【可选】安装UI Automator Viewer辅助工具

为了使用UI Automator Viewer这个辅助分析工具,我们需要先安装Android SDK,步骤如下:

1. 下载并安装Java 8

2. 下载并安装Google Android SDK

3. 启动Android SDK Manager,选择并安装Android SDK Platform-tools.

4. 双击uiautomatorviewer.bat,启动UI Automator Viewer,点击第二个图标获取设备截图及相关UI信息,如下图网页版。

三、【主角】AndroidViewClient

AndroidViewClient是用纯Python编写的Android应用程序自动测试框架,它不依赖其它程序(例如 monkeyrunner, jython)。AndroidViewClient在底层是通过调用adb命令实现对Android设备的控制,因此在本文的一开始就先介绍了adb的安装。

开始下文之前,假设你已经安装配置好Python运行环境,否则请先安装Python 2.7(注意:AndroidViewClient不兼容Python3)。

1. 安装AndroidViewClient

项目主页:https://github.com/dtmilano/AndroidViewClient

推荐用easy_install安装:

easy_install --upgrade androidviewclient

安装详细说明见这里:https://github.com/dtmilano/AndroidViewClient/wiki#installation

PS:依赖库比较多,安装需要有点耐心。

2. 测试安装是否成功

下载https://github.com/dtmilano/AndroidViewClient/archive/master.zip包,解压并切换到examples目录下,执行python check-import.py,如果没有问题,会输出OK。

3. 写一个例子

实现这样一个功能:

点击屏幕微信图标启动微信,点击第一个联系人/群,发送一个报时消息。

代码如下:

# coding: utf-8
# 点击屏幕微信图标启动微信,点击第一个联系人/群,发送一个报时消息
import sys
import os
import re
import time
from com.dtmilano.android.viewclient import ViewClient
def test():
# 连接手机
device, serialno = ViewClient.connectToDeviceOrExit()
vc = ViewClient(device, serialno)
# 按HOME键
device.press('KEYCODE_HOME')
time.sleep(3)
# 找到微信图标
vc.dump()
weixin_button = vc.findViewWithTextOrRaise(u'微信')
# 点击微信图标
weixin_button.touch()
time.sleep(10)
# 找到第一个联系人/群
# 可以使用UI Automator Viewer查看到对应第一个联系人/群的resource-id为"com.tencent.mm:id/auj"
vc.dump()
group_button = vc.findViewByIdOrRaise("com.tencent.mm:id/auj")
# 点击进群
group_button.touch()
time.sleep(5)
# 找到输入框并输入当前时间
vc.dump()
vc.findViewByIdOrRaise("com.tencent.mm:id/aep").setText('Now:{}'.format(time.strftime('%Y-%m-%d %H:%M:%S')))
time.sleep(3)
# 点击发送按钮
vc.dump()
vc.findViewWithTextOrRaise(u'发送').touch()
if __name__ == '__main__':
test()

4. 高级用法:Culebra的使用

Culebra可以帮助我们自动生成(录制)AndroidViewClient脚本。它提供了一个GUI,当我们通过GUI上操作手机,就会自动产生AndroidViewClient控制脚本模板,我们可以再在这个模板脚本基础上进行修改,实现更复杂的功能。Culebra的详细说明见其主页:https://github.com/dtmilano/AndroidViewClient/wiki/culebra

我们来做一个测试,录制一个”点击微信聊天文字输入框,然后输入一段文本test"操作的脚本: 首先启动Culebra(culebra文件位于AndroidViewClient包的tools目录下,我把后缀名改成.py了),命令如下:

python culebra.py -G --scale 0.5

如下网页版为完成操作之后的Culebra的GUI截图:

下面为Culebra自动录制的脚本:

#! /usr/bin/env python
# -*- coding: utf-8 -*-
import reimport sys
import os
from com.dtmilano.android.viewclient import ViewClient
TAG = 'CULEBRA'
_s = 5
_v = '--verbose' in sys.argv
kwargs1 = {'ignoreversioncheck': False, 'verbose': False, 'ignoresecuredevice': False}
device, serialno = ViewClient.connectToDeviceOrExit(**kwargs1)
kwargs2 = {'forceviewserveruse': False, 'useuiautomatorhelper': False, 'ignoreuiautomatorkilled': True, 'autodump': False, 'debug': {}, 'startviewserver': True, 'compresseddump': True}
vc = ViewClient(device, serialno, **kwargs2)
#vc.dump(window='-1') # FIXME: seems not needed
vc.dump(window=-1)
no_id1 = vc.findViewByIdOrRaise("id/no_id/1")
no_id1 = vc.findViewWithContentDescriptionOrRaise(u'''当前所在页面,与家好月圆(19)的聊天''')
com_tencent_mm___id_ds5 = vc.findViewByIdOrRaise("com.tencent.mm:id/ds5")
com_tencent_mm___id_cgo = vc.findViewByIdOrRaise("com.tencent.mm:id/cgo")
com_tencent_mm___id_ts = vc.findViewByIdOrRaise("com.tencent.mm:id/ts")
com_tencent_mm___id_iz = vc.findViewByIdOrRaise("com.tencent.mm:id/iz")
com_tencent_mm___id_j0 = vc.findViewByIdOrRaise("com.tencent.mm:id/j0")
com_tencent_mm___id_j0 = vc.findViewWithContentDescriptionOrRaise(u'''关注''')
com_tencent_mm___id_j1 = vc.findViewByIdOrRaise("com.tencent.mm:id/j1")
com_tencent_mm___id_j1 = vc.findViewWithTextOrRaise(u'家好月圆(19)')
com_tencent_mm___id_iw = vc.findViewByIdOrRaise("com.tencent.mm:id/iw")
com_tencent_mm___id_iw = vc.findViewWithContentDescriptionOrRaise(u'''聊天信息''')
no_id9 = vc.findViewByIdOrRaise("id/no_id/9")
no_id10 = vc.findViewByIdOrRaise("id/no_id/10")
com_tencent_mm___id_lz = vc.findViewByIdOrRaise("com.tencent.mm:id/lz")
no_id12 = vc.findViewByIdOrRaise("id/no_id/12")
# ......
# 省略多行类似代码
# ......
com_tencent_mm___id_aen = vc.findViewWithContentDescriptionOrRaise(u'''切换到按住说话''')
com_tencent_mm___id_aeo = vc.findViewByIdOrRaise("com.tencent.mm:id/aeo")
com_tencent_mm___id_aep = vc.findViewByIdOrRaise("com.tencent.mm:id/aep")
com_tencent_mm___id_aer = vc.findViewByIdOrRaise("com.tencent.mm:id/aer")
com_tencent_mm___id_aer = vc.findViewWithContentDescriptionOrRaise(u'''表情''')
com_tencent_mm___id_aeu = vc.findViewByIdOrRaise("com.tencent.mm:id/aeu")
com_tencent_mm___id_aeu = vc.findViewWithContentDescriptionOrRaise(u'''更多功能按钮,已折叠''')
vc.findViewByIdOrRaise("com.tencent.mm:id/aep").setText(u"test")
vc.sleep(_s)
vc.dump(window=-1)

在相同窗口环境下执行该脚本就可以自动重复上述操作。

四、参考资料

特别说明:本文旨在技术交流,请勿将涉及的技术用于非法用途,否则一切后果自负。如果您觉得我们侵犯了您的合法权益,请联系我们予以处理。
☹ Disqus被Qiang了,之前所有的评论内容都看不到了。如果您有爬虫相关技术方面的问题,欢迎发到我们的问答平台:http://spider.snutzpark.com/
QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询