更多>>关于我们

西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲之鹏
陕西 西安

加关注

  • 【经验分享】PC通过使用“远程ADB”(ADB over network)时连接设备时出现“unauthorized”,且设备不出现授权对话框问题的解决方法:
    (1)ADB客户端和服务端(安卓设备的adbd服务)之间的权鉴是通过公钥私钥对比进行的;
    (2)如果安卓设备保存有ADB客户端的公钥(Linux:  ~/.android/adbkey.pub, Windows: C:\Users\Administrator\.android\adbkey.pub),则直接通过验证。
    (3)如果安卓设备没有ADB客户端的公钥,则弹出"Allow USB debugging?对话框",如果选择同意,则授权通过并自动保存客户端公钥到指定位置(保存于/data/misc/adb/adb_keys文件内)。
    (4)"Allow USB debugging?对话框"只在通过USB连接设备的时候才会出现,“远程ADB”(ADB over network)模式不会出现,这样就无法像USB连接模式那样进行授权。
    (5)只要我们事先把ADB客户端的公钥文件adbkey.pub复制到设备的/data/misc/adb/adb_keys文件内,重启ADB客户端,重连设备,将会自动通过验证。

    上述步骤笔者在Bliss OS 下载 系统下进行过多次实测。
    发布时间:2020-01-19 19:35:14
  • 【经验分享】Bliss OS 下载系统如何开启自动开始“远程ADB”(ADB over network)?
    在开发者选项中可以手动开启“ADB over network”,但是重启后会自动关闭(This setting is reset on reboot)。
    解决方法:
    在/etc/init.sh中加入
    setprop service.adb.tcp.port 5555
    stop adbd
    start adbd

    重启后“ADB over network”将会自动启动!

    PS:原生的Android 下载系统默认情况下开机“ADB over network”就是开启的,不需要像Bliss OS这样的额外设置。
    发布时间:2020-01-17 14:05:28
  • 【经验分享】Android 下载模拟器如何修改屏幕分辨率大小?
    目的:设置屏幕分辨率为 1080x1920
    方法:
    (1) Alt + F1,切换到终端模式;
    (2) su,获取root权限;]
    (3)执行wm size 1080x1920,再按Alt + F7关注图形界面即可;

    如果想要在启动的时候自动设置,可以把上述命令添加到/etc/init.sh中,Bliss OS中亲测有效。
    发布时间:2020-01-15 12:59:26
  • 【经验分享】“KVM(QEMU) + Bliss OS 下载 + MockLocation APP"打造支持虚拟定位的Android模拟器,用于APP数据采集小试牛刀: 采集某外卖平台数据。
    MockLocation APP是什么?  详见我这篇文章 >>> http://www.snutzpark.com/html/articles/20200110/777.html ​​​​
    发布时间:2020-01-13 10:59:56
  • 【经验分享】推荐一款开源Android 下载系统Bliss OS (下载),项目主页是https://blissroms-下载.github.io/

    经过实测我觉得Bliss有如下优点:
    (1) 比原生的Android 下载(https://www.android-下载.org/)稳定,特别是应用兼容性较好,好多在原生Android 下载下闪退的App,在Bliss下都能稳定运行。如图3和4网页版,美团APP可以稳定运行,而在原生Android 下载下会不停崩溃,无法正常工作。因此Bliss更适合作为安卓模拟器。
    (2) 支持平板模式和桌面UI两种模式,可以在设置里自由切换。这点比Phoenix OS要好,Phoenix OS貌似只有桌面模式,不适合作为安卓模拟器。
    (3) 无内置广告。吐槽一下Phoenix OS,刚开始没有广告,用一段时间就会提示让你购买会员,否则就会出现关不掉的广告。

    Bliss的缺点:
    (1) 启动比较慢,实测约50秒。
    (2) 不要升级内置的SuperSU,我试了多次,一升级重启后就卡在系统Logo界面,无法正常进入系统。
    发布时间:2020-01-12 10:50:54
  • 【经验分享】qemu-system-下载_64使用网桥出现
    failed to parse default acl file `/etc/qemu/bridge.conf`
    qemu-system-下载_64: -net bridge,br=br0: bridge helper failed
    问题(如附图1网页版)的解决方法:

    原因是缺少/etc/qemu/bridge.conf文件。

    (1) mkdir /etc/qemu
    (2) echo 'allow br0' > /etc/qemu/bridge.conf
    发布时间:2020-01-12 10:05:12
  • 【开源分享】发布一款Android 下载虚拟定位的App,支持命令行设置经纬度参数,无需UI操作,专为安卓App自动化模拟操作设计。

    用法举例:

    # 切换定位到"秦始皇陵"(34.384225, 109.254423)  
    adb shell am start -n cn.webscraping.qi.mocklocation/cn.webscraping.qi.mocklocation.MainActivity --es lat 34.384225 --es lng 109.254423  

    详细介绍见 >>> http://t.cn/AisHGPoY
    发布时间:2020-01-10 15:15:48
  • 【经验分享】Chrome + Remote Debugging模式(注意:不是Selenium + Chromedriver模式)登录淘宝出现“验证码爆错”(如附图网页版)。原因Chrome V79版本在Remote Debugging模式时会爆出navigator.webdriver属性,从而被风控。换用V72或V73版本可以顺利登录!(前一条微博也说得是这个事儿) ​​​​
    发布时间:2020-01-02 15:20:22
  • 【经验分享】不经意见发现Chrome v73版本在Remote Debugging模式下(注意:不是Selenium + Chromedriver模式)不会暴露出navigator.webdriver!如附图1网页版。

    作为对比,我又测试了其它的版本:
    (1)如图2网页版,是Chrome V63版本,在Remote Debugging模式下会暴露出navigator.webdriver;
    (2)如图3网页版,是Chrome V79版本,在Remote Debugging模式下也会暴露出navigator.webdriver;
    发布时间:2019-12-31 18:03:03
  • 【Mark收藏】MurmurHash3.js - A javascript implementation of MurmurHash3's hashing algorithms.    >>>  http://t.cn/z8Yont3

    Usage
    // Return a 32bit hash as a unsigned int:
    > murmurHash3.下载.hash32("I will not buy this record, it is scratched.")
      2832214938

    // Return a 128bit hash as a unsigned hex:
    > murmurHash3.下载.hash128("I will not buy this tobacconist's, it is scratched.")
      "9b5b7ba2ef3f7866889adeaf00f3f98e"
    > murmurHash3.x64.hash128("I will not buy this tobacconist's, it is scratched.")
      "d30654abbd8227e367d73523f0079673"

    // Specify a seed (defaults to 0):
    > murmurHash3.下载.hash32("My hovercraft is full of eels.", 25)
      2520298415

    // Rebind murmurHash3:
    > somethingCompletelyDifferent = murmurHash3.noConflict()
    > murmurHash3
      undefined
    > somethingCompletelyDifferent.version
      "2.1.2"
    发布时间:2019-12-31 11:11:58
当前位置:首页 >公司微博 >
  • 西安鲲之鹏

    发布时间:2019-12-05 10:18:57
    【经验分享】添加Fiddler/Mitmproxy证书为安卓系统证书,附自动化脚本,点击链接查看>>>  http://t.cn/AieLat6a ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-12-05 08:53:05
    【经验分享】
    "adb devices"出现"unauthorized"的问题经常遇到,大多数情况,adb kill-server之后就能解决,但是今天遇到遇到一设备怎么折腾都不行。

    后来按照这篇文章(http://t.cn/Aie2dMPU)介绍的方法得以解决:

    QUESTION/PROBLEM
    How to fix adb devices shows unauthorized device?

    APPLIES TO
    Android 4, Android 6, Android 7, Android 8

    RESOLUTION
    Possible solutions if "adb devices" shows a device as "unauthorized":
    C:\Users\JohnDoo>adb devices
    List of devices attached
    17310D821D      unauthorized

    1. Disconnect USB between PC and device
    2. Stop adb server by entering "adb kill-server" in command window
    3. On device use "Revoke USB debugging authorizations" in "Developer Options"
    4. On PC delete "adbkey" file in user directory, for example "C:\Users\JohnDoo\.android"
    5. Reconnect the device to the PC
    6. Open a command window and enter "adb devices". Watch the device's screen for any Authorization message and allow the connection.

    The device should now show as "device":

    注意:第四步"删除adbkey文件"是解决本问题的关键!

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-11-19 16:23:49
    【经验分享】使用uiautomatorviewer一直有一个奇怪的问题,查看某些UI正常,但是某些UI却提示异常“Error obtaining UI hierarchy”(如图1网页版),控制台信息“null rootnode after parsing.”(如图2网页版)。

    之前曾多次遇到这个情况,今天花了些时间查了下,发现stackoverflow上有人遇到类似的问题,详见http://t.cn/AidyMg3t。 原来这是Android4的一个Bug(http://t.cn/AidyMg3c),在Android L中被修复了(http://t.cn/AidyMg3f),Android 5之后的版本应该可以正常工作。

    于是我试了下Android 8下的情况,同一个APP,同一个UI uiautomatorviewer工作正常。

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-11-06 09:32:19
    【视频演示】ANJUKE新房楼盘/二手房小区详细参数,基于APP采集,IP限制弱。

    二手房小区字段:
    u'community_id', u'城市', u'小区名', u'本月均价', u'价格变动', u'所在版块', u'地址', u'总户数', u'建造年代', u'物业公司', u'物业类型', u'物业费', u'开发商', u'总建面积',  u'容积率', u'停车位', u'绿化率', u'经度', u'纬度', u'简介'

    新房楼盘字段:
    u'loupan_id', u'城市', u'楼盘名称', u'别名', u'楼盘价格', u'特色', u'区域位置', u'楼盘地址', u'建筑类型', u'规划户数', u'网页版进度', u'开盘时间', u'交房时间', u'容积率', u'绿化率',  u'开发商', u'物业类型', u'物业公司', u'物业管理费', u'车位比', u'车位数', u'楼层状况', u'楼盘户型', u'经度', u'纬度'  L西安鲲之鹏的微博视频

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-10-30 12:05:49
    【经验分享】grep命令提示Binary file (standard input) matches(如附图网页版)怎么解决?
    可以使用-a参数,e.g. grep -a 'pattern'。
    -a, --text
    Process a binary file as if it were text; this is equivalent to the ‘--binary-files=text’ option.

    >>> http://t.cn/Ai1RqEdR ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-24 17:28:16

    欣欣同业助手App加密算法分析与破解 >>> http://t.cn/RcQGThR ​​​​

    •  

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-10-21 10:44:18
    【经验分享】链家APP ssl pinning的分析和解决
    (1)直接Fiddler抓包,失败,APP报网络异常,如图1网页版;logcat报javax.net.ssl.SSLPeerUnverifiedException异常,如图2网页版。
    (2)反编译apk,查到证书验证部分核心代码,如图3和4网页版。
    (4)通过Frida HOOK okhttp3.internal.tls.OkHostnameVerifier verify()方法,始终关注true,绕过证书固定验证,代码如下:
    Java.perform(function () {
        var OkHostnameVerifier = Java.use('okhttp3.internal.tls.OkHostnameVerifier');
        try {
             OkHostnameVerifier.verify.overload('java.lang.String', 'javax.net.ssl.SSLSession').implementation = function(p0, p1){
                 console.log('ssl unpinning for "' + p0 + '"');
                 return true;
           };
         } catch (e) {
            console.log(e);
        }
    });
    (5)如图5网页版,Fiddler成功抓取到链接APP的HTTP交互数据。

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-10-18 13:23:42
    【经验分享】本文介绍了一例APP使用了非常规ssl pinning导致Fidder抓包失败,最终通过Frida HOOK成功解决,附源码。 >>> http://t.cn/Ai3tEzbP ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-09-26 10:52:18
    【经验分享】今日拨号服务器上某PPPOE拨号持续失败,经查日志:“pppoe: send (sendPacket): Network is down”,ip link 查看对应的虚拟网卡状态是DOWN,无法设置为UP(sudo ip link set dev v051802057684 up失败)。但同一个账号在另外一个机器上测试正常,怀疑可能是MAC地址的问题(例如冲突了),果断删掉虚拟网卡( sudo sudo ip link del v051802057684),然后重建并指定一个不同的MAC,拨号成功!

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-09-26 08:45:09
    【经验分享】昨天下午办公室断了下电,服务器重启后,adb devices显示10台设备都是“?????? no permissions”,第一次遇到这种情况。重启服务器和移动设备问题依据。后来在askubuntu上看到有人提到试一下sudo adb devices,竟然立马识别了(http://t.cn/AinpW0dY)。很诡异,之前用普通权限都一直正常着,为什么突然就没有权限了?

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-09-19 12:20:13
    【经验分享】Termux自带的am命令版本太低,竟然不支持force-stop(如图1示),经查得知pm clear命令也可以停止一个APP,而且还会将APP的用户数据清除掉(回到刚安装的状态),试了一下果然有效,运行之后"/data/data/包名"目录下只剩下lib目录了。注意:需要root权限。 >>> http://t.cn/AiEFayJc ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-09-18 09:16:52
    【经验分享】"adb shell 命令",如何让“命令”以root权限执行?
    例如,某设备已root,但当执行adb shell rm /data/data/com.xxxx/cache时提示Permission denied。

    解决方法:
    adb shell "su -c '[your command goes here]'"
    例如:
    adb shell "su -c 'rm /data/data/com.xxxx/cache'"

    参考文章"Is there a way for me to run Adb shell as root without typing in 'su'?" >>> http://t.cn/AiEd4P8m

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-09-02 16:42:37
    【经验分享】关于小红书搜索结果数据抓取的限制:
    1. 小红书微信小程序版之前是前600条可见,最近已被限制为前60条可见。
    2. 小红书安卓APP版本限制为搜索结果前1000条可见。 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-08-22 16:07:00
    【经验分享】通过ADB启动手机淘宝APP搜索,打开指定关键词的搜索结果列表,如下示例,打开搜索“HUAWEI”的结果:
    adb shell am start -n com.taobao.taobao/com.taobao.search.SearchListActivity -d "taobao://s.taobao.com/search?q=HUAWEI" ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2019-05-05 17:11:14
    【经验分享】如何破解叮当快药的签名算法? >>> http://t.cn/EoAltBU ​​​​

    阅读全文 +

QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询