更多>>关于我们

西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲之鹏
陕西 西安

加关注

  • 【经验分享】PC通过使用“远程ADB”(ADB over network)时连接设备时出现“unauthorized”,且设备不出现授权对话框问题的解决方法:
    (1)ADB客户端和服务端(安卓设备的adbd服务)之间的权鉴是通过公钥私钥对比进行的;
    (2)如果安卓设备保存有ADB客户端的公钥(Linux:  ~/.android/adbkey.pub, Windows: C:\Users\Administrator\.android\adbkey.pub),则直接通过验证。
    (3)如果安卓设备没有ADB客户端的公钥,则弹出"Allow USB debugging?对话框",如果选择同意,则授权通过并自动保存客户端公钥到指定位置(保存于/data/misc/adb/adb_keys文件内)。
    (4)"Allow USB debugging?对话框"只在通过USB连接设备的时候才会出现,“远程ADB”(ADB over network)模式不会出现,这样就无法像USB连接模式那样进行授权。
    (5)只要我们事先把ADB客户端的公钥文件adbkey.pub复制到设备的/data/misc/adb/adb_keys文件内,重启ADB客户端,重连设备,将会自动通过验证。

    上述步骤笔者在Bliss OS 下载 系统下进行过多次实测。
    发布时间:2020-01-19 19:35:14
  • 【经验分享】Bliss OS 下载系统如何开启自动开始“远程ADB”(ADB over network)?
    在开发者选项中可以手动开启“ADB over network”,但是重启后会自动关闭(This setting is reset on reboot)。
    解决方法:
    在/etc/init.sh中加入
    setprop service.adb.tcp.port 5555
    stop adbd
    start adbd

    重启后“ADB over network”将会自动启动!

    PS:原生的Android 下载系统默认情况下开机“ADB over network”就是开启的,不需要像Bliss OS这样的额外设置。
    发布时间:2020-01-17 14:05:28
  • 【经验分享】Android 下载模拟器如何修改屏幕分辨率大小?
    目的:设置屏幕分辨率为 1080x1920
    方法:
    (1) Alt + F1,切换到终端模式;
    (2) su,获取root权限;]
    (3)执行wm size 1080x1920,再按Alt + F7关注图形界面即可;

    如果想要在启动的时候自动设置,可以把上述命令添加到/etc/init.sh中,Bliss OS中亲测有效。
    发布时间:2020-01-15 12:59:26
  • 【经验分享】“KVM(QEMU) + Bliss OS 下载 + MockLocation APP"打造支持虚拟定位的Android模拟器,用于APP数据采集小试牛刀: 采集某外卖平台数据。
    MockLocation APP是什么?  详见我这篇文章 >>> http://www.snutzpark.com/html/articles/20200110/777.html ​​​​
    发布时间:2020-01-13 10:59:56
  • 【经验分享】推荐一款开源Android 下载系统Bliss OS (下载),项目主页是https://blissroms-下载.github.io/

    经过实测我觉得Bliss有如下优点:
    (1) 比原生的Android 下载(https://www.android-下载.org/)稳定,特别是应用兼容性较好,好多在原生Android 下载下闪退的App,在Bliss下都能稳定运行。如图3和4网页版,美团APP可以稳定运行,而在原生Android 下载下会不停崩溃,无法正常工作。因此Bliss更适合作为安卓模拟器。
    (2) 支持平板模式和桌面UI两种模式,可以在设置里自由切换。这点比Phoenix OS要好,Phoenix OS貌似只有桌面模式,不适合作为安卓模拟器。
    (3) 无内置广告。吐槽一下Phoenix OS,刚开始没有广告,用一段时间就会提示让你购买会员,否则就会出现关不掉的广告。

    Bliss的缺点:
    (1) 启动比较慢,实测约50秒。
    (2) 不要升级内置的SuperSU,我试了多次,一升级重启后就卡在系统Logo界面,无法正常进入系统。
    发布时间:2020-01-12 10:50:54
  • 【经验分享】qemu-system-下载_64使用网桥出现
    failed to parse default acl file `/etc/qemu/bridge.conf`
    qemu-system-下载_64: -net bridge,br=br0: bridge helper failed
    问题(如附图1网页版)的解决方法:

    原因是缺少/etc/qemu/bridge.conf文件。

    (1) mkdir /etc/qemu
    (2) echo 'allow br0' > /etc/qemu/bridge.conf
    发布时间:2020-01-12 10:05:12
  • 【开源分享】发布一款Android 下载虚拟定位的App,支持命令行设置经纬度参数,无需UI操作,专为安卓App自动化模拟操作设计。

    用法举例:

    # 切换定位到"秦始皇陵"(34.384225, 109.254423)  
    adb shell am start -n cn.webscraping.qi.mocklocation/cn.webscraping.qi.mocklocation.MainActivity --es lat 34.384225 --es lng 109.254423  

    详细介绍见 >>> http://t.cn/AisHGPoY
    发布时间:2020-01-10 15:15:48
  • 【经验分享】Chrome + Remote Debugging模式(注意:不是Selenium + Chromedriver模式)登录淘宝出现“验证码爆错”(如附图网页版)。原因Chrome V79版本在Remote Debugging模式时会爆出navigator.webdriver属性,从而被风控。换用V72或V73版本可以顺利登录!(前一条微博也说得是这个事儿) ​​​​
    发布时间:2020-01-02 15:20:22
  • 【经验分享】不经意见发现Chrome v73版本在Remote Debugging模式下(注意:不是Selenium + Chromedriver模式)不会暴露出navigator.webdriver!如附图1网页版。

    作为对比,我又测试了其它的版本:
    (1)如图2网页版,是Chrome V63版本,在Remote Debugging模式下会暴露出navigator.webdriver;
    (2)如图3网页版,是Chrome V79版本,在Remote Debugging模式下也会暴露出navigator.webdriver;
    发布时间:2019-12-31 18:03:03
  • 【Mark收藏】MurmurHash3.js - A javascript implementation of MurmurHash3's hashing algorithms.    >>>  http://t.cn/z8Yont3

    Usage
    // Return a 32bit hash as a unsigned int:
    > murmurHash3.下载.hash32("I will not buy this record, it is scratched.")
      2832214938

    // Return a 128bit hash as a unsigned hex:
    > murmurHash3.下载.hash128("I will not buy this tobacconist's, it is scratched.")
      "9b5b7ba2ef3f7866889adeaf00f3f98e"
    > murmurHash3.x64.hash128("I will not buy this tobacconist's, it is scratched.")
      "d30654abbd8227e367d73523f0079673"

    // Specify a seed (defaults to 0):
    > murmurHash3.下载.hash32("My hovercraft is full of eels.", 25)
      2520298415

    // Rebind murmurHash3:
    > somethingCompletelyDifferent = murmurHash3.noConflict()
    > murmurHash3
      undefined
    > somethingCompletelyDifferent.version
      "2.1.2"
    发布时间:2019-12-31 11:11:58
当前位置:首页 >公司微博 >
  • 西安鲲之鹏

    发布时间:2018-11-09 16:56:27
    【备忘】mitmproxy v0.18.2版本Python script示例  
    归纳了一下公司近期常用的mitmproxy Python script编写示例,通过本示例你将学会在mitmproxy中如何通过外挂Python脚本修改请求和应答数据, >>> http://t.cn/EAtq47A ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-11-07 14:02:55
    【经验分享】自己gcc编译出来的squid可执行程序体积比官方rpm包里的体积大9倍(官方的6MB,自己编译出来的59MB)!使用strip --strip-unneeded file-path 处理之后,体积也变成6MB了!(running strip is a good way to get the size down after you have a binary and the binary is in ELF format. strip just removes debug and unreferenced symbols after the binary has been created.) >>> 参考:http://t.cn/Ews4Fhb

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-11-05 13:09:48
    【干货干货】整整花了2天时间搞的。 iptables DNAT Web流量截取实验 >>> http://t.cn/Ew84HPw ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-10-26 18:05:14
    【经验分享-纯干货】SNI导致Python 2.7建立TLS连接出现104错误问题的解决 >>> http://t.cn/EZSeTBn ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-10-26 18:01:45
    【经验分享】使用openssl模拟与HTTPS网站的交互 >>> http://t.cn/EZSdOL4 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-10-25 17:47:47
    美团外卖北京/上海/广州/杭州/成都五城市商户数据2018年10月份采集更新

    详细字段说明:
    “province” – 省份
    “city” – 城市
    “shop_name” – 店铺名称
    “address” – 店铺地址
    “category” – 大分类
    “third_category” – 小分类
    “phones” – 电话号码
    “score” – 店铺评分
    “min_price” – 起送价
    “month_sales” – 月售
    “shipping_fee” – 配送费
    “per_cost” – 人均消费
    “delivery_time” – 配送时间
    “delivery_tip” – 配送服务信息
    “pic_url” – 店铺图片
    “qualification” – 营业执照
    “shiping_time” – 营业时间
    “lat” – 纬度
    “lng” – 经度
    “comment_num” – 评论数

    >>> http://t.cn/EZfpwD4

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-10-22 16:55:09
    Selenium+Chrome淘宝正常登录方案演示:
    1. 不做特殊处理情况下,Selenium无法正常登录淘宝,会出验无法完成的验证码;
    2. 经过特殊处理后,成功突破淘宝对Selenium的检测,完美登录成功(连验证码都不会出现)。
    点击链接查看演示视频: >>> http://t.cn/EzdwqSY ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-10-17 11:46:05
    【经验分享】如何根据淘宝/天猫的分类ID(categoryId值)获取对应的分类名称?

    (1) 如图1网页版,先从商品源码获取"categoryId"参数值,例如1512;
    (2)如图2网页版,查表可知对应分类名称为"手机";

    点击这里购买该分类映射表(2018年10月份采集更新):
    http://t.cn/EzwnBs1 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-10-11 14:14:20
    FontEditor Online 赞! >>> http://t.cn/RKDTzTV ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-10-11 12:26:24
    pyv8各版本二进制安装包 >>> http://t.cn/E75lURy ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-09-20 10:34:46
    搜房网(房天下,fang.com)全国所有城市新房楼盘+二手房小区数据2018年08月份采集更新。
    楼盘小区数据共计313,846条(如下图网页版) >>> http://t.cn/EvmsEJJ ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-09-13 16:34:41
    【经验分享】如何查看APK的包名和入口Activity?
    比如我们要查看微信的包名和入口Activity,我们先打开微信,然后执行如下adb命令:
    adb shell dumpsys activity | grep mFocusedActivity

    关注信息为:
    mFocusedActivity: ActivityRecord{425d65a0 u0 com.tencent.mm/.ui.LauncherUI t9}
    包名为:com.tencent.mm
    入口Acticity为: .ui.LauncherUI

    有了包名和入口Activity,我们可以测试用adb命令来启动下微信,,先关闭微信,然后执行如下adb命令,会发现微信被启动起来了:
    adb shell am start -n  com.tencent.mm/.ui.LauncherUI

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-09-13 16:21:22
    【经验分享】如何采集小红书最新版(2018年9月)数据 >>> http://t.cn/EvzuZyx ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-09-12 20:53:32
    【干货分享】如何用Python实现自动化操作Android手机?
    鲲之鹏的技术人员在本文介绍了通过Python AndroidViewClient来控制Android手机的方案。点击查看详情 >>> http://t.cn/RssDEpx ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2018-09-12 20:47:26
    [汽车之家]汽车品牌(196个)、系列(3199个)、型号配置参数(38273条)数据2018年8月采集更新 >>> http://t.cn/Rssgk12 ​​​​

    阅读全文 +

QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询