更多>>关于我们

西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲之鹏
陕西 西安

加关注

  • 【经验分享】PC通过使用“远程ADB”(ADB over network)时连接设备时出现“unauthorized”,且设备不出现授权对话框问题的解决方法:
    (1)ADB客户端和服务端(安卓设备的adbd服务)之间的权鉴是通过公钥私钥对比进行的;
    (2)如果安卓设备保存有ADB客户端的公钥(Linux:  ~/.android/adbkey.pub, Windows: C:\Users\Administrator\.android\adbkey.pub),则直接通过验证。
    (3)如果安卓设备没有ADB客户端的公钥,则弹出"Allow USB debugging?对话框",如果选择同意,则授权通过并自动保存客户端公钥到指定位置(保存于/data/misc/adb/adb_keys文件内)。
    (4)"Allow USB debugging?对话框"只在通过USB连接设备的时候才会出现,“远程ADB”(ADB over network)模式不会出现,这样就无法像USB连接模式那样进行授权。
    (5)只要我们事先把ADB客户端的公钥文件adbkey.pub复制到设备的/data/misc/adb/adb_keys文件内,重启ADB客户端,重连设备,将会自动通过验证。

    上述步骤笔者在Bliss OS 下载 系统下进行过多次实测。
    发布时间:2020-01-19 19:35:14
  • 【经验分享】Bliss OS 下载系统如何开启自动开始“远程ADB”(ADB over network)?
    在开发者选项中可以手动开启“ADB over network”,但是重启后会自动关闭(This setting is reset on reboot)。
    解决方法:
    在/etc/init.sh中加入
    setprop service.adb.tcp.port 5555
    stop adbd
    start adbd

    重启后“ADB over network”将会自动启动!

    PS:原生的Android 下载系统默认情况下开机“ADB over network”就是开启的,不需要像Bliss OS这样的额外设置。
    发布时间:2020-01-17 14:05:28
  • 【经验分享】Android 下载模拟器如何修改屏幕分辨率大小?
    目的:设置屏幕分辨率为 1080x1920
    方法:
    (1) Alt + F1,切换到终端模式;
    (2) su,获取root权限;]
    (3)执行wm size 1080x1920,再按Alt + F7关注图形界面即可;

    如果想要在启动的时候自动设置,可以把上述命令添加到/etc/init.sh中,Bliss OS中亲测有效。
    发布时间:2020-01-15 12:59:26
  • 【经验分享】“KVM(QEMU) + Bliss OS 下载 + MockLocation APP"打造支持虚拟定位的Android模拟器,用于APP数据采集小试牛刀: 采集某外卖平台数据。
    MockLocation APP是什么?  详见我这篇文章 >>> http://www.snutzpark.com/html/articles/20200110/777.html ​​​​
    发布时间:2020-01-13 10:59:56
  • 【经验分享】推荐一款开源Android 下载系统Bliss OS (下载),项目主页是https://blissroms-下载.github.io/

    经过实测我觉得Bliss有如下优点:
    (1) 比原生的Android 下载(https://www.android-下载.org/)稳定,特别是应用兼容性较好,好多在原生Android 下载下闪退的App,在Bliss下都能稳定运行。如图3和4网页版,美团APP可以稳定运行,而在原生Android 下载下会不停崩溃,无法正常工作。因此Bliss更适合作为安卓模拟器。
    (2) 支持平板模式和桌面UI两种模式,可以在设置里自由切换。这点比Phoenix OS要好,Phoenix OS貌似只有桌面模式,不适合作为安卓模拟器。
    (3) 无内置广告。吐槽一下Phoenix OS,刚开始没有广告,用一段时间就会提示让你购买会员,否则就会出现关不掉的广告。

    Bliss的缺点:
    (1) 启动比较慢,实测约50秒。
    (2) 不要升级内置的SuperSU,我试了多次,一升级重启后就卡在系统Logo界面,无法正常进入系统。
    发布时间:2020-01-12 10:50:54
  • 【经验分享】qemu-system-下载_64使用网桥出现
    failed to parse default acl file `/etc/qemu/bridge.conf`
    qemu-system-下载_64: -net bridge,br=br0: bridge helper failed
    问题(如附图1网页版)的解决方法:

    原因是缺少/etc/qemu/bridge.conf文件。

    (1) mkdir /etc/qemu
    (2) echo 'allow br0' > /etc/qemu/bridge.conf
    发布时间:2020-01-12 10:05:12
  • 【开源分享】发布一款Android 下载虚拟定位的App,支持命令行设置经纬度参数,无需UI操作,专为安卓App自动化模拟操作设计。

    用法举例:

    # 切换定位到"秦始皇陵"(34.384225, 109.254423)  
    adb shell am start -n cn.webscraping.qi.mocklocation/cn.webscraping.qi.mocklocation.MainActivity --es lat 34.384225 --es lng 109.254423  

    详细介绍见 >>> http://t.cn/AisHGPoY
    发布时间:2020-01-10 15:15:48
  • 【经验分享】Chrome + Remote Debugging模式(注意:不是Selenium + Chromedriver模式)登录淘宝出现“验证码爆错”(如附图网页版)。原因Chrome V79版本在Remote Debugging模式时会爆出navigator.webdriver属性,从而被风控。换用V72或V73版本可以顺利登录!(前一条微博也说得是这个事儿) ​​​​
    发布时间:2020-01-02 15:20:22
  • 【经验分享】不经意见发现Chrome v73版本在Remote Debugging模式下(注意:不是Selenium + Chromedriver模式)不会暴露出navigator.webdriver!如附图1网页版。

    作为对比,我又测试了其它的版本:
    (1)如图2网页版,是Chrome V63版本,在Remote Debugging模式下会暴露出navigator.webdriver;
    (2)如图3网页版,是Chrome V79版本,在Remote Debugging模式下也会暴露出navigator.webdriver;
    发布时间:2019-12-31 18:03:03
  • 【Mark收藏】MurmurHash3.js - A javascript implementation of MurmurHash3's hashing algorithms.    >>>  http://t.cn/z8Yont3

    Usage
    // Return a 32bit hash as a unsigned int:
    > murmurHash3.下载.hash32("I will not buy this record, it is scratched.")
      2832214938

    // Return a 128bit hash as a unsigned hex:
    > murmurHash3.下载.hash128("I will not buy this tobacconist's, it is scratched.")
      "9b5b7ba2ef3f7866889adeaf00f3f98e"
    > murmurHash3.x64.hash128("I will not buy this tobacconist's, it is scratched.")
      "d30654abbd8227e367d73523f0079673"

    // Specify a seed (defaults to 0):
    > murmurHash3.下载.hash32("My hovercraft is full of eels.", 25)
      2520298415

    // Rebind murmurHash3:
    > somethingCompletelyDifferent = murmurHash3.noConflict()
    > murmurHash3
      undefined
    > somethingCompletelyDifferent.version
      "2.1.2"
    发布时间:2019-12-31 11:11:58
当前位置:首页 >公司微博 >
  • 西安鲲之鹏

    发布时间:2016-10-13 09:29:10
    Run a shell script as another user that has no password(如何用其它用户身份运行一个程序):
    sudo -H -u otheruser bash -c 'echo "I am $USER, with uid $UID"'
    >>> http://t.cn/RVtXWrY ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-10-12 15:23:41
    用Python脚本打造Squid权限认证后端程序以及Squid3.5 auth_param key_extras新特性介绍 >>> http://t.cn/RV5zS9q ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-10-11 16:45:53
    经过DoSWF加密过的SWF文件无法直接反编译(看不到核心代码)突破方法:利用FFDec(JPEXS Free Flash Decompiler)的“搜索内存中的SWF”功能,载入“真实的SWF”就可以绕过加密成功反编译! ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-30 11:40:33
    360前端库(fonts.useso.com)罢工,导致数据超市(http://t.cn/Rzc0P1q使用Wordpress系统)页面加载缓慢。
    1)搜索所有使用fonts.useso.com的文件:find ./ -type f -name "*.phphtml" | xargs grep "fonts.useso.com"。
    2)替换fonts.useso.com为fonts.googleapis.com。
    问题解决。 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-27 15:04:22
    关键词列表中的注释行判断失效了line.startswith('#'),导致采集到一些无效的淘宝数据。
    经查又是UTF-8 BOM惹的货! ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-26 08:47:18
    国内知名本地生活信息平台2600万商户数据(201609更新,含经纬度、评分、均价等所有价值信息) >>> http://t.cn/RcE8zyf ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-22 12:16:47
    pyDes实现的DES加解密测试 >>> http://t.cn/RclF6vIhttp://t.cn/arirH5
    PS:pyDes还支持3DES,这个时候KEY需要使用24字节的。 ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-20 10:38:33
    【终于搞定了同业助手App的加密算法】这个App防护的非常好:DES加密 + MD5签名!!! ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-18 14:19:14
    最新预定抢购苹果很火,那么各位施主你们知道如何测试代理IP是否被苹果给封了吗?
    且听我说:用代理访问网址:http://t.cn/R7Z1Grj。如果关注正常页面那么这个代理就是OK的(没有被封),如果跳转到了一个不存在的页面(http://t.cn/Rc9WXLa),那么说明这个代理已经被封了[悲伤]。下图是用curl做的实验(图1是正常的[微笑],图2的代理被封了[悲伤])。

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-18 13:02:28
    【小试mitmproxy】按照官方说明安装mitmproxy(http://t.cn/Rc9KrEN),结果还少了一堆Python依赖库,费了不少时间终于搞定了。
    PS1:mitmproxy是一款命令行下的HTTP抓包分析工具,工作原理和Fiddler2类似。
    PS2:现在扫代理IP的人真是多啊!!!刚启动没多久就被人扫描到了(被拿来注册QQ号用)[黑线]

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-10 11:13:09
    【经验分享】 如何从详情页获取淘宝/天猫商品的分类? >>> http://t.cn/RccqQZz ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-08 11:27:36
    去哪儿网国内机票页面啥时间改版的?[泪][泪][泪]又得改模块...[泪] ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-05 16:13:28
    Windows上使用rdp协议连接Ubuntu的远程桌面:
    sudo apt-get install xrdp
    sudo apt-get install vnc4server
    sudo apt-get install xubuntu-desktop
    echo "xfce4-session" > ~/.xsession
    sudo service xrdp restart
    然后Windows上用mstsc连接即可。
    xrdp: An open source remote desktop protocol(rdp) server. >>> http://t.cn/Rcy02TQ

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-05 14:50:45
    NppFTP使用SFTP连接Ubuntu 16.04错误提示“[SFTP] Connection failed : kex error : did not find one of algos ”。解决方法:升级NppFTP到最新版本即可(解压覆盖NppFTP.dll文件即可,我使用的是0.26.3)>>> http://t.cn/RcyXShb ​​​​

    阅读全文 +

  • 西安鲲之鹏

    发布时间:2016-09-03 09:38:59
    Chrome webdirver自定义用户配置文件时(--user-data-dir)参数不能加引号,否则会出错:“cannot create default profile directory”。一个正确的示例:options.add_argument('--user-data-dir=C:/Temp/ChromeProfile')。窗口启动后可以查看“chrome://version”是否生效。 >>> Stackoverflow上有个类似的问题 http://t.cn/RcAJsmt

    阅读全文 +

QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询