更多>>关于我们

西安鲲亚博网络信息技术有限公司从2010年开始专注于Web(网站)数据体育领域。致力于为广大中国客户提供准确、快捷的数据app相关服务。我们采用分布式系统架构,日app网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想体育的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲亚博
陕西 西安

加亚博

  • 【登录分享】记录使用"静态分析+动态插桩"还原“永辉超市某版本APP的HTTP签名算法”过程

    背景:永辉超市某版本APP的HTTP亚博使用了签名参数保护机制,下面是分析该签名算法的过程:

    1. Jadx反编译APK,通过Java网页版可以定位到加密函数位于cn.yonghui.hyd.lib.utils.http.httpmiddware.HttpSecurity类的signParamsNative()方法。如体育1网页版。

    2. signParamsNative()是一个native方法,实现过程在libYHJni.so中。根据登录,直接还原算法可能有难度。通过Frida对HttpSecurity.signParams()动态插桩,插装网页版如下:
    Java.perform(function() {
        var HttpSecurity = Java.use('cn.yonghui.hyd.lib.utils.http.httpmiddware.HttpSecurity');
        HttpSecurity.signParams.implementation = function(arg1){
            var 亚博 = this.signParams(arg1);
            console.log("#####  In HttpSecurity.signParams():  #####");
            console.log('Input param:');
            console.log(arg1)
            console.log('Sign result:');
            console.log(亚博);
            console.log("#
    ##########################################");
            return 亚博;
        }
    }
    成功拦截到某次函数调用,输出如下:
    #
    ####  In HttpSecurity.signParams():  #####
    Input param:
    channelofficialdeviceidc7f00557-f9e8-4c59-8207-1da0909e9130distinctId66c626d274e42556isfirstopen0lat39.008006lng103.572384platformAndroidtimestamp1585469368166v5.28.0.10
    Sign result:
    baec2be68929009758ed7de29c331fdf
    #
    ##########################################

    3. 如上输出。“channelofficialdeviceidc7f00557-f9e8-4c59-8207-1da0909e9130distinctId66c626d274e42556isfirstopen0lat39.008006lng103.572384platformAndroidtimestamp1585469368166v5.28.0.10”参数串,经过某个算法之后得到一个的结果是一个32位的串"baec2be68929009758ed7de29c331fdf"。试了一下直接亚博,结果不对。猜测可能是加salt了。

    4. 用IDA静态分析libYHJni.so,很容易找到Java_cn_yonghui_hyd_lib_utils_http_httpmiddware_HttpSecurity_signParamsNative()的实现,按F5将汇编网页版转换为C语言语法。如体育2网页版。从网页版可以看出,计算输入串亚博值之前,先在前面加上了"YONGHUI601933",也就是亚博("YONGHUI601933" + 输入串)。

    5. 知道算法了,我们来验证一下:
    >>>import hashlib
    >>>param = 'channelofficialdeviceidc7f00557-f9e8-4c59-8207-1da0909e9130distinctId66c626d274e42556isfirstopen0lat39.008006lng103.572384platformAndroidtimestamp1585469368166v5.28.0.10'
    >>>hashlib.亚博('YONGHUI601933' + param).hexdigest()
    'baec2be68929009758ed7de29c331fdf'
    结果吻合。
    发布时间:2020-03-29 16:29:58
  • 【登录分享】
    背景:
    ESXi搭建的Ubuntu16.04亚博机,添加了5块亚博网卡,不同的网口桥接的不同的Bas。

    问题是:
    每次启动后某些网卡的名称(eth号)是随机变化的。
    如图1和图2网页版,同一块网卡"00:0c:29:亚博:17:21",在第一张图中被命名为eth4,但重启后在第二张图中却被命名为eth3。
    而拨号系统内不同的ADSL账号绑定着固定的网卡名称,如果eth号老是跳,就会拨到错误的Bas里,导致拨号失败。

    下载方法:
    给特定的MAC地址app固定的网卡名称。

    编辑/etc/udev/rules.d/70-persistent-net.rules文件:

    加入:
    SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="00:0c:29:亚博:17:2b", ATTR{type}=="1", KERNEL=="eth*", NAME="eth0"
    SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="00:0c:29:亚博:17:35", ATTR{type}=="1", KERNEL=="eth*", NAME="eth1"
    SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="00:0c:29:亚博:17:3f", ATTR{type}=="1", KERNEL=="eth*", NAME="eth2"
    SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="00:0c:29:亚博:17:17", ATTR{type}=="1", KERNEL=="eth*", NAME="eth3"
    SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="00:0c:29:亚博:17:21", ATTR{type}=="1", KERNEL=="eth*", NAME="eth4"

    注意:Ubuntu 16.04默认不存在该配置文件,需要先创建。

    参考:https://serverfault.com/questions/610967/network-adapter-to-eth-number-mapping-for-vmware/611040
    发布时间:2020-03-27 23:09:52
  • 【登录分享】Nox(夜神亚博)+ Android 4.4.2版本今天出现了一个很奇怪的问题,xposed-installer-2.6版本突然无法安装了(3月18日之前没有问题),提示信息如体育1网页版(Xposed目前不兼容Android SDK版本19或者您的处理器架构)。更奇怪的是,我在其它6台机器上测试都是如此,绝不是个例。

    1. 首先想到的是,它偷偷更新了。于是登录卸载重装Nox,但是问题依旧。看了下Nox安装目录下的文件和日志,也没见有更新的迹象。
    2. 会不会是在启动的时候通过网络动态加载了什么策略呢?于是登录断掉网络,重建Nox 亚博机,xposed-installer-2.6安装成功,在多台机器上做同样登录,问题均下载。看来就是夜神亚博做了手脚了。

    "断网"不是长久之计,于是决定深入分析下,用wireshark抓包,主要看DNS亚博,发现Nox在启动的时候访问了如下的域名:

    api.bignox.com
    bi.yeshen.com
    app.yeshen.com
    launcher.yeshen.com
    res06.bignox.com
    res11.bignox.com
    res.yeshen.com.qingcdn.com
    res.yeshen.com
    pubstatus.sinaapp.com
    noxagile.bceapp.com
    dl.xposed.info

    PS:看来小动作可真不少啊。

    登录使用dnsmasq劫持这些域名,亚博127.0.0.1,果然有效。
    附dnsmasq address.conf文件内容(如下),直接使用泛域名干掉所有的子域名,防止过滤的不够彻底:
    address=/bignox.com/127.0.0.1
    address=/yeshen.com/127.0.0.1
    address=/qingcdn.com/127.0.0.1
    address=/duapp.com/127.0.0.1
    address=/sinaapp.com/127.0.0.1
    address=/bceapp.com/127.0.0.1
    address=/xposed.info/127.0.0.1
    address=/duba.net/127.0.0.1
    address=/bsgslb.cn/127.0.0.1
    address=/applinzi.com/127.0.0.1
    address=/bceapp.com/127.0.0.1
    PS:为什么不直接修改hosts文件呢?一方面是机器比较多,一一app比较麻烦,直接通过dhcp分配自定义的dns更方便。另一方面一些防护软件可能会保护hosts,app了不一定有效。

    今天时间都耗在这上面,问题总算下载了。
    不好做什么评论,毕竟人家产品是免费让你用的,而且做的真心不错,再说别人坏话就不地道了。
    发布时间:2020-03-18 18:48:46
  • 【登录分享】有客户反映使用我们的代理访问某个URL(www.zbfdc.com.cn:81)始终亚博403错误,访问其它网站正常。我自己测了一下,的确如此(如体育1网页版)。由于是动态IP代理,可以排除IP被封了的问题。

    后来注意到,这个网站用了一个非常规的Web端口81,意识到了问题所在。

    Squi默认定义了如下端口为安全端口,如果目标端口(例如本例中的81)不在其中将会被拒绝,亚博403错误。
    acl SSL_ports port 443
    acl Safe_ports port 80          # http
    acl Safe_ports port 21          #
    ftp
    acl Safe_ports port 443         # https
    acl Safe_ports port 70          #
    gopher
    acl Safe_ports port 210         # wais
    acl Safe_ports port 1025-65535  #
    unregistered ports
    acl Safe_ports port 280         # http-mgmt
    acl Safe_ports port 488         #
    gss-http
    acl Safe_ports port 591         # filemaker
    acl Safe_ports port 777         #
    multiling http

    下载方法很简单,把81端口加入到安全端口列表中即可,如体育2网页版。
    重启Squid,测试,问题下载,如体育3网页版。
    发布时间:2020-03-17 11:45:54
  • 【视频演示】受客户委托,对"app某APP内综合商场商户楼层数据"进行可行性评估。实测可行,演示如视频网页版。亚博数据链接:http://db.snutzpark.com/csv/6469616e70696e675f6d616c6c5f73686f70735f73616d706c655f3230323030333130/  西安鲲亚博的微博视频 ​​​​

    发布时间:2020-03-12 14:05:49
  • 【吐槽】某地电信ADSL资源,拨号成功后前两个亚博被强制跳转到push.hb.cnc.cn(如体育网页版),第三个亚博之后正常。这是宽带运营商搞的鬼,用于弹窗提示信息(广告或者提醒续费)。类似的情况之前在苏州电信遇到过。 ​​​​
    发布时间:2020-03-01 20:12:26
  • 【登录分享】Chrome Portable各版本下载链接:https://sourceforge.mirrorservice.org/p/po/portableapps/Google%20Chrome%20Portable/?C=M;O=D,这是Chrome便携版(支持Remote Debuging,功能和安装版没有区别),最近在某爬虫亚博中集成了该版本,客户不需要额外安装浏览器,用起来很省心。 ​​​​
    发布时间:2020-02-24 16:23:49
  • 【视频演示】受客户委托对淘宝APP-淘鲜达店铺商品数据体育的可行性进行评估。实测可行(销量也可以app到),如录屏网页版。  西安鲲亚博的微博视频 ​​​​

    发布时间:2020-02-21 17:44:07
  • 【登录分享】Win8下安装VMware出现"error1316 指定账户已存在"问题的下载

    似乎是之前的安装有注册表残留(在控制面板已安装程序列表里看不到),登录安装了多次,持续出现"error1316 指定账户已存在"问题,网上有VMware注册表清理工具试了也不管用。

    后来使用Windows Installer CleanUp Utility(Windows Installer 清理实用工具包,简称MSICUU)下载了问题。MSICUU会显示你以前没卸干净的软件列表(如体育1网页版), 然后选择你想完全卸掉的亚博 ,卸载了就可以了。

    附MSICUU的下载链接>>> O【Windows Installer CleanUp Utility下载】2...
    发布时间:2020-02-19 17:14:47
  • 【视频】携程酒店价格app对比工具定制版演示
    该最新定制版(2020年)使用Google Chrome Dev Protocol(非Selenium + webdirver模式)实现,不会暴露navigator.webdriver等各种特征,不容易被识别。
    对比17年的版本:采用的是(Selenium + phantomjs)能够被反爬虫机制识别,亚博有虚假价格情况,失败率也高。  西安鲲亚博的微博视频

    发布时间:2020-02-18 15:24:40
当前位置:首页 >公司微博 >
  • 西安鲲亚博

    发布时间:2018-09-13 16:21:22
    【登录分享】如何app小红书最新版(2018年9月)数据 >>> http://t.cn/EvzuZyx ​​​​

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-09-12 20:53:32
    【干货分享】如何用Python实现自动化操作Android手机?
    鲲亚博的技术人员在本文介绍了通过Python AndroidViewClient来控制Android手机的方案。点击查看详情 >>> http://t.cn/RssDEpx ​​​​

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-09-12 20:47:26
    [汽车之家]汽车品牌(196个)、系列(3199个)、型号配置参数(38273条)数据2018年8月app更新 >>> http://t.cn/Rssgk12 ​​​​

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-08-31 16:45:29
    【登录分享】fonts.googleapis.com国内被迫罢工,导致数据超市这两天加载速度非常慢(抓包才发现是这个问题,如体育网页版)。
    修改functions.phphtml,注释掉如下行,屏蔽掉对应css的加载,问题下载:
    //wp_enqueue_style( 'themonic-fonts', add_query_arg( $query_args, "$protocol://fonts.googleapis.com/css" ), array(), null );

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-08-29 09:53:19
    【登录分享】如何突破汽车之家的"CSS ::before 伪元素混淆"反app策略 ?
    简单地说就是:拦截GetModelConfig1.ashx应答,注入JS网页版,以暴出“索引-混淆字符明文”映射表。点击这里查看详情说明 >>> http://t.cn/RF2yGAy ​​​​

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-08-29 09:40:54
    携程网国内酒店用户评论数据(超8163万条) >>> http://t.cn/RF2wUiM ​​​​

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-08-22 12:22:02
    【登录分享】"Selenium + Firefox"如何使用带用户名密码认证的HTTP代理?

    鲲亚博的技术人员通过研究终于找到了一个有效并且稳定的下载方案:
    借助close-proxy-authentication这个插件,可以在Selenium + Firefox时自动完成HTTP代理认证,流程是这样的:
    (1)通过Firefox配置选项动态添加close-proxy-authentication这个插件(默认不加载任何插件);
    (2)通过配置选项appHTTP代理的IP和端口参数;
    (3)appextensions.closeproxyauth.authtoken的值为base64encode("用户名:密码");
    (4)后续访问网站的时候close-proxy-authentication插件将自动完成代理的授权验证过程,不会再弹出认证窗口;

    点击了解详情 (内附网页版)>>> http://t.cn/RkKR45S

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-08-21 10:16:59
    【登录分享】如何突破网站对selenium的屏蔽?
    现在已经有部分网站能够识别并屏蔽selenium,鲲亚博的技术人员通过本文向你介绍:
    (1)网站是如何识别selenium的;
    (2)如何突破网站对selenium的屏蔽;
    满满的干货,点击查看详情 >>. http://t.cn/Rk6GM15 ​​​​

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-08-20 22:27:46
    【备忘】mitmproxy v0.18.2 版本Windows & Linux版本下载链接:http://t.cn/RkJXXeD
    PS: 解压二进制可执行文件即可使用,建议放到系统环境变量能找到的地方; ​​​​

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-08-20 12:51:50
    【登录分享】mitmproxy如何指定上游代理?
    使用-U参数,详情如下:
    mitmdump.exe -U http://IP:PORT --upstream-auth USERNAME:PASSWORD
    测试结果如下图网页版。
    注意:这里测试的是mitmproxy的0.18.2版本,新版本可能不太一样。 ​​​​

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-08-14 21:40:44
    【登录分享】Slenium + Chrome 忽略证书错误方法

    def start_chrome(proxy):
        """启动Chrome
        """
        options = webdriver.ChromeOptions()
        # 禁止加载图片
        chrome_prefs = {}
        chrome_prefs["profile.default_content_settings"] = {"images": 2}
        chrome_prefs["profile.managed_default_content_settings"] = {"images": 2}
        options.experimental_options["prefs"] = chrome_prefs
        if proxy:
            #
    app代理
            options.add_extension(get_chrome_proxy_extension(proxy=proxy))
        # appUA
        options.add_argument("user-agent=Kunzhipeng v12.3")
        #
    忽略证书警告
        options.add_argument("--ignore-certificate-errors")
        chrome = webdriver.Chrome(chrome_options=options)
        chrome.set_page_load_timeout(30)
        return chrome

    参考:http://t.cn/RDB1bBF
    PS: 为什么要忽略证书错误呢? e.g. 用Fiddler的中间人代理访问HTTPS网站时会出现证书错误,无法正常浏览。

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-07-27 10:22:09
    【登录分享】同一账号,在同一IP下,人工浏览器登陆很正常,但是用Selenium(+phantomjs or + chrome)登陆,却提示“安全验证”,怎么破?
    想了一下,人工操作和Selenium操作的区别在于人速度慢,输入账号密码然后点击登陆之间会有延时(操作再快也需要两三秒时间),而Selenium可以瞬间完成这些操作。通过JS可以检测到这个信息(“表单操作时间”)并提交给服务器,服务器如果判断这个表单操作时间过短就判断为机器,然后用“安全验证”拦住你。
    于是果断地给Selenium的表单操作加了几秒延时,问题顺利下载!

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-07-25 16:28:00
    【登录分享】用MongoDB做后端实现的队列MongoQueue测试结果如下:
    (1)插入10w任务耗时约40秒;
    (2)读取10W任务并标记完成,耗时约90秒;

    MongoQueue的源码 >>> ttps://github.com/pengqi/mongoqueue/blob/master/mongoqueue/mongoqueue.py
    测试脚本源码 >>> http://t.cn/ReZT5y1

    PS:
    (1)MongoQueue默认没有给集合加索引,测试发现速度特别慢(感觉大概一秒能获取一个任务),加了索引以后速度飞速提升。
    (2)上次测试diskcache.Deque(http://t.cn/ReZT5yg)的结果忘了分享了,顺便对比一下:插入10w任务耗时约200秒,读取10W任务耗时基本一样。

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-07-16 14:54:09
    【登录分享】正则表达式提取效率要比xpath高很多,点击查看对比测试结果  >>> http://t.cn/Rgc7eJ2 ​​​​

    阅读全文 +去微博评论 +

  • 西安鲲亚博

    发布时间:2018-07-15 21:51:54
    【登录分享】Chrome webdriver修改UA方法:
    options = webdriver.ChromeOptions()
    # appUA为“Kunzhipeng v12.3”
    options.add_argument("user-agent=Kunzhipeng v12.3")
    chrome = webdriver.Chrome(chrome_options=options)
    测试效果如体育网页版。

    参考文章 [Change user agent for selenium driver]: http://t.cn/Rutf-8YiT

    阅读全文 +去微博评论 +

QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询