更多>>关于我们

西安鲲亚博网络信息技术有限公司从2010年开始专注于Web(网站)数据体育领域。致力于为广大中国客户提供准确、快捷的数据app相关服务。我们采用分布式系统架构,日app网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想体育的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲亚博
陕西 西安

加亚博

  • 【逆向分析】CMCC“和助手”APP(2.9)HTTP加密方式分析
    1. 直接抓包会发现“和助手”的亚博和应答数据都是加密的。如体育1网页版。
    下面来分析下加解密算法,最终目的是实现直接和服务端进行HTTP交互。

    2.APP运行后会释放gatewayClient-2-9目录,里面是HTML和JS文件。通过JS里的关键词得知,“和助手”采用的WADE-MOBILE框架。奇怪的是关于WADE-MOBILE网上的介绍很少,只找到这篇有用的介绍http://www.docin.com/p-2187443660.html,大体了解到这个框架使得安卓APP能够使用HTML+JS实现前端展示,通过JS网页版调用安卓API实现业务功能(比如与服务端交互)。

    3. 从common.js中的callSvc(),追踪到mobile-client.js中的Mobile.dataRequest(),继续追踪到wade-mobile.js中的WadeMobile.dataRequest(),继续追踪到 androidExecute(),最后追踪到mobile-core.js中的PluginManager.exec()。JS里通过PluginManager.exec()来实现调用安卓Java网页版里的功能。如体育2网页版。

    4. 通过PluginManager.exec()调用的函数名,在Java网页版中可以寻找到具体的实现。例如"dataRequest",应该是实现后台交互的。在Java网页版中找到dataRequest()的实现如体育3网页版。

    通过进一步跟踪,在transPostData()中可以看到HTTP参数的封装过程,如体育4网页版。
    这里的key是DES的秘钥,发给服务端用于解密客户端数据。data是要发送的数据部分,也被使用MobileSecurity.requestEncrypt()加密了。

    需要注意的是这个key本身也是经过加密的,查看MobileSecurity.getDesKey()网页版如体育5网页版,这里key的值是经过RSA加密的(公钥位于res\raw\public_key)。另外,这里的key并不是固定的,是在每次MobileSecurity类初始化的时候随机生成的,如体育6网页版。
    另外,DESKeySpec(k)时,如果k的长度如果超过8字节,将只取前8字节。

    应答数据的解密是通过MobileSecurity.responseDecrypt()实现的,体育7和8网页版。

    梳理一下“和助手”的加解密流程:
    (1)APP每次会生成一个随机的key用于DES加解密。
    (2)HTTP亚博时会把key作为一个参数(使用RSA加密后)传递给服务端,同时将其它数据通过DES加密后放到data参数中。
    (3)服务端接收到数据后,先用RSA私钥解密出key的明文,然后根据key再DES解密出data明文。
    (4)服务端将HTTP应答数据也使用该key进行DES加密后回送。
    (5)客户端收到HTTP应答数据后使用该key进行DES解密。

    如体育9网页版,是我们对服务端应答数据解密后的一个亚博(中文部分显示为乱码)。
    发布时间:2020-10-21 15:07:39
  • 【疑问】Intel的CPU比AMD的CPU对安卓亚博的支持更好?同一个版本的安卓亚博、同一个APP、同样的HOOK网页版,在Intel下稳定运行,但在客户的AMD下出现各种各样的问题(应用闪退、应用崩溃、桌面卡死)。然后让客户换了一个Intel的环境试了下,没任何问题。 ​​​​
    发布时间:2020-10-20 17:24:47
  • 【登录分享】如何查询一个代理(IP)是机房IP(Datacenter IP)还是家庭IP(Residential IP)?

    这里推荐一个查询网站:IPHub,网址是http://t.cn/A6bOvWpt
    输入待查询的IP,点击“Lookup”按钮。
    1. 如果查询结果Type字段中含有“Residential”字样,则说明是家用IP。如体育1、2网页版。
    2.如果查询结果Type中仅含有“Hosting”字样,而无“Residential”字样,则说明是机房IP。如体育3网页版。

    顺便说一下,如果你的业务需要使用家庭IP(使用机房IP会被风控),例如做亚马逊测评。可以戳这里购买 >>> http://t.cn/A6bOvWpq
    发布时间:2020-10-16 19:57:48
  • 【登录分享】周边POI数据app的时候常常会因为搜索中心点选取不足导致最终数据缺失的问题,在这里我们提出了一种利用arcpy实现的对待app区域网格化,并导出区域内网格中心点坐标的的思路,通过这种方式可以保证对待app区域的完整覆盖。 查看详情戳这里 >>>  http://t.cn/A6ba1Kr8 ​​​​
    发布时间:2020-10-12 16:12:06
  • 【登录分享】导入arcpy出现 "DLL load failed: %1 不是有效的 Win32 应用程序"问题的下载

    arcgisscripting需要Python 32位,用64位Python就会出现这个问题。arcgis在安装的时候会自动安装一个32位的Python,并通过pth文件app好了arcpy和arcgisscripting库的路径,位置在C:\Python27\ArcGIS10.4,使用这个目录下的 32位python即可。
    发布时间:2020-10-11 13:14:11
  • 我查查APP最新app方案演示:根据条码app商品在各商超门店价格  西安鲲亚博的微博视频 ​​​​

    发布时间:2020-09-25 11:46:12
  • 【登录分享】百度地图APP版POI边界坐标参数app解析方案

    如体育1-3网页版,是从百度地图APPapp到的POI边界GEOJSON数据,如何将其转换为有效的经纬度数据呢?详见 >>> www.snutzpark.com/html/articles/20200916/816.html http://t.cn/A64HbBja

    如体育4网页版,是成功解析GEOJSON数据后,利用高德地图API绘制的多边形区域(图4的下半部分)和在百度地图中实际查询该POI的边界区域(图4的上半部分)的对比。可以看到是完全吻合的。
    发布时间:2020-09-16 17:20:51
  • 【登录分享】终于实现携程App酒店房型列表数据解析
    1. 携程App在加载房型数据时没有使用HTTP协议,而使用了自定义的通信协议SOTP,详见(ctrip.business.sotp.SOTPConnection)类。
    2. SOTP协议亚博的数据是经过压缩和系列化的,需要先解压然后反序列化(非JSON),才能得到原文。 ​​​​
    发布时间:2020-09-03 13:11:46
  • 【登录分享】Ubuntu server下使用gcp出现“dbus.exceptions.DBusException: org.freedesktop.DBus.Error.NotSupported: Unable to autolaunch a dbus-daemon without a $DISPLAY for X11”问题的下载方法

    gcp是增强版的cp实现,最大的优势在于它可以显示实时的速度和整体的进度。关于gcp的详细介绍见这里https://linux.cn/thread/11868/1/1/

    在server终端下使用时会因为缺少X环境而报错。下载方法:
    dbus-launch gcp --help
    发布时间:2020-08-28 12:29:07
  • "小红书APP"商品数据app,如体育网页版 ​​​​
    发布时间:2020-08-10 12:39:13
当前位置:首页 >技术文章 >
添加Fiddler/Mitmproxy证书为安卓系统证书
发布时间:2019-12-05

Android证书分为“用户证书”和“系统证书”两种,在app->安全->"查看安全证书"列表中,可以看到“系统”和“用户”两个Tab。用户通过浏览器下载安装或者通过WLAN高级app安装的证书均为用户证书。

 
安装为系统证书有什么好处呢?
(1)安装用户证书必须要app开机密码,而且app后就不能取消,除非先删掉所有的用户证书。如果安装为系统证书就不需要app开机密码,自动化操作时更方便。
(2)Android 7以上版本APP默认不信任用户证书,只信任系统证书,安装为用户证书,对APP的HTTPS抓包会失败。安装为全局证书才能被所有APP信任,方可进行HTTPS抓包。
 
怎么将Fiddler或Mitmproxy的证书安装为安卓系统证书呢?
Android的系统证书的存储位置是/system/etc/security/cacerts,证书文件必须是PEM格式,而且文件命名必须符合系统证书规范。
 
下面是具体的步骤(注意:亚博必须先ROOT):
# 第一步,先下载好Fiddler或Mitmproxy的证书文件,PEM或者DER格式均可。
# 第二步,获取有效的系统证书文件名。
# 如果是PEM格式的:
openssl x509 -inform PEM -subject_hash_old -in mitmproxy-ca-cert.pem -noout
# 如果是DER格式的:
openssl x509 -inform der -subject_hash_old -in FiddlerRoot.cer -noout
# 例如,输出8bbe0e8d
# 第三步,转换证书格式为PEM格式,并重命名证书为有效的系统证书名。
# 如果是PEM格式的:
openssl x509 -inform PEM -in mitmproxy-ca-cert.pem -out 8bbe0e8d.0
# 如果是DER格式的:
openssl x509 -inform der -in FiddlerRoot.cer -out 8bbe0e8d.0
# 第四步,上传准备好的证书文件到亚博,例如
adb push 8bbe0e8d.0 /sdcard/
# 第五步
# 以下进入adb shell后操作
adb shell
# 获取root权限
su
# 重新挂载系统,以可以写入文件到系统目录
mount -o rw,remount /system
# 复制证书到Android系统证书目录
cp /sdcard/8bbe0e8d.0 /system/etc/security/cacerts
# 修改证书权限
chmod 644 /system/etc/security/cacerts/8bbe0e8d.0
# 上述可整合为一句
adb shell "su -c 'mount -o rw,remount /system;cp /sdcard/8bbe0e8d.0 /system/etc/security/cacerts;chmod 644 /system/etc/security/cacerts/8bbe0e8d.0;'"
# 重启亚博
adb reboot

操作完成之后,我们就能在系统证书列表中看到,如下图网页版:

安装Mitmproxy的证书为安卓系统证书

上述步骤很繁琐。下面给出一个我们APP数据app亚博中用到的自动化脚本,能够自动完成系统证书的安装全过程。支持PEM和DER两种格式。

# coding: utf-8
# install_as_android_system_ca.py
# 添加证书为证书为安卓系统证书
# 要求:
# (1)本地OpenSSL版本 > 1.0;
# (2)目标亚博已ROOT;
# 已测试验证:
# Android 5.1测试验证通过;
# Android 7.0测试验证通过;
# 注意:Android 6.0尚未验证通过,原因尚不知;
import sys
import os
import subprocess
def install(local_ca_path, device=None):
"""安装证书为安卓系统证书
local_ca_path - 证书的本地路径,支持CER格式和PEM格式;
device - 目标亚博序列号,若不指定则为默认亚博;
"""
# 判断本地证书是否为PEM格式
with open(local_ca_path) as f:
if '--BEGIN CERTIFICATE--' in f.read():
# PEM格式的
is_pem = True
else:
# 非PEM格式的
is_pem = False
print 'CA file "{}" is {} format.'.format(local_ca_path, 'PEM' if is_pem else 'CER')
# 获取有效的系统证书文件名
print 'Generate valid android system CA file name for "{}"...'.format(local_ca_path)
if is_pem:
cmd = 'openssl x509 -inform PEM -subject_hash_old -in {} -noout'.format(local_ca_path)
else:
cmd = 'openssl x509 -inform der -subject_hash_old -in {} -noout'.format(local_ca_path)
print cmd
android_system_ca_name = subprocess.check_output(cmd, shell=True).strip() + '.0'
print 'Android system CA file name for "{}" is: {}'.format(local_ca_path, android_system_ca_name)
# 准备传输到安卓系统的证书,本地路径
android_system_ca_filepath = os.path.join(os.path.dirname(sys.argv[0]), android_system_ca_name)
# 如果是CER格式,转为PEM格式
if local_ca_path.lower().endswith('.cer'):
print 'Convert CER "{}" into PEM "{}"...'.format(local_ca_path, android_system_ca_filepath)
if is_pem:
cmd = 'openssl x509 -inform PEM -in {} -out {}'.format(local_ca_path, android_system_ca_filepath)
else:
cmd = 'openssl x509 -inform der -in {} -out {}'.format(local_ca_path, android_system_ca_filepath)
print cmd
print subprocess.check_output(cmd, shell=True)
# 上传到SD卡根路径
adb_cmd_prefix = 'adb ' if not device else 'adb -s "{}" '.format(device)
print 'Push "{}" onto device /sdcard/...'.format(android_system_ca_filepath)
cmd = adb_cmd_prefix + 'push "{}" /sdcard/'.format(android_system_ca_filepath)
print cmd
print subprocess.check_output(cmd, shell=True)
# 将证书复制到系统证书目录下
print 'Move /sdcard/{} to /system/etc/security/cacerts, and set permission.'.format(android_system_ca_name)
cmd = adb_cmd_prefix + '''shell "su -c 'mount -o rw,remount /system;cp /sdcard/{} /system/etc/security/cacerts;chown root:root /system/etc/security/cacerts/{};chmod 644 /system/etc/security/cacerts/{};'"'''.format(android_system_ca_name, android_system_ca_name, android_system_ca_name)
print cmd
print subprocess.check_output(cmd, shell=True)
# 把刚复制到安卓系统证书目录下的证书内容打印出来,看看是否复制成功了
cmd = adb_cmd_prefix + 'shell cat /system/etc/security/cacerts/{}'.format(android_system_ca_name)
if '--BEGIN CERTIFICATE--' in subprocess.check_output(cmd, shell=True):
# 完成,提示重启亚博
print 'Successed. Need to reboot the device now!'
else:
# 失败了,应该是权限不足,目标亚博没ROOT
print 'Failed. Please root the device first!'
if __name__ == '__main__':
try:
local_ca_path = sys.argv[1]
except IndexError:
print 'Usage: python install_as_android_system_ca.py "Local ca path(support .cer and .pem)" [Device]'
try:
device = sys.argv[2]
except IndexError:
device = None
install(local_ca_path=local_ca_path, device=device)

参考文章:

https://segmentfault.com/a/1190000017035564
https://stackoverflow.com/questions/44942851/install-user-certificate-via-adb
https://www.jianshu.com/p/561b5beeec22

特别说明:本文旨在技术交流,请勿将涉及的技术用于非法用途,否则一切后果自负。如果您觉得我们侵犯了您的合法权益,请联系我们予以处理。
☹ Disqus被Qiang了,之前所有的评论内容都看不到了。如果您有爬虫相关技术方面的问题,欢迎发到我们的问答平台://snutzpark.com/spider_/
QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询