更多>>关于我们

西安鲲亚博网络信息技术有限公司从2010年开始专注于Web(网站)数据体育领域。致力于为广大中国客户提供准确、快捷的数据app相关服务。我们采用分布式系统架构,日app网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想体育的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲亚博
陕西 西安

加亚博

  • 【登录分享】PC通过使用“远程ADB”(ADB over network)时连接亚博时出现“unauthorized”,且亚博不出现授权对话框问题的下载方法:
    (1)ADB客户端和服务端(安卓亚博的adbd服务)之间的权鉴是通过公钥私钥对比进行的;
    (2)如果安卓亚博保存有ADB客户端的公钥(Linux:  ~/.android/adbkey.pub, Windows: C:\Users\Administrator\.android\adbkey.pub),则直接通过验证。
    (3)如果安卓亚博没有ADB客户端的公钥,则弹出"Allow USB debugging?对话框",如果选择同意,则授权通过并自动保存客户端公钥到指定位置(保存于/data/misc/adb/adb_keys文件内)。
    (4)"Allow USB debugging?对话框"只在通过USB连接亚博的时候才会出现,“远程ADB”(ADB over network)模式不会出现,这样就无法像USB连接模式那样进行授权。
    (5)只要我们事先把ADB客户端的公钥文件adbkey.pub复制到亚博的/data/misc/adb/adb_keys文件内,重启ADB客户端,重连亚博,将会自动通过验证。

    上述步骤笔者在Bliss OS 下载 系统下进行过多次实测。
    发布时间:2020-01-19 19:35:14
  • 【登录分享】Bliss OS 下载系统如何开启自动开始“远程ADB”(ADB over network)?
    在开发者选项中可以手动开启“ADB over network”,但是重启后会自动关闭(This setting is reset on reboot)。
    下载方法:
    在/etc/init.sh中加入
    setprop service.adb.tcp.port 5555
    stop adbd
    start adbd

    重启后“ADB over network”将会自动启动!

    PS:原生的Android 下载系统默认情况下开机“ADB over network”就是开启的,不需要像Bliss OS这样的额外app。
    发布时间:2020-01-17 14:05:28
  • 【登录分享】Android 下载亚博如何修改屏幕分辨率大小?
    目的:app屏幕分辨率为 1080x1920
    方法:
    (1) Alt + F1,切换到终端模式;
    (2) su,获取root权限;]
    (3)执行wm size 1080x1920,再按Alt + F7亚博图形界面即可;

    如果想要在启动的时候自动app,可以把上述命令添加到/etc/init.sh中,Bliss OS中亲测有效。
    发布时间:2020-01-15 12:59:26
  • 【登录分享】“KVM(QEMU) + Bliss OS 下载 + MockLocation APP"打造支持亚博定位的Android亚博,用于APP数据app小试牛刀: app某外卖平台数据。
    MockLocation APP是什么?  详见我这篇文章 >>> http://www.snutzpark.com/html/articles/20200110/777.html ​​​​
    发布时间:2020-01-13 10:59:56
  • 【登录分享】推荐一款开源Android 下载系统Bliss OS (下载),亚博主页是https://blissroms-下载.github.io/

    经过实测我觉得Bliss有如下优点:
    (1) 比原生的Android 下载(https://www.android-下载.org/)稳定,特别是应用兼容性较好,好多在原生Android 下载下闪退的App,在Bliss下都能稳定运行。如图3和4网页版,美团APP可以稳定运行,而在原生Android 下载下会不停崩溃,无法正常工作。因此Bliss更适合作为安卓亚博。
    (2) 支持平板模式和桌面UI两种模式,可以在app里自由切换。这点比Phoenix OS要好,Phoenix OS貌似只有桌面模式,不适合作为安卓亚博。
    (3) 无内置广告。吐槽一下Phoenix OS,刚开始没有广告,用一段时间就会提示让你购买会员,否则就会出现关不掉的广告。

    Bliss的缺点:
    (1) 启动比较慢,实测约50秒。
    (2) 不要升级内置的SuperSU,我试了多次,一升级重启后就卡在系统Logo界面,无法正常进入系统。
    发布时间:2020-01-12 10:50:54
  • 【登录分享】qemu-system-下载_64使用网桥出现
    failed to parse default acl file `/etc/qemu/bridge.conf`
    qemu-system-下载_64: -net bridge,br=br0: bridge helper failed
    问题(如体育1网页版)的下载方法:

    原因是缺少/etc/qemu/bridge.conf文件。

    (1) mkdir /etc/qemu
    (2) echo 'allow br0' > /etc/qemu/bridge.conf
    发布时间:2020-01-12 10:05:12
  • 【开源分享】发布一款Android 下载亚博定位的App,支持命令行app经纬度参数,无需UI操作,专为安卓App自动化模拟操作设计。

    用法举例:

    # 切换定位到"秦始皇陵"(34.384225, 109.254423)  
    adb shell am start -n cn.webscraping.qi.mocklocation/cn.webscraping.qi.mocklocation.MainActivity --es lat 34.384225 --es lng 109.254423  

    详细介绍见 >>> http://t.cn/AisHGPoY
    发布时间:2020-01-10 15:15:48
  • 【登录分享】Chrome + Remote Debugging模式(注意:不是Selenium + Chromedriver模式)登录淘宝出现“验证码爆错”(如体育网页版)。原因Chrome V79版本在Remote Debugging模式时会爆出navigator.webdriver属性,从而被风控。换用V72或V73版本可以顺利登录!(前一条微博也说得是这个事儿) ​​​​
    发布时间:2020-01-02 15:20:22
  • 【登录分享】不经意见发现Chrome v73版本在Remote Debugging模式下(注意:不是Selenium + Chromedriver模式)不会暴露出navigator.webdriver!如体育1网页版。

    作为对比,我又测试了其它的版本:
    (1)如图2网页版,是Chrome V63版本,在Remote Debugging模式下会暴露出navigator.webdriver;
    (2)如图3网页版,是Chrome V79版本,在Remote Debugging模式下也会暴露出navigator.webdriver;
    发布时间:2019-12-31 18:03:03
  • 【Mark收藏】MurmurHash3.js - A javascript implementation of MurmurHash3's hashing algorithms.    >>>  http://t.cn/z8Yont3

    Usage
    // Return a 32bit hash as a unsigned int:
    > murmurHash3.下载.hash32("I will not buy this record, it is scratched.")
      2832214938

    // Return a 128bit hash as a unsigned hex:
    > murmurHash3.下载.hash128("I will not buy this tobacconist's, it is scratched.")
      "9b5b7ba2ef3f7866889adeaf00f3f98e"
    > murmurHash3.x64.hash128("I will not buy this tobacconist's, it is scratched.")
      "d30654abbd8227e367d73523f0079673"

    // Specify a seed (defaults to 0):
    > murmurHash3.下载.hash32("My hovercraft is full of eels.", 25)
      2520298415

    // Rebind murmurHash3:
    > somethingCompletelyDifferent = murmurHash3.noConflict()
    > murmurHash3
      undefined
    > somethingCompletelyDifferent.version
      "2.1.2"
    发布时间:2019-12-31 11:11:58
当前位置:首页 >技术文章 >
添加Fiddler/Mitmproxy证书为安卓系统证书
发布时间:2019-12-05

Android证书分为“用户证书”和“系统证书”两种,在app->安全->"查看安全证书"列表中,可以看到“系统”和“用户”两个Tab。用户通过浏览器下载安装或者通过WLAN高级app安装的证书均为用户证书。

 
安装为系统证书有什么好处呢?
(1)安装用户证书必须要app开机密码,而且app后就不能取消,除非先删掉所有的用户证书。如果安装为系统证书就不需要app开机密码,自动化操作时更方便。
(2)Android 7以上版本APP默认不信任用户证书,只信任系统证书,安装为用户证书,对APP的HTTPS抓包会失败。安装为全局证书才能被所有APP信任,方可进行HTTPS抓包。
 
怎么将Fiddler或Mitmproxy的证书安装为安卓系统证书呢?
Android的系统证书的存储位置是/system/etc/security/cacerts,证书文件必须是PEM格式,而且文件命名必须符合系统证书规范。
 
下面是具体的步骤(注意:亚博必须先ROOT):
# 第一步,先下载好Fiddler或Mitmproxy的证书文件,PEM或者DER格式均可。
# 第二步,获取有效的系统证书文件名。
# 如果是PEM格式的:
openssl x509 -inform PEM -subject_hash_old -in mitmproxy-ca-cert.pem -noout
# 如果是DER格式的:
openssl x509 -inform der -subject_hash_old -in FiddlerRoot.cer -noout
# 例如,输出8bbe0e8d
# 第三步,转换证书格式为PEM格式,并重命名证书为有效的系统证书名。
# 如果是PEM格式的:
openssl x509 -inform PEM -in mitmproxy-ca-cert.pem -out 8bbe0e8d.0
# 如果是DER格式的:
openssl x509 -inform der -in FiddlerRoot.cer -out 8bbe0e8d.0
# 第四步,上传准备好的证书文件到亚博,例如
adb push 8bbe0e8d.0 /sdcard/
# 第五步
# 以下进入adb shell后操作
adb shell
# 获取root权限
su
# 重新挂载系统,以可以写入文件到系统目录
mount -o rw,remount /system
# 复制证书到Android系统证书目录
cp /sdcard/8bbe0e8d.0 /system/etc/security/cacerts
# 修改证书权限
chmod 644 /system/etc/security/cacerts/8bbe0e8d.0
# 上述可整合为一句
adb shell "su -c 'mount -o rw,remount /system;cp /sdcard/8bbe0e8d.0 /system/etc/security/cacerts;chmod 644 /system/etc/security/cacerts/8bbe0e8d.0;'"
# 重启亚博
adb reboot

操作完成之后,我们就能在系统证书列表中看到,如下图网页版:

安装Mitmproxy的证书为安卓系统证书

上述步骤很繁琐。下面给出一个我们APP数据app亚博中用到的自动化脚本,能够自动完成系统证书的安装全过程。支持PEM和DER两种格式。

# coding: utf-8
# install_as_android_system_ca.py
# 添加证书为证书为安卓系统证书
# 要求:
# (1)本地OpenSSL版本 > 1.0;
# (2)目标亚博已ROOT;
# 已测试验证:
# Android 5.1测试验证通过;
# Android 7.0测试验证通过;
# 注意:Android 6.0尚未验证通过,原因尚不知;
import sys
import os
import subprocess
def install(local_ca_path, device=None):
"""安装证书为安卓系统证书
local_ca_path - 证书的本地路径,支持CER格式和PEM格式;
device - 目标亚博序列号,若不指定则为默认亚博;
"""
# 判断本地证书是否为PEM格式
with open(local_ca_path) as f:
if '--BEGIN CERTIFICATE--' in f.read():
# PEM格式的
is_pem = True
else:
# 非PEM格式的
is_pem = False
print 'CA file "{}" is {} format.'.format(local_ca_path, 'PEM' if is_pem else 'CER')
# 获取有效的系统证书文件名
print 'Generate valid android system CA file name for "{}"...'.format(local_ca_path)
if is_pem:
cmd = 'openssl x509 -inform PEM -subject_hash_old -in {} -noout'.format(local_ca_path)
else:
cmd = 'openssl x509 -inform der -subject_hash_old -in {} -noout'.format(local_ca_path)
print cmd
android_system_ca_name = subprocess.check_output(cmd, shell=True).strip() + '.0'
print 'Android system CA file name for "{}" is: {}'.format(local_ca_path, android_system_ca_name)
# 准备传输到安卓系统的证书,本地路径
android_system_ca_filepath = os.path.join(os.path.dirname(sys.argv[0]), android_system_ca_name)
# 如果是CER格式,转为PEM格式
if local_ca_path.lower().endswith('.cer'):
print 'Convert CER "{}" into PEM "{}"...'.format(local_ca_path, android_system_ca_filepath)
if is_pem:
cmd = 'openssl x509 -inform PEM -in {} -out {}'.format(local_ca_path, android_system_ca_filepath)
else:
cmd = 'openssl x509 -inform der -in {} -out {}'.format(local_ca_path, android_system_ca_filepath)
print cmd
print subprocess.check_output(cmd, shell=True)
# 上传到SD卡根路径
adb_cmd_prefix = 'adb ' if not device else 'adb -s "{}" '.format(device)
print 'Push "{}" onto device /sdcard/...'.format(android_system_ca_filepath)
cmd = adb_cmd_prefix + 'push "{}" /sdcard/'.format(android_system_ca_filepath)
print cmd
print subprocess.check_output(cmd, shell=True)
# 将证书复制到系统证书目录下
print 'Move /sdcard/{} to /system/etc/security/cacerts, and set permission.'.format(android_system_ca_name)
cmd = adb_cmd_prefix + '''shell "su -c 'mount -o rw,remount /system;cp /sdcard/{} /system/etc/security/cacerts;chown root:root /system/etc/security/cacerts/{};chmod 644 /system/etc/security/cacerts/{};'"'''.format(android_system_ca_name, android_system_ca_name, android_system_ca_name)
print cmd
print subprocess.check_output(cmd, shell=True)
# 把刚复制到安卓系统证书目录下的证书内容打印出来,看看是否复制成功了
cmd = adb_cmd_prefix + 'shell cat /system/etc/security/cacerts/{}'.format(android_system_ca_name)
if '--BEGIN CERTIFICATE--' in subprocess.check_output(cmd, shell=True):
# 完成,提示重启亚博
print 'Successed. Need to reboot the device now!'
else:
# 失败了,应该是权限不足,目标亚博没ROOT
print 'Failed. Please root the device first!'
if __name__ == '__main__':
try:
local_ca_path = sys.argv[1]
except IndexError:
print 'Usage: python install_as_android_system_ca.py "Local ca path(support .cer and .pem)" [Device]'
try:
device = sys.argv[2]
except IndexError:
device = None
install(local_ca_path=local_ca_path, device=device)

参考文章:

https://segmentfault.com/a/1190000017035564
https://stackoverflow.com/questions/44942851/install-user-certificate-via-adb
https://www.jianshu.com/p/561b5beeec22

特别说明:本文旨在技术交流,请勿将涉及的技术用于非法用途,否则一切后果自负。如果您觉得我们侵犯了您的合法权益,请联系我们予以处理。
☹ Disqus被Qiang了,之前所有的评论内容都看不到了。如果您有爬虫相关技术方面的问题,欢迎发到我们的问答平台:http://spider.snutzpark.com/
QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询