如何自动识别APK中使用了哪些SDK
大家在开发过程中一般会遇到技术选型问题:我应该使用哪些第三方SDK来实现我想要的功能呢?我们在开发商用的APP时肯定希望选择一些成熟的SDK,不会在网上随便找一个demo中的代码就使用,那样可能会引起很多Bug。现在就有这么一款工具让你查看主流APP使用的SDK情况,相信大厂使用的SDK都是经过严格验证的,相对比较放心。
前段时间我们正准备做分析同行APP使用第三方SDK情况的事情,开始想着下载几个同行主流的APP然后反编译,然后一个个检查使用了哪些SDK。想想一个个手动下载,反编译APK并检查SDK使用情况挺麻烦的。喜欢“偷懒”的我就想能不能做一个自动化的工具,自动去完成这些工作或者大部分工作有程序自动化完成呢?如果使用自动化程序的话就不需要局限于几款同行APP了,可以自动采集应用市场TOP100,TOP500或者TOP1000的APP了,只要自动化工具写好了,后续要采集多少APP都不是个事,工作量不会增加多少,于是就按着这个想法开始折腾了…。
一、准备工作
由于后端技术我熟悉的是JAVA,所以这个程序我是使用JAVA写的。写工具之前需要先准备以下工具:
- SpringMVC:Spring MVC框架是有一个MVC框架,通过实现Model-View-Controller模式来很好地将数据、业务与展现进行分离。
- Hibernate:是一个基于元数据的轻量级的ORM框架。
- Mysql:用来存储APP信息以及第三方SDK信息
- APKTool:反编译APK的利器
- HttpClient:是用来提供高效的、最新的、功能丰富的支持 HTTP 协议的客户端编程工具包,并且它支持 HTTP 协议最新的版本和建议。
- HTMLparser:HTML解析工具
- SAX:SAX(simple API for XML)是一种XML解析的替代方法。相比于DOM,SAX是一种速度更快,更有效的方法。
二、设计思路
以下只介绍这个工具的设计思路,没有贴具体代码,思路清晰以后写代码很简单。
1. 数据库设计
我们采集数据就需要设计数据库表,这个很简单,我设计了6个表:
- tools_app_category:保存APP的分类信息
- tools_app_info:保存APP基本信息
- tools_app_packages:保存APP包名信息及SDK信息
- tools_app_packages_relat:APP和第三方SDK关联表
- tools_app_perm:APP权限信息表
- tools_app_perm_relat:APP与权限的关联表
2. 获取APP安装包
各大应用市场都有TOP xx应用列表,这些APP一般是用户使用比较多APP,这些APP使用的第三方SDK一般是比较成熟的SDK,值得我们是参考。
我选择从小米应用市场下载热门APP作为数据分析样本,选择应用排行靠前的1000余款APK,我只选择分析应用类APP,把游戏类的过滤掉了。
应用排行榜界面的url格式是这种:http://app.mi.com/topList?page=xx,使用HttpClient获取这些页面网页源码,再使用HTMLparser解析网页源码获取每一个APP的详情url地址,APP详情地址的格式是这种:http://app.mi.com/details?id=app包名,然后在APP详情页面解析出APK的下载地址并下载该APK。除了APK的下载地址以外还可以通过这个界面获取APP的其他基本信息,如有需要可以保存到数据库,我的是存在tools_app_info表中。
3. 反编译APK
下载完APK以后要做的工作就是反编译APK了,这里我们就要用到抢到的APKTool。这一步其实很简单,大家知道JAVA里面可以直接运行脚本命令的,使用一下命令即可反编译APK:
Runtime.getRuntime().exec("java -jar apktool.jar d -f " + apkPath + " -o " + outPath)
这里可能有人会问,反编译出来的是smali文件,有什么用处呢?反编译以后有两部分内容对我们有用smali为前缀的目录以及AndroidManifest.xml。通过AndroidManifest.xml可以获取apk的基本信息,如有需要可以使用XML解析工具解析,我这里是使用SAX计息AndroidManifest.xml并且获取每个APP的进程数、广播接收器的数量以及权限等信息。以smali为前缀的目录是我们主要使用的数据。大家知道每一个SDK的包名基本上是唯一的,很少有重复,而java文件的包名和目录名是有对应关系的,通过获取smali文件所在的路径即可知道这个APK的所有包名。就这样把APK的包名全部收集起来存放到数据库中备用。这里大家要注意的是在收集包名的时候可以做一下初步筛选,把一些没有用的或者是APK本身的包名直接过滤,可提高采集效率并且避免采集一些垃圾数据。把这些信息存在tools_app_packages表中。
4.关联SDK
这一步真的是苦力活,是一不干着想吐的活,是这个SDK采集过程中唯一需要人工完成的。上一步我们已经搜集了所有APP使用的包名,这一步我们需要检查这些包名,如果是非第三方SDK则删掉,如果是SDK则备注SDK名称以及备注,方便后续查找。
5.前端界面
后台已经搭建好了,大家可以根据需要稍微完善,比如我们已经记录了每个app的下载地址,可以定时更新。现在我们这里要做的就是开发一个前端界面,用于可视化操作查询,这一部分没什么讲的,就是写接口调接口而已,直接上效果图:
搜索界面
详情界面:
6. 其他
以上哪里写的不对或者有待改进,欢迎大家提意见,谢谢!
SDK查询地址:https://tool.rqba.com
数据下载地址:https://hx.rqba.com/210.html
转载请注明出处:http://www.luoxudong.com/?p=210
评论(117)
东哥您好,最近我在寻找检测SDK的方法,但是下载SDK包名和对应名称的下载链接已经失效了。如果您有时间,能否分享一份给我呢?我的邮箱是:2623303609@qq.com 。非常感谢!
下载链接还有效的
东哥你好,上面的SDK查询链接失效了,您方便将链接发一个邮件吗?十分感谢!邮箱是1150674966@qq.com
东哥你好,SDK查询的链接失效了,您方便发邮件分享一份吗?邮箱:1150674966@qq.com,十分感谢
那个在线查询工具没维护了
东哥您好,最近正在寻找检测SDK的方法,下载SDK包名和对应名称的下载链接失效了,麻烦东哥有时间能分享一份吗?邮箱:1028939831@qq.com。如果能分享一下您爬取SDK包名的思路就更好啦,非常感谢!
发给你了
查询工具不能用了
需要下载数据的同学可到以下网页下载完整的数据库表,以后就不一个个发邮件了
https://hx.rqba.com/210.html
链接失效了
现在可以了
东哥,APK中调用了那么多SDK,首先我们能识别了,然后APK调用这些SDK应该有一个APPID或者APPKEY这样的值吧,这个值我们怎么去找呢?
东哥,APK中调用了那么多SDK,首先我们能识别了,然后APK调用这些SDK应该有一个APPID或者APPKEY这样的值吧,这个值我们怎么去找呢?826803573@qq.com,烦请指教,也希望能有合作
APPID和APPKEY一般配置在后台,这个客户端一般没有办法取到
东哥东哥,求给一份SDK包名和对应名称 , 十分感谢,54467450@qq.com
东哥您好,求一份第三方sdk包名,非常感谢!邮箱:ioripolo@hotmail.com
建议sdk信息还是可以在详细一点:如 sdk名称:微信开放平台 类别:支付类 URL:https://open.weixin.qq.com 厂商:腾讯科技(深圳)有限公司 深圳市 SDK描述: 微信分享、登录、收藏、支付等功能 调用权限:获取精确位置、读取手机状态和身份…,等 。目前我这边也在做一些sdk检测
项目,能否发个联系方式共同研究:联系21118468@qq.com
能整理这么细是最好的,但是个人精力有限
您好,求一份第三方sdk包名,非常感谢!邮箱:21118468@163.com,
东哥您好,求一份第三方sdk包名,非常感谢!邮箱:tshujie@163.com
已发送
感谢东哥
东哥您好,求一份第三方sdk包名,非常感谢!邮箱:1192031943@qq.com
东哥您好,求一份第三方sdk包名,非常感谢!邮箱:798955706@qq.com
东哥好,求一份SDK包名和名称,谢谢,如果方便的话,最好能直接在 github 上维护一份列表,这样大家可以一起贡献
这个建议不错
东哥您好,求一份第三方sdk包名,非常感谢!邮箱:1145403466@qq.com
东哥您好,不知是否方便分享下SDK包名列表,774946124@qq.com,谢谢
东哥,跪求一份第三方SDK包名和对应名称 , 十分感谢,897390551@qq.com
东哥,同求一份第三方sdk信息和包名,邮箱1031076772@qq.com
东哥,求分享一份sdk信息和包名。十分感谢..zy_brian@qq.com
东哥,求一份SDK包名和对应名称 , 十分感谢,40376434@qq.com