如何自动识别APK中使用了哪些SDK

大家在开发过程中一般会遇到技术选型问题:我应该使用哪些第三方SDK来实现我想要的功能呢?我们在开发商用的APP时肯定希望选择一些成熟的SDK,不会在网上随便找一个demo中的代码就使用,那样可能会引起很多Bug。现在就有这么一款工具让你查看主流APP使用的SDK情况,相信大厂使用的SDK都是经过严格验证的,相对比较放心。


前段时间我们正准备做分析同行APP使用第三方SDK情况的事情,开始想着下载几个同行主流的APP然后反编译,然后一个个检查使用了哪些SDK。想想一个个手动下载,反编译APK并检查SDK使用情况挺麻烦的。喜欢“偷懒”的我就想能不能做一个自动化的工具,自动去完成这些工作或者大部分工作有程序自动化完成呢?如果使用自动化程序的话就不需要局限于几款同行APP了,可以自动采集应用市场TOP100,TOP500或者TOP1000的APP了,只要自动化工具写好了,后续要采集多少APP都不是个事,工作量不会增加多少,于是就按着这个想法开始折腾了…。

一、准备工作

由于后端技术我熟悉的是JAVA,所以这个程序我是使用JAVA写的。写工具之前需要先准备以下工具:

  • SpringMVC:Spring MVC框架是有一个MVC框架,通过实现Model-View-Controller模式来很好地将数据、业务与展现进行分离。
  • Hibernate:是一个基于元数据的轻量级的ORM框架。
  • Mysql:用来存储APP信息以及第三方SDK信息
  • APKTool:反编译APK的利器
  • HttpClient:是用来提供高效的、最新的、功能丰富的支持 HTTP 协议的客户端编程工具包,并且它支持 HTTP 协议最新的版本和建议。
  • HTMLparser:HTML解析工具
  • SAX:SAX(simple API for XML)是一种XML解析的替代方法。相比于DOM,SAX是一种速度更快,更有效的方法。

二、设计思路

以下只介绍这个工具的设计思路,没有贴具体代码,思路清晰以后写代码很简单。

1. 数据库设计

我们采集数据就需要设计数据库表,这个很简单,我设计了6个表:

  • tools_app_category:保存APP的分类信息
  • tools_app_info:保存APP基本信息
  • tools_app_packages:保存APP包名信息及SDK信息
  • tools_app_packages_relat:APP和第三方SDK关联表
  • tools_app_perm:APP权限信息表
  • tools_app_perm_relat:APP与权限的关联表

2. 获取APP安装包

各大应用市场都有TOP xx应用列表,这些APP一般是用户使用比较多APP,这些APP使用的第三方SDK一般是比较成熟的SDK,值得我们是参考。
我选择从小米应用市场下载热门APP作为数据分析样本,选择应用排行靠前的1000余款APK,我只选择分析应用类APP,把游戏类的过滤掉了。

应用排行榜界面的url格式是这种:http://app.mi.com/topList?page=xx,使用HttpClient获取这些页面网页源码,再使用HTMLparser解析网页源码获取每一个APP的详情url地址,APP详情地址的格式是这种:http://app.mi.com/details?id=app包名,然后在APP详情页面解析出APK的下载地址并下载该APK。除了APK的下载地址以外还可以通过这个界面获取APP的其他基本信息,如有需要可以保存到数据库,我的是存在tools_app_info表中。

3. 反编译APK

下载完APK以后要做的工作就是反编译APK了,这里我们就要用到抢到的APKTool。这一步其实很简单,大家知道JAVA里面可以直接运行脚本命令的,使用一下命令即可反编译APK:

Runtime.getRuntime().exec("java -jar apktool.jar d -f " + apkPath + " -o " + outPath)

这里可能有人会问,反编译出来的是smali文件,有什么用处呢?反编译以后有两部分内容对我们有用smali为前缀的目录以及AndroidManifest.xml。通过AndroidManifest.xml可以获取apk的基本信息,如有需要可以使用XML解析工具解析,我这里是使用SAX计息AndroidManifest.xml并且获取每个APP的进程数、广播接收器的数量以及权限等信息。以smali为前缀的目录是我们主要使用的数据。大家知道每一个SDK的包名基本上是唯一的,很少有重复,而java文件的包名和目录名是有对应关系的,通过获取smali文件所在的路径即可知道这个APK的所有包名。就这样把APK的包名全部收集起来存放到数据库中备用。这里大家要注意的是在收集包名的时候可以做一下初步筛选,把一些没有用的或者是APK本身的包名直接过滤,可提高采集效率并且避免采集一些垃圾数据。把这些信息存在tools_app_packages表中。

4.关联SDK

这一步真的是苦力活,是一不干着想吐的活,是这个SDK采集过程中唯一需要人工完成的。上一步我们已经搜集了所有APP使用的包名,这一步我们需要检查这些包名,如果是非第三方SDK则删掉,如果是SDK则备注SDK名称以及备注,方便后续查找。

5.前端界面

后台已经搭建好了,大家可以根据需要稍微完善,比如我们已经记录了每个app的下载地址,可以定时更新。现在我们这里要做的就是开发一个前端界面,用于可视化操作查询,这一部分没什么讲的,就是写接口调接口而已,直接上效果图:

搜索界面

详情界面:

6. 其他

以上哪里写的不对或者有待改进,欢迎大家提意见,谢谢!
SDK查询地址:https://tool.rqba.com
数据下载地址:https://hx.rqba.com/210.html
转载请注明出处:http://www.luoxudong.com/?p=210

回复 东哥 取消回复

您的电子邮箱地址不会被公开。

评论(117)

  • 月月 2023-11-24 14:59

    东哥您好,最近我在寻找检测SDK的方法,但是下载SDK包名和对应名称的下载链接已经失效了。如果您有时间,能否分享一份给我呢?我的邮箱是:2623303609@qq.com 。非常感谢!

  • ailuo 2023-10-12 18:38

    东哥你好,上面的SDK查询链接失效了,您方便将链接发一个邮件吗?十分感谢!邮箱是1150674966@qq.com

  • 匿名 2023-10-12 18:34

    东哥你好,SDK查询的链接失效了,您方便发邮件分享一份吗?邮箱:1150674966@qq.com,十分感谢

  • 唐三岁 2022-11-02 17:54

    东哥您好,最近正在寻找检测SDK的方法,下载SDK包名和对应名称的下载链接失效了,麻烦东哥有时间能分享一份吗?邮箱:1028939831@qq.com。如果能分享一下您爬取SDK包名的思路就更好啦,非常感谢!

  • 匿名 2021-01-12 14:00

    查询工具不能用了

  • 东哥 2020-08-15 09:41

    需要下载数据的同学可到以下网页下载完整的数据库表,以后就不一个个发邮件了
    https://hx.rqba.com/210.html

    • 匿名 @ 东哥 2021-01-06 09:40

      链接失效了

    • 东哥 @ 匿名 2021-01-06 11:39

      现在可以了

    • 匿名 @ 东哥 2021-01-16 00:27

      东哥,APK中调用了那么多SDK,首先我们能识别了,然后APK调用这些SDK应该有一个APPID或者APPKEY这样的值吧,这个值我们怎么去找呢?

    • 匿名 @ 东哥 2021-01-16 00:29

      东哥,APK中调用了那么多SDK,首先我们能识别了,然后APK调用这些SDK应该有一个APPID或者APPKEY这样的值吧,这个值我们怎么去找呢?826803573@qq.com,烦请指教,也希望能有合作

    • 东哥 @ 匿名 2021-01-23 19:03

      APPID和APPKEY一般配置在后台,这个客户端一般没有办法取到

  • 陈工 2020-08-12 11:21

    东哥东哥,求给一份SDK包名和对应名称 , 十分感谢,54467450@qq.com

  • 匿名 2020-08-11 14:17

    东哥您好,求一份第三方sdk包名,非常感谢!邮箱:ioripolo@hotmail.com

  • 匿名 2020-07-27 15:12

    建议sdk信息还是可以在详细一点:如 sdk名称:微信开放平台 类别:支付类 URL:https://open.weixin.qq.com 厂商:腾讯科技(深圳)有限公司 深圳市 SDK描述: 微信分享、登录、收藏、支付等功能 调用权限:获取精确位置、读取手机状态和身份…,等 。目前我这边也在做一些sdk检测
    项目,能否发个联系方式共同研究:联系21118468@qq.com

    • 东哥 @ 匿名 2020-08-02 19:16

      能整理这么细是最好的,但是个人精力有限

  • 匿名 2020-07-27 15:01

    您好,求一份第三方sdk包名,非常感谢!邮箱:21118468@163.com,

  • 匿名 2020-07-23 17:23

    东哥您好,求一份第三方sdk包名,非常感谢!邮箱:tshujie@163.com

  • 匿名 2020-07-20 15:19

    东哥您好,求一份第三方sdk包名,非常感谢!邮箱:1192031943@qq.com

  • 匿名 2020-07-18 01:19

    东哥您好,求一份第三方sdk包名,非常感谢!邮箱:798955706@qq.com

  • jk2K 2020-05-31 16:45

    东哥好,求一份SDK包名和名称,谢谢,如果方便的话,最好能直接在 github 上维护一份列表,这样大家可以一起贡献

    • 东哥 @ jk2K 2020-06-28 21:15

      这个建议不错

    • 匿名 @ jk2K 2020-07-01 20:14

      东哥您好,求一份第三方sdk包名,非常感谢!邮箱:1145403466@qq.com

  • 匿名 2020-05-24 21:16

    东哥您好,不知是否方便分享下SDK包名列表,774946124@qq.com,谢谢

  • 1mmersion 2020-05-21 16:19

    东哥,跪求一份第三方SDK包名和对应名称 , 十分感谢,897390551@qq.com

  • 匿名 2020-05-08 14:30

    东哥,同求一份第三方sdk信息和包名,邮箱1031076772@qq.com

  • 匿名 2020-05-08 11:05

    东哥,求分享一份sdk信息和包名。十分感谢..zy_brian@qq.com

  • 学习 2020-05-06 14:19

    东哥,求一份SDK包名和对应名称 , 十分感谢,40376434@qq.com