ML Kit是一个能够将谷歌专业的机器学习知识带到应用中的极其简单易用的封装包。无论您是否有机器学习的经验,您都可以在几行代码中实现您想要的功能。甚至,您无需对神经网络或者模型优化有多深入的了解,也能完成您想要做的事情。
基于现有的API您可以很轻松的实现文字识别、条码识别、图像标签、人脸检测、对象检测等功能;另一方面,如果您是一位经验丰富的ML开发人员,ML Kit甚至提供了便利的API,可帮助您在移动应用中使用自定义的TensorFlow Lit模型。
因为功能太多,所以仅录制演示了部分功能
你可以直接下载 演示App 体验效果
示例App:主要用于提供MLKit各个子库的演示效果
Camera:为各个子库提供相机预览分析的核心库
参见CameraX
公共库:介于Camera与各个子库之间,为各个字库提供公共业务,从而简化各子库的实现
条码扫描:通过分析图像能够识别条码的内容信息
人脸检测:通过分析图像能够检测到人脸和分析面部轮廓关键点信息
人脸网格检测:通过分析图像能够检测到人脸网格信息
图像标签:通过分析图像能够标记一般对象、场所、动物种类、产品等
对象检测:通过分析图像能够检测出图像中的对象的位置信息(一张图最多可以检测五个对象)
姿势检测:通过分析图像能够检测人物摆姿势的关键点信息
姿势检测(精确版):通过分析图像能够检测人物摆姿势的关键点信息(精确版的依赖库也略大一点)
自拍分割:通过分析图像能够将自拍照的人物特征进行分割
文字识别:识别图像中的文字信息
在Project的 build.gradle 或 setting.gradle 中添加远程仓库
repositories {
//...
mavenCentral()
}
在Module的 build.gradle 里面添加引入依赖项
//公共库 (*必须)
implementation 'com.github.jenly1314.MLKit:mlkit-common:2.2.1'
//--------------------------
//条码识别 (可选)
implementation 'com.github.jenly1314.MLKit:mlkit-barcode-scanning:2.2.1'
//人脸检测 (可选)
implementation 'com.github.jenly1314.MLKit:mlkit-face-detection:2.2.1'
//人脸网格检测 (可选)
implementation 'com.github.jenly1314.MLKit:mlkit-face-mesh-detection:2.2.1'
//图像标签 (可选)
implementation 'com.github.jenly1314.MLKit:mlkit-image-labeling:2.2.1'
//对象检测 (可选)
implementation 'com.github.jenly1314.MLKit:mlkit-object-detection:2.2.1'
//姿势检测 (可选)
implementation 'com.github.jenly1314.MLKit:mlkit-pose-detection:2.2.1'
//姿势检测精确版 (可选)
implementation 'com.github.jenly1314.MLKit:mlkit-pose-detection-accurate:2.2.1'
//自拍分割 (可选)
implementation 'com.github.jenly1314.MLKit:mlkit-segmentation-selfie:2.2.1'
//文字识别 (可选)
implementation 'com.github.jenly1314.MLKit:mlkit-text-recognition:2.2.1'
使用 v2.1.x 以上版本时,要求 compileSdkVersion >= 34
使用 v2.0.x 以上版本时,要求 compileSdkVersion >= 33
如果 compileSdkVersion < 33 请使用 v1.x版本
从 1.x 到 2.x 主要变化如下:
1.x版本的 mlkit-camera-core 核心基础库被移除了;
从2.0.0版本开始改为依赖CameraScan;(CameraScan是一个独立的库,单独进行维护)
1.x版本 mlkit-barcode-scanning 中的 ViewfinderView 被移除了;
从2.0.0版本开始改为依赖ViewfinderView;(ViewfinderView是一个独立的库,单独进行维护)
基于以上两点主要差异:2.x的主要使用方式和1.x基本类似,部分细节有所变更。
如果你是从 1.x 版本升级至 2.x 版本,那么你需要知道上面所说的差异;特别是独立出去单独维护的库,其包名都有所变化,这一点需要注意一下,大部分变动只需变更导入的包名即可完成升级。
如果你使用的是1.x版本的话请直接查看v1.x分支版本
2.x的实现主要是以CameraScan作为基础库去实现具体的分析检测功能,所以你可以直接去看CameraScan的使用说明,只要知道了CameraScan是怎么用的,自然就会使用MLKit里面所有的子模块了。
下面就列一下各个子模块实现的具体功能和核心类;主要包括实现对应功能的 Analyzer 和便于快速实现扫描检测的 BaseCameraScanActivity 或 BaseCameraScanFragment 的子类。
功能 | 所属子模块 | 对应的Analyzer实现 | 对应的BaseCameraScanActivity子类 |
---|---|---|---|
条码扫描 | mlkit-barcode-scanning | BarcodeScanningAnalyzer | BarcodeCameraScanActivity/QRCodeCameraScanActivity |
人脸检测 | mlkit-face-detection | FaceDetectionAnalyzer | FaceCameraScanActivity |
人脸网格检测 | mlkit-face-mesh-detection | FaceMeshDetectionAnalyzer | FaceMeshCameraScanActivity |
图像标签 | mlkit-image-labeling | ImageLabelingAnalyzer | ImageCameraScanActivity |
对象检测 | mlkit-object-detection | ObjectDetectionAnalyzer | ObjectCameraScanActivity |
姿势检测 | mlkit-pose-detection | PoseDetectionAnalyzer | PoseCameraScanActivity |
姿势检测(精确版) | mlkit-pose-detection-accurate | AccuratePoseDetectionAnalyzer | AccuratePoseCameraScanActivity |
自拍分割 | mlkit-segmentation-selfie | SegmentationAnalyzer | SegmentationCameraScanActivity |
文字识别 | mlkit-text-recognition | TextRecognitionAnalyzer | TextCameraScanActivity |
xxx CameraScanActivity 和 xxx BaseCameraScanFragment 在上面只列出了一个,因为有一个 xxx CameraScanActivity 就有一个与之对应的 xxx CameraScanFragment;命名前缀一样,使用方式也基本一样。
BarcodeDecoder.process(bitmap).addOnSuccessListener(this) {
if (it.isNotEmpty()) {
// TODO 成功;此处可获取识别的结果
} else {
// TODO 没有结果
}
}.addOnFailureListener(this) {
// TODO 失败;出现异常
}
公共库:介于Camera与各个子库之间,为各个字库提供公共业务,从而简化各子库的实现。
扫条形码/二维码实现示例:通过直接继承 BarcodeCameraScanActivity 实现的示例 BarcodeScanningActivity
扫二维码实现示例:通过间接继承 BarcodeCameraScanActivity 实现的示例 QRCodeScanningActivity
扫二维码(多个结果)实现示例:通过间接继承 BarcodeCameraScanActivity 实现的示例 MultipleQRCodeScanningActivity
人脸检测实现示例:通过直接继承 FaceCameraScanActivity 实现的示例 FaceDetectionActivity
多人脸检测实现示例:通过间接继承 FaceCameraScanActivity 实现的示例 MultipleFaceDetectionActivity
人脸网格检测实现示例:通过直接继承 FaceMeshCameraScanActivity 实现的示例 FaceMeshDetectionActivity
图像标签实现示例:通过直接继承 ImageCameraScanActivity 实现的示例 ImageLabelingActivity
对象检测实现示例:通过直接继承 ObjectCameraScanActivity 实现的示例 ObjectDetectionActivity
多对象检测实现示例:通过间接继承 ObjectCameraScanActivity 实现的示例 MultipleObjectDetectionActivity
姿势检测实现示例:通过直接继承 PoseCameraScanActivity 实现的示例 PoseDetectionActivity
姿势检测(精确版)实现示例:通过间接继承 AccuratePoseCameraScanActivity 实现的示例 AccuratePoseDetectionActivity
自拍分割实现示例:通过直接继承 SegmentationCameraScanActivity 实现的示例 SelfieSegmentationActivity
文字识别实现示例:通过直接继承 TextCameraScanActivity 实现的示例 TextRecognitionActivity
关于依赖项下载模型(如果选择使用 Google Play Services 中的模型)则可以通过在AndroidManifest中申明配置
<meta-data android:name="com.google.firebase.ml.vision.DEPENDENCIES"
android:value="ocr" /><!-- To use multiple models: android:value="ocr,model2,model3" -->
如:配置Barcode模型、Face模型、OCR模型等等~
<meta-data android:name="com.google.firebase.ml.vision.DEPENDENCIES"
android:value="barcode,face,ocr" />
更多使用详情,请查看app中的源码使用示例或直接查看 API帮助文档
在Module的 build.gradle 里面的 android{} 中设置支持的 SO 库架构(可选,支持多个平台的 so,支持的平台越多,APK体积越大)
defaultConfig {
//...
ndk {
//设置支持的 SO 库架构(开发者可以根据需要,选择一个或多个平台的 so)
abiFilters 'armeabi-v7a' // , 'arm64-v8a', 'x86', 'x86_64'
}
}
需使用JDK8+编译,在你项目中的build.gradle的android{}中添加配置:
compileOptions {
sourceCompatibility JavaVersion.VERSION_1_8
targetCompatibility JavaVersion.VERSION_1_8
}
如果您喜欢MLKit,或感觉MLKit帮助到了您,可以点右上角“Star”支持一下,您的支持就是我的动力,谢谢 :smiley:
您也可以扫描下面的二维码,请作者喝杯咖啡 :coffee: