takapy0210
commented
3 years ago TFX: A TensorFlow-Based Production-Scale Machine LearningPlatform
Meta
- Link: https://dl.acm.org/doi/pdf/10.1145/3097983.3098021
- Author: google
- Date: 2017
- Journal: KDD
どんなもの？（3行ぐらいで）
- Google で実装した機械学習パイプライン（TFX）をGoogle Playにプラットフォームを導入した事例を紹介し、このプロセスで得られた教訓について議論している
- 機械学習パイプラインのコンポーネントごと（ data analysis, data transformation, data validation, trainer, model analysis, serving ）で、それぞれどのような役割があるか
- TFXの導入方法など
TensorFlow Extended (TFX) is ...
- 機械学習パイプラインの設計思想
- 設計思想に基づいて機械学習パイプラインを実装するためのフレームワーク
- フレームワークの各コンポーネントで用いられるライブラリ のいずれかを表す
機械学習パイプラインの設計思想がかなり参考になると思い読んだ。
機械学習の運用フレームワークに必要なもの
- 多くの学習タスクを単一プラットフォームで実行できること (One ML platform for many learning tasks)
- 継続的な学習とリリース (Continuous training and serving)
- 人間参加型 (Human-in-the-loop)
- プロダクトレベルの信頼性とスケーラビリティ (Production-level reliability and scalability)
キモはどこ？
- 機械学習パイプラインを下記のコンポーネントに分割し、TFXでカバーできる部分について思想を述べている。ここは参考にできそう。
- Data Analysis
- Data Transformation
- Data Validation
- Trainer
- Model Evaluation & Validation
- Serving
1. Data Analysis
ここでは機械学習パイプラインに投入するデータにについて、様々な分析を行う。データに含まれる特徴量の数や、特徴量ごとの欠損値の有無、各特徴量の各種統計量を計算し記録することで、入力されたデータがどのような分布をしているのかを把握する
2. Data Transformation
ここではいわゆる前処理で、例えば、カテゴリカルな値にIDを割り振るといった処理はここに含まれる。このコンポーネントを学習時と推論時に使うことで、推論時には学習時と違う処理が行われてしまってうまく動かないことを防げる。
3. Data Validation
入力されているデータに対しての検証を行う。機械学習パイプラインにはデータが継続的に投入されるので、様々な事情でデータの形式や分布は変わってくる。このコンポーネントでは予めデータのスキーマを定めておくことで、新たに投入されたデータがそのスキーマに合致しているかどうかを検証する。
4. Trainer
ここでは機械学習モデルを訓練させる。
5. Model Evaluation & Validation
ここではモデルの評価と妥当性の確認を行う。過去データを対象にしたオフラインテストを行い AUC などの指標が適切な範疇にあるかを評価する。また、カナリアリリースを行い、モデルが適切な振る舞いをしているかモニタリングする。
6. Serving
ここではモデルを本番環境にデプロイする。
どうやって有効だと検証した？
TFXをGoogle Playアプリストアに導入し、デプロイまでの時間を短縮することで、アプリのインストール率を2%向上させることに成功しています。（たくさん実験できた結果、ってことかな）
自分なりのアウトプット・どんなことに使えそうか
- 自前で機械学習パイプラインのプラットフォーム作るのは結構骨が折れるので、こういったオープンプラットフォームに乗っかるのは全然ありだよなー（巨人の肩に乗る的な）
論文やテックブログの記事を中心に互いに興味のある技術領域について知識を共有するゆるめの会です。 個々人の知識を縦横に広げてレベルアップをするのが目的です。
Main contents
TFX: A TensorFlow-Based Production-Scale Machine LearningPlatform
Others