e4exp
commented
3 years ago 1 はじめに
ソースコードのバグを検出・修正するためには，データや制御の流れなどの形式的な構造や，識別子名，コーディングイディオム，コメントなどの曖昧な情報に対する強力な推論能力が必要となる． 従来のプログラム解析では、形式的な推論や組み合わせ検索によって重要なバグを検出することができますが、専門家が手作業でコードを作成する必要があります。 これは時間とコストのかかる作業であり、コード内に蔓延する曖昧な情報を利用する機会を逃してしまいます。 このような手法の適用範囲を広げ、曖昧な情報を活用するために、深層学習に基づくバグ検出手法が研究されている[21, 3, 13]。 これらの手法は、私たちが日常的に利用しているソフトウェアのエンジニアリングをさらに向上させる可能性があります。 しかし、大規模な教師付き学習コーパスがない場合に、広範囲の一般的なバグをカバーするロバストなバグ検出および修復手法を作成するなど、この分野の多くの課題は未解決のままです。 既存の研究では，ランダムに挿入されたバグ[21, 13]，Clozeテストのプロキシタスク[3]，バグを含む可能性のある小さなコード編集のコーパス[9]，ビルドエラー[27]などに注目している． これらのアプローチはすべて、非常に限られたサイズのデータセットや、実際のコードで発見されるバグの特性を代表していないことが知られているデータセットに依存しています。
本研究では、BUGLABを提案する。 BUGLABは、検出困難なバグを生成することを学習するバグセレクタを共同訓練することで、ロバストなバグ検出器を訓練する自己監視型のアプローチである（セクション2）。 例えば、2つの適切な名前の変数を持つコードスニペットでは、変数の誤使用のバグは簡単に検出・修正できるかもしれませんが、間違った比較演算子は特定が非常に難しいかもしれません。 我々はBUGLABのためのニューラルアーキテクチャを提案し(Sec. 3)、それをPythonに実装する(Sec. 4)。 この実装では、4つの広範なクラスのバグを考慮しており、手作業で精査した2374個の実在するバグからなる新しいテストセットにおいて、ランダムに挿入されたバグを用いた学習よりも高い性能を示した（Sec.5）。 さらに、学習したモデルをオープンソースのPythonパッケージでテストしたところ、これまで報告されていなかった19件のバグを特定することができましたが、偽陽性率はまだ実用的ではありません。 このようなバグを早期に発見し、開発者を支援する機械学習手法を構築することで、ソフトウェアの開発速度が向上し、エンジニアがより堅牢なソフトウェアを提供できるようになることを期待しています。
貢献内容 (a) 現実のバグの検出と修復を学習するための自己教師付きアプローチであるBUGLABを紹介する。 (b)Pythonで作成した2374個の実在するバグの手動精査データセット (c) グラフニューラルネットワークとリレーショナルトランスフォーマーを用いたBUGLABのPython実装の評価では、広範囲の現実的なバグをカバーし、自己教師なしのベースラインやバグ検出のためにマスクされた言語モデリングの事前学習を使用する単純な方法に比べて30%の改善を示した。
近年、機械学習を用いたプログラム解析は、形式的な推論と確率的な推論を統合してソフトウェア開発を支援するものとして期待されています。 しかし、大規模なアノテーションされたコーパスがない場合、これらの分析をトレーニングすることは困難です。 この問題を解決するために、我々はBugLabを発表する。 BugLabは、バグの検出と修復を自己教師付きで学習するアプローチである。 BugLabは2つのモデルを共同学習する。 (1)コードのバグを検出・修復することを学習する検出器モデル、 (2)検出器が学習データとして使用するバグのあるコードを作成することを学習する選択器モデル。
Pythonで実装されたBugLabは、2374個の現実のバグからなるテストデータセットにおいて、ベースラインの手法に比べて最大30%向上し、オープンソースソフトウェアに含まれる19個の未知のバグを発見しました。