[2013] Deep Learning using Linear Support Vector Machines

[gatheluck]

論文リンク

https://arxiv.org/abs/1306.0239

公開日（yyyy/mm/dd）

2013/06/02 ICML 2013 Challenges in Representation Learning Workshop

概要

L2-SVMを用いることで、CNNとSVMのlossの結合を可能にした。

関連

• An Architecture Combining Convolutional Neural Network (CNN) and Support Vector Machine (SVM) for Image Classification
• AFAgarap/cnn-svm

[gatheluck]

近年のCNNはsoftmax+cross-entropy lossを用いて高精度を達成している。しかし、softmaxをlinear SVMにすると一定の精度向上があることを示した。

[gatheluck]

モデルは本質的には、 (Zhong & Ghosh, 2000; Nagi et al., 2012) と同じだが L2-SVMを通常のlinge lossの代わりに使用した点は新しい。これにより、微分可能になった。