劣微分を使った最適化手法を紹介しました

　新年明けましておめでとうございます、というのもはばかられるような時期になってしまいましたが、今年もこんな感じでのんびりとやっていきたいと思います。よろしくお願いします。
　会社ブログの方で、劣微分を使った最適化手法として、FOBOSを紹介しました。線形識別器とは、というところから話を始めたら、実際の論文紹介にたどり着くまでに4回もかかってしまいましたが、何も知らないところからFOBOSでSVMが書けるというところまで、早足ですが一応一通り紹介したつもりなので、FOBOSに興味があるけどまだ論文読んでない、という人はぜひチェックしてもらえればと思います。使えるカーネルは線形カーネルか多項式カーネルぐらいに制限されてしまいますが、実用的なSVMが簡単に作れるというのは結構大きいですよ。ちなみに、FOBOSのところではSVMしか説明していませんが、第2回ではロジスティック回帰をSGDで最適化、というのも載せているので、それとFOBOSの正則化を組み合わせると、ロジスティック回帰も簡単に実装できます。

　もともとこっちの方で書こうと思って1年ぐらい下書き状態でじわじわ書き進めていたのですが、実際に書き上げてみるととても1エントリで収まる分量ではなく、あっちで連載っぽくかけてよかったなと思います。