機械学習
2021/10/31に開催された、Optuna開発者主催の開発スプリントに参加してきましたので、簡単に参加報告します。 optuna.connpass.com イベントの概要 OptunaはML/DLのモデル開発はもちろんのこと、JVMのパラメータチューニング や 物質の結晶構造解析 など幅広…
毎回悩むことの多いので、モデルの予測誤差を構成するバイアス(偏り)とバリアンス(分散)についてまとめる。 平均二乗誤差(MSE) 機械学習において、モデルの予測誤差を測る指標の1つとして 平均二乗誤差(MSE) がある。 MSEは、真の値を 、モデルの予…
はじめに Experimentalな機能として提供されてきたPyTorchのC++ APIが、バージョン1.5よりStableになった1。 C++ APIを利用することで、Pythonを利用できない環境や速度を求められる環境においてもPyTorchを使って深層学習のモデルを記述して学習できるよう…
KaggleでRAPIDSを使う方法 が公開されていたので、RAPIDSに含まれている機械学習ライブラリcuMLについて、簡単な性能評価を行ってみた。 cuMLを利用することで、GPU上でランダムフォレストなどの機械学習のアルゴリズムを利用することができ、学習の高速化が…
arxiv.org Kaggleの画像コンペで多用されているEfficientNetについて、中身を知らずに使うのもどうかと思って元の論文を読んでみたので、理解したことをまとめてみる。 EfficientNetとは? 従来のCNNにおいては、次の3点の中から1点を選んでモデルをスケール…
機械学習向けに提供されるライブラリは、内部で乱数を使っていることが多く、何も考えずにプログラムを書くとプログラム実行の度に結果が変わってしまいます(再現性がありません)。 再現性のあるプログラムを書くためには乱数を固定化する必要がありますが…