朝食を公園で食べた後に、そのままフリスビーしたり読書したりして過ごす。休日は混むので、混まない時間帯に遊ぶと快適だ。普段は停泊していないハンマーヘッドに飛鳥IIが停泊していて、宿泊客のコロナ陽性のため出港後に戻ってきてしまってたので、臨時で泊まってるのかなぁ、大変だ。

夕方、再びフリスビーがしたくなって公園へ。徐々にコツが掴めコントロールもうまくなっているのが解って、フリスビーが楽しすぎる今日このごろ。軽い運動にもなって良い。

機械学習学習日記 - 89日目

今週は体調が悪いときもあり、数日止まってしまっていた。仕事で機械学習系をやっているとそれで知識欲がある程度満たされてしまうのだよなぁ、という言い訳。

Pythonではじめる教師なし学習、を9章の半教師あり学習まで読みすすめる。オートエンコーダらへんは理解が薄いので、ちゃんとハンズオンして notebook で結果を確認しつつ。オートエンコーダは入力と出力が同じになるように隠れ層を学習させるのだけど、半教師あり学習ではまず過完備(入力より隠れ層のほうが次元が高い)線形オートエンコーダ(線形でないと重要な特徴抽出が行われない)で隠れ層に特徴表現を学習させ、 それを新たな特徴量として使う。

例では元の特徴が29個の物に、隠れ層で40個の表現を学習させ、合計69個の特徴量にする。これを LightGBMに焚べると、だいぶ良い結果になりなるほど～。まずはニューラルネットワークで特徴量表現を覚えさせて、それをLightGBMのような勾配ブースティングで学習させるの面白いなぁ。

最初の頃に読んだ本、scikit-learn、Keras、TensorFlowによる実践機械学習 第2版でもオートエンコーダについて章をさいて書いてあって、こんな内容あったっけとと見返してみるとしっかり書いてあった。知識が無い頃だったので理解できなかったのだなぁ。