2021年3月12日
昨日の夕食の鮭のアクアパッツアと、その残り汁で作った昼飯のリゾット。アクアパッツァは塩鮭だったため鮭の味がちょっと濃かったのだけど、その分リゾットはちょうどよい味になりとても美味しい。
なんか今日はやたらと眠く、午前中昼寝して、午後もちょっと寝て、と寝てばかりの一日だった。自宅はベッドが直ぐ側にあるから、つい睡魔に負けて寝てしまうのが良くないなぁ。
機械学習学習日記 - 39日目
scikit-learnとTensorFlowによる実践機械学習の16章、RNNと注意機構による自然言語処理を読む。
文章をRNNで使うためのデータ処理から、簡単なRNNでの利用、ステートフルでの長文への対応、そしてAttentionを使ったTransformerと、それらを活かしたGPT-2やBERTの話。書籍では2018年は自然言語処理のImageNet期、と述べられていて、2012年のAlexNetから再注目されたNNが、まずは画像処理分野を中心に花開き、そして様々な手法で他分野へ応用されていき、2018年は自然言語処理が大きく躍進した。
それら技術を利用する自分のようなエンドユーザとしては、言語翻訳のNN対応で、さらに翻訳が自然な形になりより便利になったことは記憶に新しい。