昼食のホタルイカの炊き込みご飯。ホタルイカの味がきちんとご飯にうつって、優しい味でなかなかの美味しさ。

午後、また近くの公園で椅子を持っていきゆっくりと読書したり、フリスビーしたり。平日にもかかわらず、高校～大学生ぐらいの年代がレジャーシートを敷いてのんびりしていて、もう春休みなのかぁ。

夕飯はホットプレートで焼き肉。こないだのすき焼きが美味しすぎて、同じところの牛肉だったので期待値が高くなりすぎてしまい、想像の美味しさには至らず。ホットプレートの焼き肉も油が落ちないからなかなか難しいね。

ひと月ほど前から、NHK連続テレビ小説おちょやんの土曜日のダイジェスト版を見ている。一週間分、75分の物語が再編集され15分になり、ストーリの中心的なハイライトが短時間で見れて面白さが集約されている。毎週のように起承転結があるのだなぁ。ちょうどよい長さなので、過去のNHK連続テレビ小説も2011年からダイジェスト版を放映していたようだし、見れるなら見たいのだけど、NHKオンデマンドではダイジェスト版は配信していないようで残念。需要があると思うのだけどなぁ。

YouTube で英語での技術的な説明の動画を見たいな、そとで椅子にでも座りながら、と思いオフラインダウンロードができる YouTube プレミアムを契約する。Galaxy ユーザは4ヶ月無料らしい、と PC ブラウザで知る。ユーザの属性情報に合わせたマーケティング、ときたまぎょっとするのでありがたいのだけどやめてほしい気持ちもある。

と、早速オフラインにダウンロードして観るか、と思うもネットワークに繋がってるにも関わらず iPad では日本語字幕選択できないじゃん！

Which GPU(s) to Get for Deep Learning: My Experience and Advice for Using GPUs in Deep Learningを読む。ディープラーニングでのGPU選定について、非常に詳しいエントリー。そうそう、こういうのが読みたかったのだ。NNではGPUコアそのものより、メモリ帯域幅がボトルネックなっていてたいていGPUコアは100%使ってないよね、というのもなるほど。Ampereアーキテクチャ(RTX3080など)はメモリ帯域幅が一つ前のアーキテクチャより1.7倍ぐらい速いから、それだけで1.7倍速で、実際にNNのFP16ベンチマークでRTX2080に比べ1.9倍前後(これはコア周辺のの性能向上もあるのだろう)速くなっていてすごい。

そして何買えばよいのかまとめでは、費用対効果ではRTX3080が1GPUならとても良い、というわけでまたも売っていないRTX3080が欲しくなるのであった。

機械学習学習日記 - 42日目

ちょっとTensorFlow.jsを触ってみた後、PyTorchチュートリアル（日本語翻訳版）を一通り眺める。有志で翻訳されてるようでありがたいし、訳注もちょこちょこ入り分かりやすい。PyTorch チュートリアルは、NNの基本的なことを知っている前提なので、PyTorch の使い方についてざっくりと知ることができた。PyTorchオフィシャルチュートリアルにマリオブラザーズを強化学習で学習してAIつくるなんてあるんだなぁ。

TF は Keras のインターフェイスを通した高レベルな所から始まり、もちろん TF API を使った細かい書き方もできるのだけど、きちんと抽象化されてるので、1からモデルを書こうとすると TF 自体をちゃんと理解しなくてはならない。反面、PyTorch は1からモデルを書こうとしたときにも書きやすさがあるように思える。これは PyTorch のチュートリアルがテンソル、自動微分、NNのトレーニング、という順序のためそう感じるだけかも知れないけど。もちろん PyTorch も keras のような高レベルAPIもある。