先日読んだコンピュータアーキテクチャを支える技術が面白かったので、同作者によるGPU を支える技術(増補改訂版)を読んだ。今まで GPU にはゲーミング用途としてしか興味が無かったのだけど、機械学習で利用するようになり俄然興味が湧いたのであった。昔に GPU を支える技術を知ったときには「マニアックな本だなぁ」と思っていたのだけど、まさか自分が興味を持つとは。

各種歴史的なところからハードウェアやそれを支える SDK の進化、各種用途とその最適化等、非常に面白く読み進めている。3D レンダリングには FP32 で十分だけど、科学技術計算用途で FP64 ができるようになり、そしてディープラーニングの世界では FP16 で十分で FP32 を半分にして FP16 の計算を倍速度で行えるようにする、FP16 に比べて指数ビットを多く持ったニューラルネットワーク計算に最適なBF16といった等々、全然知らなかった分野ということもあってめちゃんこ面白い。

CUDA を AMD GPU でも動かすためのHIPという CUDA 互換 API を使ってガッと動かす、というのがあるのも知らんかったなー。ROCmというプロジェクトレポジトリには、tensorflow だったり pytorch だったりが動くものも置かれてるらしい。AMD としては GPU が ML 用途としてもガンガン使われてほしいだろうからなぁ。

最後の LSI の作成方法のところで ZEISS のなまでが出てきてびっくり。最新の半導体を作る ASML 社 EUV 露光機(一台 100 億円以上)には ZEISS のレンズが使われているらしい。TPU や MN-Core の話もちゃんと載っていて、包括的に GPU のお気持ちが知れてとてもよかった。やはり知らない分野は面白い。

妻の iPhone がまた壊れてしまい、最新の iPhone を見に行こうと黒磯市街地に。家の周りが何もなさすぎるので、この辺に来ると何でもありすぎる感を感じる。家電量販店では都心と違いほとんどの電話がモック展示で実機はほとんどない中、iPhone だけはちゃんとあって需要の高さが伺える。

その後の晩飯は、以前から通り沿いの看板を見て店名が気になっていた大吟醸味噌らーめん丸高屋で味噌ラーメン。なかなか美味しい。

朝食と昼食ログ。kanel bread のクロワッサンは芳醇なバターの香りで美味しい。挙げハンバーグはメンチのよう。