4月5日は清明、という言葉をニュース等で何度も見る。Wikipediaによると、「万物が清々しく明るく美しいころ」。たしかに日が伸びたなぁと実感するし、植物も生物も清く新しい姿をよく目にする。清明、良い言葉ではないか。二十四節気(知らなかった)の一つで、春分・夏至・秋分・夏至なども二十四節気らしい。

---

西日が強く、夏には冷房がないと厳しそうなことがわかったので、エアコンを追加購入。ちょうど4月中旬に新年度の最新エアコンが発売されるため、今の時期は前年度のものが最安値で買えることが多いようだ。今回はエアコンは単体で購入し、取り付けはくらしのマーケットのC2Cマーケットで見つけた隣町の電気工事会社にお願いする。レビュー評価が良かったところだったのだけど、迅速丁寧明朗会計で頼んでよかったなぁ。エアコン用の壁コンセント増設では、NINJAのように屋根裏を這って配線をしてくれた。屋根裏への入り口があんな場所にあったなんてと驚く。

---

芝桜の花（たぶん）。

---

腕痛6日目。徐々に良くなってきた気がする。本日の湯治は近所の皆幸乃湯で。距離的な近さと、夕方以降なら500円で温泉に入れるという値段が良い。

---

ベクトル・行列からはじめる最適化数学読み進めは12章の最小二乗法のnotebookをやる。途中で計算量周りを考えるところで、JAXに寄り道する。

jaxは高速、ぐらいの知識しかなかったのでちょっと調べてみたのだけど、CPU/GPU/TPUとバックエンドを選んで同一のインターフェイスで計算でき、jax.numpyを使うことでnumpy互換のインターフェイスで操作もできる(CuPyぽい)、ただし副作用がある計算はできない。自動微分も使える。jax.nnでニューラルネットワーク処理に必要な最低限の基礎的な関数ある。XLAでの最適化にJIT通せる。scipyの互換インターフェイスも、関数の数は少ないがある。というかこんな私の説明を読まずjaxのquickstart～の一連のドキュメントを読んだほうが理解しやすい。

• https://jax.readthedocs.io/en/latest/notebooks/quickstart.html
• https://jax.readthedocs.io/en/latest/notebooks/thinking_in_jax.html

なるほど、NNに限らず高速な行列演算をしたいときは便利そう。NNなフレームワークは行列や値はTensorオブジェクトとしてラップする必要があり、それらに合わせた実装を書くため、そのへんをjaxならあまり気をしなくてよいケースが多いのは良さそうだ。numpyでの行列計算の高速化が必要な場合は、TFやpytorchでやるより、jaxのほうが断然使い勝手良いであろう。TFもpytorchも巨大すぎるしね。

じゃあnumpyじゃなくて基本jax使ってもいいのでは？と思ってしまうのだけど、非破壊的な操作ができなかったりrandomのインターフェイスが異なったり、sklearnにママ渡せないであろうであったり、またnumpyの強みの一つがpandasとメモリ空間を共有して使える、つまりnumpy.ndarray <-> pandas.DataFrame の相互の変換コストが大抵の場合ほぼ無視できる程度で行えるので、がつがつデータ探索しているときや雑な操作(破壊的操作がカジュアルにできる)はnumpyのほうがやっぱり便利なのだよなぁ。そもそもjaxはそういう用途には使わないのだろうけど。

OSの配色をダークにしているとWindows Terminalのアクティブ・非アクティブのタブ色が黒とグレーで、見分けがあまりつかなかったことで地味に困っていたので、Windows の配色をダークからライトに戻す。最初眩しいかな、と思ったがVSCodeなどはそもそもカラースキーマで白色を指定していたし、Windows Terminalのメイン部はもともと黒色だしで、全体的に戻しても影響は少なく、すぐに慣れてしまった。

---

腕痛5日目。昨晩も寝ては起きてはを繰り返したのだけど、昨日に比べたら良くなっている気がする。ロキソニンが効いているときにはほとんど痛みを感じない程度にはなってきた。夜は那須山温泉に行き、温泉に浸かると腕の痛みがかったく感じなくなる。なるほど、温泉の効能以前に水の浮力で腕が浮くからなのか。お年寄りになるとしょっちゅう温泉に入りたくなる気持ちがわかった。

---

腕が痛く、今日も一日家に引きこもりかなぁと思っていたのだけど、妻が駅前に買い物にいくというので相乗りして、自分はIris Bread & Coffee で読書。ここのアップルパイは大変好きな味で、アップルパイ三回目。その後温泉にも車で連れてってもらい、ありがたい。

---

クラゲのような照明。

---

ベクトル・行列からはじめる最適化数学読み進めは12.4の最小二乗法の例。

引き続き肩(というか腕の上腕部)が痛さが続く四日目。昨晩も寝てる最中に何度も痛さで起きる。ロキソニンを服用すると数時間はだいぶましになる。体が悪いと何事も億劫になってしまって、老後はこんな風になっていくであろう体と付き合っていくことになるのだよなぁ、億劫は敵。

---

ふとしたことで知った一級建築士かつフォトグラファーの、アキラ・タカウエ氏。建築物の切り取り方が独特で好きな写真だ。記事の作例なんかも、独特の作例で面白いのだよなぁ。

---

昨晩、回転寿司のテレビ番組をちょっと観た影響で、回転寿司が食べたくなりくらはま寿司へ。二人で1000~2000円で毎度満足できて偉い。

その後は那珂川河畔公園を散歩。川では漁業券を肩に付け釣りをしている方が居て、15cmぐらいの魚をちょうど釣り上げていた。水面を覗くと、いたるところに数cmの稚魚がいて、これからどんどん育っていきそう。渓流釣りシーズンももうすぐだなぁ。

公園の桜はまだ開花しておらず、かわりに梅はちょうど満開でそちらを楽しむ。

---

1997年の映画007 Tomorrow Never Diesを観る。スパイ映画と言うよりは終始アクション映画、面白ギミック満載のボンドカーに爆笑してしまう。Windows95発売後のタイミングで、デジタル化的な描写はアチラこちらにあるのだけど、一般認知が低かったであろうインターネットな描画はないあたりがちょうど時代を感じさせる。

ベトナムのサイゴン（ホーチミン）が舞台で、25年前のホーチミンはこんな感じだったのかという点でも面白かったな。

引き続き肩が痛い。昨晩は痛くない体勢を探らなければ常時痛くて寝付けない、ぐらいの痛さ。痛さの部所からよくよく考えてみると、ちょうど痛くなりだした10日前にモデルナのブースト接種(3回目)やった場所なのだよなぁ。外側から見て解るような斑点などが出ているわけではないのだけど、モデルナアーム的な症状なのか、筋肉注射の炎症反応なのか。

---

昼食はフランクリンズカフェで。タンドリーチキンカレーがめちゃくちゃ美味しい。鶏肉がゴロゴロ。このカレーを食べにまた訪れたい旨さ。

---

その後、赤沼せせらぎ公園に行き散歩。何がある、という公園でもないのだけど、川沿いで人もおらずゆっくりできる場所。テントを張ってキャンプしている人も居て気持ちよさそう。水道もトイレもあるしね。椅子とテーブルだけ持ってきてゆっくり過ごす、みたいなのも良さそうだなぁ。桜はどれもあとちょっとで咲くぞー、という蕾であった。

---

今日の運転は肩の痛さにかまけて、ほぼ妻に運転してもらう。ありがとう。

引き続き左肩が痛い日。ロキソニン飲んだり湿布張ったりしたが、とりわけ緩和された感じはせず。

---

ミモザの花、すぐ散ってしまいそうと思っていたが、意外ともっている。偉い。

---

プロ野球シーズンが開幕したので、DAZN for docomo に加入する。DAZNは今年から大幅値上げ(月額1925円→3000円へ)されたのだけど、DAZN for docomoは4月中旬までに加入すれば、以前の料金プラン(月額1925円)で継続して使えるという。このプランの存在は知っていたのだけど、docomoユーザのみなのかなと勝手に思っていたら、別に誰でも入れるという。初月無料なのも嬉しい。今季のプロ野球シーズンが終わるまではDAZN継続しそうだ。

---

チ。―地球の運動について―の1・2巻が期間限定無料になっていたので、読んだら面白くて既刊全巻を購入する。世代交代しながら話が進むのだけど、あんまり世代交代物って漫画で見かけない気がする。メイン登場人物変わっちゃうし。世代交代物は、幼少の頃にやったロマサガ2の影響で、それだけで良い方向にバイアスがかかる。

一日左肩が痛い日。昨日なにか肩が痛くなりそうなことやったっけ？と思え返すもとりわけ思い当たらない。夜寝るときも、だいぶ痛い感じ。

---

暖かくなってきたので、最近使ってなかった自転車を引っ張り出し、近隣をちょっと走る。でこぼこ道は振動が肩に伝わって痛い。近所の水田では水を張り始めていた。今日は曇り空だけど、青空が反射すると綺麗そうだ。

焼肉じゅうじゅうで昼食を食べ、上州屋で釣具を買い、烏ヶ森公園を散歩し、千本松牧場のふれあい広場で動物とふれあい、千本松温泉に入って帰るという、充実した一日。焼肉じゅうじゅうは2月オープンの焼肉屋で、いわゆるランチ焼肉定食をやっていた。このへんであんまりランチ焼肉定食を見かけないので嬉しい。

---

烏ヶ森公園の寒桜。公園は結構広く、桜もたくさんある。桜はもう咲きそう、という蕾で、来週あたり見頃そうだなぁ。公園のベンチで昼ごはんをとっている人達も結構居て、近くで昼食を買ってここで食べるというプランも良さそうだ。

---

千本松牧場のふれあい広場、甘く見ていたけど色々楽しい。ヤギ好きなのでヤギとも触れ合える楽しさ。餌を持っていないとヤギは人間をなんとも思わないので（餌を持っていると突進してくるけど）、程よい距離感で楽しめる。鳥もいろいろな鳥が居て、キンケイはカズレーザーっぽい鳥だなと思っていたら、バズったことがあるっぽい。

千本松温泉も甘く見ていたのだけど、木々に囲まれる露天風呂があり結構良かったなぁ。空いていたのでボーッと時間を過ごす。

---

ベクトル・行列からはじめる最適化数学読み進めは12.2解と12.3最小2乗問題を解く、まで。解では、編微分から勾配が0になるように解を導出する。驚くことに、11章の線形連立一次方程式を解く方法で近似解を求めることができる。

つまるところQR分解で、いわゆる線形回帰の結果を求められるわけで、なるほどなぁ。ちょっとnotebookに書いて確かめてみる。は～面白い。

現像の正解がわからなくなってきたので、昨年からLightroomについたAIによるおすすめプリセット機能で選択。ざっくりとプリセットが適用されたものを見比べられるし、自分では使わないようなパラメータのプリセットもたくさんあるので、なるほどこんな風になるのか、と時たま便利に使っている。

---

ベクトル・行列からはじめる最適化数学読み進めはIII部に入り、12章最小二乗法の12.1の最小二乗問題まで。距離について復習のため3章のノルムと距離を読み直したり。線形代数における線形最小二乗法は、優決定の連立一次方程式では、ほとんどの場合厳密解が存在せず、残差ノルムが最小になるような近似解（最小解・最適解）を求めることである。毎度ながら知っているアルゴリズムであっても切り口が線形代数なので面白いなぁ。

南国食堂マムアンで昼食。タイ・ベトナム料理のお店。お店の自家製というカオマンガイのソースが非常に好みの味付けで美味しかった。

---

那須山温泉++。久しぶりの温泉＆サウナ。温泉帰りもまだ明るく、日が落ちるのが遅くなったなぁ。温泉入り口のたぬき。

---

最短コースでわかる ディープラーニングの数学をえいやと読んだ。後半は回帰とニューラルネットワークの実装やテクニックの話なので、前半の理論編よりあっさりと読み終わる。誤差逆伝播法の説明が前半の理論編と比較して意外なほどサラッと説明していて、これで解るのかな？という感じではあった。書籍ゼロから作るDeep Learningでは一章まるまる誤差逆伝播法の説明があって、あれぐらい説明されて自分はやっと理解することができた記憶。

そう言えばそろそろゼロから作るDeep Learning ❹――強化学習編が発売される(4月6日発売)ので目次を見てみると、めちゃ興味を引く内容で面白そうだなぁ。

---

ベクトル・行列からはじめる最適化数学読み進めは11章逆行列のnotebookをやる。やっている最中、早速QR分解を忘れていたのでどんな性質だっけと10章に遡る。行列の列が線形独立なら正規直交の行列Qと、行列Rに分解できる。Qは正規直交なのでQ.T @ Q = Iの性質を持つ。

ヴァンデルモンド行列の連立方程式を解いたものがラグランジュ多項式補完となるのも面白いなぁ。こういう数学の性質はきちんと理解していれば様々なところで応用ができるのだろうが、今は「こう応用できる」を示されないと全然わからんのだよなぁ。

従姉妹の結婚式で築地へ。東京は暖かく、満開の桜。人生の縮図が伝わってくる良い結婚式であった。お幸せに。

---

帰りは新幹線でサクッと。東北新幹線が先日の地震で一部区間通行止めにより、ほとんどが各駅停車の新幹線「なすの」となり那須塩原に停車するという、ある意味ありがたいダイヤとなっていた。毎度楽しみにしている、JRの新幹線社内誌トランヴェールに載っている沢木耕太郎の旅のつばくろは今月で最後で、楽しみが一つ減ってしまった。

---

今回の行き帰りでは、積読の本を読もうと最短コースでわかる ディープラーニングの数学を読む。そもそもディープラーニングに最低限必要な知識を、損失関数、行列演算、勾配下降法、シグモイドとソフトマックス関数、最尤推定、誤差逆伝播法として、理論編ではそれらの数学的な基礎を解説し、実践編では線形回帰・ロジスティック回帰・最後にニューラルネットワークまでを説明する。7割ぐらい読みすすめた（理論編＋αぐらい）のだけど、主に解析学(の初歩)関連の解説となっておりなるほど～。

例えば線形代数は内積説明のための三角関数、内積や内積のなす角度、行列積の計算とサラッとした感じであるし、確率も二項分布～正規分布、正規分布関数とシグモイド関数の類似性やシグモイド関数の微分のやりやすさ、ぐらいの説明となっていてページ数の割り振りも少ない。対して微分、極限、指数対数、ネイピア数、偏微分、全微分あたりはかなりページをさいてしっかりと説明している。内容的にも高校数学の必要な部分の総復習、という感じなので難しくない。

だいたいニューラルネットワーク本におまけ程度に載っている数学解説は「この公式や計算方法を覚えておいてね」ぐらいなのだけど、この本はきちんと基礎と大体の証明を行い、かつきちんとそれらがどの工程で使われるのか、というのが読み進めていくと解る感じになっていて、なかなか良い本なのでは、という感想を持った。もうちょっとで読み切れるので、えいやと読んでしまいたい。