2025年2月20日
我が家のゲスト宿泊向けに、試しに買ったキャンプ用インフレーターマットでリビングで寝てみる。問題なく寝れて、一晩ぐらいなら十分な感じがする。小さく収納できるし、ゲスト用にピッタリ。
寝室じゃなくてリビングで寝ると、違った雰囲気でこれもまたよし。
朝散歩。結構早めの時間だったが、白鳥はおらずだった。
最近取り組んでいたデータセットを公開する。データセット作成のためのTransformerモデルも二つ作ったのだけど、結局やっていることはLLMを使っての知識抽出→小さいモデルに転移して処理、みたいな蒸留・転用でしかない。LLMの推論コストが無視できる程度(今は小さなモデルに転移すれば1/1000ぐらいのサイズで同じことができる)になれば不要なプロセスなんだけどね。
Qwen や DeepSeek の登場で、モデルの出力データのライセンスが緩くなって、LLMの知識転用がやりやすくなったのはありがたい限り。あと5年ぐらいは知識転用した超小型モデルの優位性はあるんじゃないかなー。
ちなみに今回一番大変だったのはディスクのスペース不足。手元の3.7TBのストレージじゃ普通にやると足りなくなって、やりくりしてどうにか。22TBぐらいのHDDを次のPCでは付けるかな。