大きめなGPUメモリを使ってみたくなったので、NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition を購入する。ワークステーション向けなのだが、ビルドクオリティ・外観が良いね。これからサーバ箱の中に入れるので、ほぼ見みなくなるのだが…。これで Blackwell GPU はRTX5090x2に次いで3つ目。出た当時は軒並みライブラリが対応しておらず、うまく動かなかったりしたのだが、最近は Blackwell のエコシステムも安定してきたしね。立て続けに、GPUやサーバなどそこそこ高い買い物をしているが、一世代前の GPU H100 1枚よりも、合計してもまだ全然お安いのでお得(?)。

ソフトウェアコードの実装はエーアイによりだいぶ短縮できるようになってきて、他の部分が研究・開発のボトルネックになってきてる。そのうちの一つが GPU を使った学習・推論で、とりわけモデル作成をする場合、イテレーションを速く回したい。回す回数が多ければ多いほど、フィードバック回数が増え、エーアイも人間も知見が溜まっていく。また自由なライセンス選択ができるデータセットも大量に作成したい(ので推論速度も重要)。

素早く、かつクラウドGPUやAPIを使うより安く済ませられるなら、これぐらいの設備投資はむしろじゃんじゃんすべきなのだが、ソフトウェア開発の原価は人件費以外ほぼかからない(ラップトップ一つで十分)、という環境でずっと来たので、なかなか設備投資に踏ん切れないんだよなぁ。