Kaggle コンペが終わってしまうと、いそいそとアレコレやっていた時間が無くなり時間にゆとりがだいぶ出る。時間(締切)に追われる感じはなくなった反面、またコンペがやりたくなって面白そうなコンペはないか眺めてしまう。中毒症状～。
Iris Bread and Coffee ではプラムのパンナコッタ。プラム酸っぱい！と思ったが下のパンナコッタと混ぜるとちょうどいい甘さに。
その後は図書館みるるで読書。夕方、ときおり天井に大粒の雨音や足音のような音がして前々から疑問だったのだけど、大量のカラスが降り立つ音であった。黒磯駅前はタイミングによって数千匹のカラスが居るからなぁ。
朝、最近取り組んでいた Kaggle コンペが終わったので、記憶が新鮮なうちに記事を書く。発表時に前回の様なひょっとしたらtop-3に入るかも、といったハラハラは無く、たぶん銀メダル圏中盤だろうなーと思ったら予定調和通りの結果。Private-LB(締切タイミングで始めて公開される、本当のスコア)を見ると8日前に作ったデータと変わらず、ここ8日間ぐらいやったスコアを上げるためのあれこれは結果だけを見ると徒労に終わった感じ。締め切り間際だと、どうしても小さなちまちまとした改善をしてしまいがちだなぁ。まぁ今回も面白かったので良かった。
ランチは8月はまだ行けてなかったgarden AUX PARADISで今月のパスタ。毎度ながらここの生パスタは美味しすぎる。デザートにルバーブのカップケーキを食べる。ルバーブは先日まで知らなかったのだけど、好みの味と知ってから見かけるとついつい頼んでしまう。
久しぶりにちょっとだけこのサイト secon.dev (の裏側)を弄る必要が出てきて、Windows入れ直しにより開発環境が消えてしまったのでセットアップし直し。TypeScriptも久しぶりすぎて、大したことはやってないが慣れるまで時間がかかってしまった。
AI絵の自動生成モデルのStable Diffusion、重みは一般公開されないんじゃないかなーと出たときに思っていたのだけど、昨晩(今日?)公開されてすごい世の中に。HuggingFace の記事では技術的なポイントを丁寧に解説している。はーおもろい…。
テキストエンコーダには今は openai/clip-vit-large-patch14 のCLIPTextModelを使っているようで、かんたんな日本語ならちゃんとembeddingになるけど難しい日本語はダメ。そのうち誰かが日本語でembeddingをあわせたCLIPTextModelを公開するだろうから、英語より精度は落ちるとは言え、普通に日本語で生成も出来るようになるであろう。
Stable Diffusionの重み公開もすごいが、huggingfaceのDiffusersがアツい。Stable DiffusionもDiffusersで使えるし、マルチモーダル学習が統一的な手法ででき、エンドユーザ側も利用方法が統一されるので一気に広がりそうだ。
Diffusersの学習サンプルではポケモン画像を学習させ(この学習データで2 hours on 4xV100 GPUsとだいぶリソースは必要そうだけど)生成できるようにしている。特定ドメインの画像だったり、アニメ風の絵に特化したり、そういうものもいろいろ公開されていきそう。huggingfaceはtransformesにしろ、この辺の抽象化がうまいよなぁ。マジ激アツ。
そして Stable Diffusion を手元で動かしてあれこれ遊ぶ。RTX3090だと、512x512サイズの推論ステップ50回の場合、4秒ぐらいで生成できる。generatorのseedを固定することで初期ノイズが固定されるので、ちょっとずついじるのも面白いな～。
北海道出身の june29 です。数年前の夏の大会で駒大苫小牧が優勝したときは「津軽海峡を渡りました」という表現があったみたいですね。当時、粋なこととして話題になっていたのをなんとなく覚えています。
https://www.sankei.com/article/20220823-NHZVDWX3JJJBTG2C4FUI2LZZMQ/
「白河の関」については知らなかったものの、栃木県の北の方に住む民として白河は身近な場所なのでへぇ〜と思いながら拝読しました。
北海道も最近初優勝したみたいですね。私も白河の関を数日前に知ったので、へぇ～と思いましたよ！リンク先の記事では、スポーツの地域格差(人口密集する都市がどうしても強くなってしまう)にも触れていてなるほどな～。
久しぶりに4:00頃起きる。朝日が出て快晴。全く暑くなく過ごしやすい温度で気持ちが良い朝。
高校野球は仙台育英高校が優勝。東北では春夏の高校野球通して全国優勝は初の快挙。やたら「白河の関を越える」という言葉を見かける。先日行った白河の関所には高校野球祈願が、目の前のラーメン屋のやたべには高校野球のタペストリーがやたら並んでいて、高校野球好きな人たちが居るのかなと思っていたが、東北勢が初全国制覇することを「白河の関を越える」と表現するらしい。たしかに、よく考えると関東と東北を結ぶ関所が白河の関所なのだなぁ。
関東の学校が全国制覇を成し遂げ優勝旗がその学校にもたらされることを、江戸時代の交通の難所（あるいは関所）になぞらえ「箱根の関を越える」と表現することがあった。
甲子園大会ではかつて東北地方以北からは優勝校が出なかったため、関東の高校が優勝して『箱根の関』を越えて以降は、歴史上の関所になぞらえて優勝旗が『白河の関』を越す・越さない、と象徴的に表現されてきた。
朝、トップガン(マーベリックでない)を観る。1986年当時、CGを使わずにこれだけの映像が撮影できたのだから凄いなー。マーベリックも観たいぞ。
これ系のゲームがやりたくなって、サマーセールで安くなっていたPS4のエースコンバット7を購入してちょっと遊ぶ。エースコンバット7はトップガン・マーベリックとDLCタイアップもしてるのね。
kaggleコンペの締め切りまで残りわずか。もう一台GPU使って学習を回したいな、とGCPで高速GPGPUのA100を使えるようにと設定を始める。CPU＆メモリもハイスペックなインスタンスとセットに動かす必要があって、us-west-1で一時間2.79$(ストレージ抜き)。ひと月フルで動かしたら2000$ぐらい。スポットインスタントなら約半額ぐらいになるけど、個人で使うには高価だなぁ。kaggle上位スコアの人の学習マシンを見ると、A100 2x～4xぐらい使ってることもままあって(top-3に入れば20k～300k$ぐらいの賞金は出るとは言え)、なかなかお金のかかるゲームだ。
と、A100周りセットアップを進めると、まずそもそも最初はGCPでは借りることすらできず、GCPに側に申請が必要。このへんはアカウント乗っ取り＋マイニングあたりの対策としても正しそう。そして申請は割とすぐ通ったが、us-west-1 ではA100の空き枠がなくて結局借りれず(インスタンスの立ち上げができない)。A100の人気の高さがうかがえるが、GPUは一世代(今は二年周期)変わると価値がガクッと落ちるので、クラウドデータセンターも潤沢に用意するとそれはそれで設備投資分を回収できるか微妙だろうしなぁ。
体調を崩していたので、最近行けていなかった芦野温泉へ。やはり最高である。
その後、手打中華やたべで白河ラーメンを。ラーメンを頼むと、鶏ガラがまずドンと出てきて面白い。人気店なのでラーメンが出てくるまでそこそこ時間がかかるので、鶏ガラを食べて過ごせるのは良いな。白河ラーメンの系譜で「やたべ系」なんてのもあるのね、知らなかった。
やたべの目の前の白河関跡もついでに観光。静かな場所であった。
夜はO家と Pico Pizzeria へ。いやー、マルゲリータやマリラーナはもちろんのこと、どのピザ食べても美味しい。店の雰囲気も良いし、またお気に入りの店が増えてしまった。
そこら中田園風景。
肉酒場寿楽のスタミナ丼が食べたくなって、また行ってしまった。牛や豚などの人形が可愛い。
天井の採光窓から、時々面白い形の光が落ちる。
金曜ロードショーでとなりとのトトロを観る。トトロを観たのは20年ぶりぐらいな気がする。子供の頃何度も観たので、結構細部も覚えていて幼少の記憶すごいな。改めて見るとトトロやネコバスはかわいいけど爪が長かったり足が10本ぐらいあったりと結構怖さもある。トトロの舞台のような田舎の風景に憧れたけど、今は道がアスファルトなこと以外は結構同じような風景の場所に住んでいる。
朝起きると Kaggle コンペのチームマージのお誘いメッセージが複数件届いている。この日は最終チームマージ締め切りタイミングなのだけど、メダルランクを一つ上に上げる取り組みとしてこのようなお誘いが発生するのね。今回はチームでなく個人でどこまでいけるのかも取り組んでるコンセプトの一つなので、ありがたいお誘いなのだけどお断りさせて頂く。
徐々に体調が戻ってきたが、万全にはまだまだという感じなのでゆっくりとすごす。
