A Day in the Life

Stable DiffusionとDiffusersヤバイ / 2022年8月23日

AI絵の自動生成モデルのStable Diffusion、重みは一般公開されないんじゃないかなーと出たときに思っていたのだけど、昨晩(今日?)公開されてすごい世の中に。HuggingFace の記事では技術的なポイントを丁寧に解説している。はーおもろい…。

テキストエンコーダには今は openai/clip-vit-large-patch14 のCLIPTextModelを使っているようで、かんたんな日本語ならちゃんとembeddingになるけど難しい日本語はダメ。そのうち誰かが日本語でembeddingをあわせたCLIPTextModelを公開するだろうから、英語より精度は落ちるとは言え、普通に日本語で生成も出来るようになるであろう。

Stable Diffusionの重み公開もすごいが、huggingfaceのDiffusersがアツい。Stable DiffusionもDiffusersで使えるし、マルチモーダル学習が統一的な手法ででき、エンドユーザ側も利用方法が統一されるので一気に広がりそうだ。

Diffusersの学習サンプルではポケモン画像を学習させ(この学習データで2 hours on 4xV100 GPUsとだいぶリソースは必要そうだけど)生成できるようにしている。特定ドメインの画像だったり、アニメ風の絵に特化したり、そういうものもいろいろ公開されていきそう。huggingfaceはtransformesにしろ、この辺の抽象化がうまいよなぁ。マジ激アツ。


そして Stable Diffusion を手元で動かしてあれこれ遊ぶ。RTX3090だと、512x512サイズの推論ステップ50回の場合、4秒ぐらいで生成できる。generatorのseedを固定することで初期ノイズが固定されるので、ちょっとずついじるのも面白いな~。


おたより返信コーナ

北海道出身の june29 です。数年前の夏の大会で駒大苫小牧が優勝したときは「津軽海峡を渡りました」という表現があったみたいですね。当時、粋なこととして話題になっていたのをなんとなく覚えています。

https://www.sankei.com/article/20220823-NHZVDWX3JJJBTG2C4FUI2LZZMQ/

「白河の関」については知らなかったものの、栃木県の北の方に住む民として白河は身近な場所なのでへぇ〜と思いながら拝読しました。

北海道も最近初優勝したみたいですね。私も白河の関を数日前に知ったので、へぇ~と思いましたよ!リンク先の記事では、スポーツの地域格差(人口密集する都市がどうしても強くなってしまう)にも触れていてなるほどな~。

仙台育英高校・初の全国優勝 / 2022年8月22日

久しぶりに4:00頃起きる。朝日が出て快晴。全く暑くなく過ごしやすい温度で気持ちが良い朝。


高校野球は仙台育英高校が優勝。東北では春夏の高校野球通して全国優勝は初の快挙。やたら「白河の関を越える」という言葉を見かける。先日行った白河の関所には高校野球祈願が、目の前のラーメン屋のやたべには高校野球のタペストリーがやたら並んでいて、高校野球好きな人たちが居るのかなと思っていたが、東北勢が初全国制覇することを「白河の関を越える」と表現するらしい。たしかに、よく考えると関東と東北を結ぶ関所が白河の関所なのだなぁ。

関東の学校が全国制覇を成し遂げ優勝旗がその学校にもたらされることを、江戸時代の交通の難所(あるいは関所)になぞらえ「箱根の関を越える」と表現することがあった。

甲子園大会ではかつて東北地方以北からは優勝校が出なかったため、関東の高校が優勝して『箱根の関』を越えて以降は、歴史上の関所になぞらえて優勝旗が『白河の関』を越す・越さない、と象徴的に表現されてきた。

--日本の高校野球 - Wikipedia

トップガン・エースコンバット7購入とGCP A100設定 / 2022年8月21日

朝、トップガン(マーベリックでない)を観る。1986年当時、CGを使わずにこれだけの映像が撮影できたのだから凄いなー。マーベリックも観たいぞ。

これ系のゲームがやりたくなって、サマーセールで安くなっていたPS4のエースコンバット7を購入してちょっと遊ぶ。エースコンバット7はトップガン・マーベリックとDLCタイアップもしてるのね。


kaggleコンペの締め切りまで残りわずか。もう一台GPU使って学習を回したいな、とGCPで高速GPGPUのA100を使えるようにと設定を始める。CPU&メモリもハイスペックなインスタンスとセットに動かす必要があって、us-west-1で一時間2.79$(ストレージ抜き)。ひと月フルで動かしたら2000$ぐらい。スポットインスタントなら約半額ぐらいになるけど、個人で使うには高価だなぁ。kaggle上位スコアの人の学習マシンを見ると、A100 2x~4xぐらい使ってることもままあって(top-3に入れば20k~300k$ぐらいの賞金は出るとは言え)、なかなかお金のかかるゲームだ。

と、A100周りセットアップを進めると、まずそもそも最初はGCPでは借りることすらできず、GCPに側に申請が必要。このへんはアカウント乗っ取り+マイニングあたりの対策としても正しそう。そして申請は割とすぐ通ったが、us-west-1 ではA100の空き枠がなくて結局借りれず(インスタンスの立ち上げができない)。A100の人気の高さがうかがえるが、GPUは一世代(今は二年周期)変わると価値がガクッと落ちるので、クラウドデータセンターも潤沢に用意するとそれはそれで設備投資分を回収できるか微妙だろうしなぁ。

手打中華やたべ・白河関跡・Pico Pizzeria / 2022年8月20日

体調を崩していたので、最近行けていなかった芦野温泉へ。やはり最高である。

その後、手打中華やたべで白河ラーメンを。ラーメンを頼むと、鶏ガラがまずドンと出てきて面白い。人気店なのでラーメンが出てくるまでそこそこ時間がかかるので、鶏ガラを食べて過ごせるのは良いな。白河ラーメンの系譜で「やたべ系」なんてのもあるのね、知らなかった。


やたべの目の前の白河関跡もついでに観光。静かな場所であった。


夜はO家と Pico Pizzeria へ。いやー、マルゲリータやマリラーナはもちろんのこと、どのピザ食べても美味しい。店の雰囲気も良いし、またお気に入りの店が増えてしまった。

撮影機材ricoh gr iiix/leica m11/summicron-m 1:2/35 asph.

肉酒場寿楽・スタミナ丼とトトロ / 2022年8月19日


そこら中田園風景。

肉酒場寿楽のスタミナ丼が食べたくなって、また行ってしまった。牛や豚などの人形が可愛い。

天井の採光窓から、時々面白い形の光が落ちる。


金曜ロードショーでとなりとのトトロを観る。トトロを観たのは20年ぶりぐらいな気がする。子供の頃何度も観たので、結構細部も覚えていて幼少の記憶すごいな。改めて見るとトトロやネコバスはかわいいけど爪が長かったり足が10本ぐらいあったりと結構怖さもある。トトロの舞台のような田舎の風景に憧れたけど、今は道がアスファルトなこと以外は結構同じような風景の場所に住んでいる。

撮影機材ricoh gr iiix

2022年8月18日

撮影機材leica m11/Voigtlander NOKTON Vintage Line 50mm F1.5 Aspherical II VM SC

Kaggleコンペ・チームマージのお誘い / 2022年8月17日

朝起きると Kaggle コンペのチームマージのお誘いメッセージが複数件届いている。この日は最終チームマージ締め切りタイミングなのだけど、メダルランクを一つ上に上げる取り組みとしてこのようなお誘いが発生するのね。今回はチームでなく個人でどこまでいけるのかも取り組んでるコンセプトの一つなので、ありがたいお誘いなのだけどお断りさせて頂く。


徐々に体調が戻ってきたが、万全にはまだまだという感じなのでゆっくりとすごす。

国学院栃木・高校野球三回戦敗退 / 2022年8月16日

体調不良につき一回休み。


高校野球は栃木代表の国学院栃木が残念ながら三回戦で負けてしまった。国栃は地元の中学から行った人もそこそこ居るので懐かしい名前であった。

体調不良・GitHub Copilot活用法 / 2022年8月15日

ちょっと体調不良的な気怠さ。滋養強壮ドリンクを飲んで早めに寝る。


最近 python (notebook上) のコードを書いてるのだけど、GitHub Copilotを活用しまくりでマジすごいわ Copilot …。コメントでヒント書かなくてもそれっぽく空気を読んでコードサジェストしてくれるし、日本語で書いたコメントからもいい感じにコードサジェストしてくれる。

コードの自動生成というと、とある実装をぱっと作ってくれるものももちろん便利なのだけど、地味に普通に上の1行をコピペして変数名変えるだけ、みたいなときもささっとサジェストしてくれて(もちろん変数名も自分が入れたい変数になっている)、そういう人間がよくやる自分のコードのコピペを減らすことができてマジ便利なのだよなー。