A Day in the Life

Jelly 2が届く・BERTによる自然言語処理入門 / 2022年1月12日

小型スマートフォンのJelly 2が届いて、メインのスマフォをダウングレードすべくセットアップ。今までのスマフォ(Galaxy S20)と比べるとなんと小さなこと!何故ダウングレードしようと思ったか、果たしてダウングレードの試みは成功するのか、等はまた後日書こうと思う。


BERTによる自然言語処理入門 ―Transformersを使った実践プログラミング―を読んだ。ニューラルネットワークで自然言語処理を取り扱えるRNN、Word2Vec、ELMoの歴史と実装を振り返り、BERTはどんな仕組みなのか、具体的にできることと実装、等々わかりやすく全般が書かれており、BERTのインデクスを知るのに良い本だった。深く掘り下げる前に俯瞰できる。また、これ系の本はなんとなく読みにく印象があたのだけど、サクッと読めたのもわかりやすいからなのだろうな。

BERTのtransformersのドキュメントを見ると、BertForXXX という汎用タスクもいくつもあって、表現の扱いやすさもあるのだろうなぁ。

また本で利用していた、日本語Wikipedia入力誤りデータセットも面白い。なるほどWikipediaのdiffから、日本語入力誤りを抽出してるのか、頭良い。

撮影機材E-M1 Mark III/LEICA DG SUMMILUX 25/F1.4 II

同じ日付の日記

お気に入りのマクロ M.ZUIKO DIGITAL ED 60mm F2.8 Macro・牡蠣餃子 / 2021年1月12日
軽く雨も振り、寒かったので散歩は無しの日。こんな日は部屋でのマクロ撮影が捗る。持っているマクロレンズは二本、フルサイズで等倍マクロのSEL90M28Gと、マイクロフォーサーズでハーフマクロのM.ZUIKO DIGITAL ED 60mm F2.8 Macro。SEL90M28Gは...
軽く雨も振り、寒かったので散歩は無しの日。こんな日は部屋でのマクロ撮影が捗る。持っているマクロレンズは二本、フルサイズで等倍マクロのSEL9...
🇮🇳ゴールコンダ砦・ハイデラバードビリヤニ / 世界一周105日目
今回ハイデラバードに立ち寄った主目的である、ゴールコンダ砦へ。インド三大砦と呼ばれる、メヘランガール砦、ダウラターバード砦には今回の旅行で立ち寄ったので、どうせならまだ行っていない砦である、ゴールコンダ砦にも行ってみたかったのだ。ゴールコンダ砦は10km以上の外壁に覆われた城塞都...
今回ハイデラバードに立ち寄った主目的である、ゴールコンダ砦へ。インド三大砦と呼ばれる、メヘランガール砦、ダウラターバード砦には今回の旅行で立...