ゆるラジオindex 編集部より
コアラの対義語は、何だと思いますか。
大規模言語モデルの肝である「単語ベクトル」を扱う回です。単語を数字の組で表すとはどういうことか、次元圧縮とは何か。
ぬくもりを捨てることで、この技術は実現しました。
この回の内容
- 0:00コアラの対義語は？
- 0:46大規模言語モデルの肝「単語ベクトル」
- 6:36単語を数字の組で表す
- 14:32実際には「次元圧縮」している
- 18:00対義語は真逆のベクトル？
- 21:57ぬくもりを捨てることで実現した技術
- 26:56素晴らしきNotionAI
- 30:18文脈化単語埋め込みは味付け化係
- 38:34とにかく何かいい感じになる
- 43:33ニューラルネットワークとは何なのか
この回に出てくる言葉
番組でくり返し語られる言葉です。押すと、その語が話題になった回が並びます。
この回で紹介された本・参考文献
- 大規模言語モデル入門
- キテレツおもしろ自然言語処理
- 風俗の虫―捜査官が覗いた日本の風俗70年
- 入門深層学習の革命児！Transformer を今こそ理解しよう