大規模言語モデルの肝「単語ベクトル」とは？「単語を数字の組で表す」「ぬくもりを捨てることで実現した技術」「Transformerはとにかく何かいい感じになる」など、自然言語を扱うコンピュータ科学の技術について話しました。
この回の内容
- 0:00コアラの対義語は？
- 0:46大規模言語モデルの肝「単語ベクトル」
- 6:36単語を数字の組で表す
- 14:32実際には「次元圧縮」している
- 18:00対義語は真逆のベクトル？
- 21:57ぬくもりを捨てることで実現した技術
- 26:56素晴らしきNotionAI
- 30:18文脈化単語埋め込みは味付け化係
- 38:34とにかく何かいい感じになる
- 43:33ニューラルネットワークとは何なのか
この回で紹介された本・参考文献