単語埋め込みモデル#

- word2vec デモ実習 colaboratory
https://github.com/ShinAsakawa/xerion/blob/master/notebooks/2019wbaihandson_word2vec_demo.ipynb
センテンス埋め込みモデル#
- 2018年は自然言語処理にとってのイメージネットブレークの時であったと言われたりします。すなわち人間超えしました性能で話題となりました。
-
また最近炎上した GPT-2 に関する open AI のブログ も参照してください
- BERT の colaboratory デモ
- これらのモデルは一つのモデルで複数の課題に転移学習可能であることを示しました。