トランスフォーマーの論文を読む

トランスフォーマーの論文である「Attention Is All You Need」は、Googleブレインの研究者だったAshish Vaswaniらによって2017年に発表されました。

BERT、GPTなどの大規模言語モデルのベースであり、言語モデルに興味がある人ならその名前を知らない人はいないぐらいに有名な論文です。