トランスフォーマー

Transformerとは、2017年にGoogleが発表した深層学習モデル。文章の中の単語同士の関係性（注目すべき場所）を計算する「Attention機構」を使い、翻訳や文章生成の精度を劇的に向上させた。