Attention is all you need

Bu makale, geleneksel yinelemeli veya evrişimli ağlara olan ihtiyacı ortadan kaldıran, yalnızca dikkat mekanizmalarına dayanan yeni bir basit ağ mimarisi olan Transformer'ı sunmaktadır. Makine çevirisi görevlerinde üstün performans göstererek, dikkat mekanizmalarının sıralı verileri modellemede ne kadar etkili olduğunu göstermiştir.