Attention is All You Need

Bu makale, makine çevirisi gibi görevlerde yaygın olarak kullanılan tekrar eden veya evrişimli katmanlara olan ihtiyacı ortadan kaldıran yeni bir basit ağ mimarisi olan Transformer'ı sunmaktadır. Tamamen dikkat mekanizmalarına dayanan bu model, paralelleştirme potansiyelini artırırken çeviri kalitesinde de önemli gelişmeler sağlamıştır.