Attention is All You Need

Bu makale, geleneksel yinelemeli veya evrişimli ağlara olan ihtiyacı ortadan kaldıran, yalnızca dikkat mekanizmalarına dayanan yeni bir basit ağ mimarisi olan Transformer'ı tanıtıyor. Transformer modeli, makine çevirisi görevlerinde üstün performans göstererek, önceki en iyi modelleri önemli ölçüde geride bırakmıştır. Paralelleştirilebilir yapısı sayesinde eğitim süresini azaltır ve farklı görevlere kolayca adapte edilebilir.