Attention is All You Need
"Copy.ai" aracının arkasındaki bilimsel makalenin özeti.
Bu makale, geleneksel yinelemeli veya evrişimli ağları tamamen ortadan kaldıran ve yalnızca dikkat mekanizmalarına dayanan yeni bir basit ağ mimarisi olan Transformer'ı sunmaktadır. Makale, makine çevirisi görevlerinde, bu yeni modelin daha hızlı eğitilebildiğini ve daha yüksek doğruluk elde ettiğini göstermektedir. Dikkat mekanizmalarının, diziden diziye modellemede devrim yaratabileceğini ve çeşitli görevlerde üstün performans sağlayabileceğini öne sürmektedir.