Attention is All You Need
"Meta AI" aracının arkasındaki bilimsel makalenin özeti.
Bu makale, makine çevirisi için yaygın olarak kullanılan tekrar eden ağlara ve evrişimli ağlara bir alternatif olan Transformer adlı yeni bir ağ mimarisi sunmaktadır. Transformer, dikkat mekanizmalarına dayanır ve paralelleştirme özelliği sayesinde eğitim süresini önemli ölçüde azaltır. Makale, Transformer modelinin makine çevirisi görevlerinde üstün performans gösterdiğini ve diğer görevlere de kolayca uygulanabileceğini göstermektedir.