Attention is All You Need
"GPTSora.io" aracının arkasındaki bilimsel makalenin özeti.
Bu makale, dil çevirisi ve diğer görevler için tamamen dikkat mekanizmalarına dayanan yeni bir basit ağ mimarisi olan Transformer'ı sunmaktadır. Tekrarlama veya evrişim kullanmak yerine, bu mimari girdi ve çıktı arasındaki bağımlılıkları modellemek için yalnızca dikkat mekanizmalarına dayanır. Paralelleştirilebilirliği artırırken ve eğitim için gereken süreyi önemli ölçüde azaltırken, çeviri kalitesinde önemli iyileştirmeler elde edilmiştir.