Attention is All You Need
"Google Gemini" aracının arkasındaki bilimsel makalenin özeti.
Bu makale, bir diziyi girdi olarak alıp başka bir diziyi üreten sekans modelleme görevleri için yeni bir yaklaşım sunuyor. Önerilen model, dikkat mekanizmaları kullanarak girdi ve çıktı dizileri arasındaki bağımlılıkları doğrudan modelliyor. Geleneksel yinelemeli veya evrişimli ağlara ihtiyaç duymadan, bu model makine çevirisi görevlerinde üstün performans gösteriyor ve daha kolay paralelleştirilebiliyor.