Attention is All You Need

Bu makale, makine çevirisi gibi sıra tabanlı işleme görevlerinde devrim yaratan 'Transformer' modelini tanıtıyor. Geleneksel tekrar eden ağlar yerine, bu model dikkat mekanizmalarına dayanarak giriş ve çıkış arasındaki bağımlılıkları tamamen paralel bir şekilde modelliyor. Bu yaklaşım, performansı artırırken eğitimi de hızlandırıyor.