Attention is All You Need
"Notion AI" aracının arkasındaki bilimsel makalenin özeti.
Bu makale, dizisel hesaplamayı tamamen ortadan kaldıran ve yalnızca dikkat mekanizmalarına dayanan yeni bir basit ağ mimarisi olan Transformer'ı sunmaktadır. Bu mimari, paralelleştirme potansiyelini artırırken çeviri kalitesinde de önemli gelişmeler sağlamaktadır. Deneyler, bu modelin üstün kalitesini ve verimliliğini göstermektedir.