İçeriğe geç

Attention is All You Need

"Mem.ai" aracının arkasındaki bilimsel makalenin özeti.

Bu makale, geleneksel yinelemeli veya evrişimli ağlara güvenmek yerine, girdi ve çıktı arasındaki bağımlılıkları tamamen dikkat mekanizmalarıyla modelleyen yeni bir basit ağ mimarisi olan Transformer'ı sunmaktadır. Dikkat mekanizması, bir dizideki her kelime arasındaki ilişkileri değerlendirerek, makinenin çeviri ve dil anlama görevlerinde daha iyi performans göstermesini sağlar.