İçeriğe geç

Attention is All You Need

"Microsoft Copilot" aracının arkasındaki bilimsel makalenin özeti.

Bu makale, geleneksel yinelemeli veya evrişimli ağlara olan ihtiyacı ortadan kaldıran, yalnızca dikkat mekanizmalarına dayanan yeni ve basit bir ağ mimarisi olan Transformer'ı sunmaktadır. Makine çevirisi görevleri için özellikle uygundur ve hem kalite hem de paralelleştirme açısından önemli gelişmeler sunar.