注意力機制(Attention)VS Transformer
差異說明
-
注意力機制(Attention)
是一種讓模型自動「關注」輸入中重要部分的技術。最早被用在 RNN、CNN 等架構裡,幫助模型捕捉長距離依賴或重點資訊。例如,機器翻譯時讓模型知道該專注於哪個單字。 -
Transformer
是一種完整的神經網路架構,完全建立在注意力機制之上。它不只用注意力,還有多層堆疊、前饋神經網路、位置編碼等設計。Transformer 的最大創新是「只用注意力機制」來取代傳統的循環或卷積結構。
關係
-
Transformer = 一種「只用注意力機制」的架構
-
注意力機制 ≠ Transformer,因為注意力也可以用在其他模型(如 RNN+Attention)
小結
你可以把注意力機制想成一個「零件」,而 Transformer 則是「用這個零件打造出來的整台機器」。