注意力機制(Attention)VS Transformer

差異說明 

  • 注意力機制(Attention)
    是一種讓模型自動「關注」輸入中重要部分的技術。最早被用在 RNN、CNN 等架構裡,幫助模型捕捉長距離依賴或重點資訊。例如,機器翻譯時讓模型知道該專注於哪個單字。

  • Transformer
    是一種完整的神經網路架構,完全建立在注意力機制之上。它不只用注意力,還有多層堆疊、前饋神經網路、位置編碼等設計。Transformer 的最大創新是「只用注意力機制」來取代傳統的循環或卷積結構。

關係 

  • Transformer = 一種「只用注意力機制」的架構

  • 注意力機制 ≠ Transformer,因為注意力也可以用在其他模型(如 RNN+Attention)

小結 

你可以把注意力機制想成一個「零件」,而 Transformer 則是「用這個零件打造出來的整台機器」。