正余弦函数

2024/4/12 6:49:17

一、为什么Transformer需要对输入进行位置编码因为Transformer的输入并没有内涵位置信息，同样的词在不同位置，或者同一个序列以不同顺序输入，对应的词间都会得到相同的注意力权重和输出，但是在NLP领域，词的顺序会极大地…