position_embedding部署时的注意点

对于position_embedding,在使用模型进行推理或者部署时,可以将只依赖position_embedding的模块进行固化,如position_embedding后面接一个全连接层进行一个映射,可以将这个全连接层的结果固化下来,因为在推理或部署时,因为position_embedding或者全连接层都不会进行参数更新了,所以结果是固定的,因此可以将结果直接固化,减少了一些的计算量。