前面课程中，我们依次学习了编码器中的各个小的模块，最后，只需要把这些小的模块堆叠起来，就组成了一个完整的编码器模块。需要注意的是，注意力机制和前馈神经网络，这两部分会被重复N次，所以我们先定义一个子层，然后再循环N次。

代码示例

1、编码器子层 

内容不可见，请联系管理员开通权限。

2、编码器层 

内容不可见，请联系管理员开通权限。

3、调用测试 

内容不可见，请联系管理员开通权限。

好的，那到目前为止，我们编码器部分的代码就全部完成了，接下来就是做解码器部分。稍作观察，不难发现，解码器的组成单元，基本上跟编码器是一样的，只是参数不同，那么接下来，就一起来实现解码器部分。

本文链接：http://ichenhua.cn/edu/note/659

版权声明：本文为「陈华编程」原创课程讲义，请给与知识创作者起码的尊重，未经许可不得传播或转售！