Keras学习笔记(四)：MaxPooling1D和GlobalMaxPooling1D的区别

2023-08-18 01:06| 来源: 网络整理| 查看: 265

区别： 1.GlobalMaxPooling1D:

在steps维度（也就是第二维）对整个数据求最大值。比如说输入数据维度是[10, 4, 10]，那么进过全局池化后，输出数据的维度则变成[10, 10]。

2.MaxPooling1D：

也是在steps维度（也就是第二维）求最大值。但是限制每一步的池化的大小。比如，输入数据维度是[10, 4, 10]，池化层大小pooling_size=2，步长stride=1，那么经过MaxPooling(pooling_size=2, stride=1)后，输出数据维度是[10, 3, 10]。

实例：

只考虑一条样本，可以认为是SGD（随机梯度下降），假设这条样本三个字，词向量（eg.word2vec）如下所示，数据维度是 [1,4,3]。一般我们不会直接将数据送进池化层，此处假设更方便。

MaxPooling1D: 假设我们通过一个MaxPooling1D(pool_size=2, strides=1)的池化层，那么数据的变化过程如下所示。步长是1，池化层大小是2。 the [[.7, -0.2, .1] |池化大小是2，所以一次选两个字，首先对 boy [.8, -.3, .2] | 前两个向量求最大值，也就是the和boy。 | 步长是1，移动到 will [.2, -.1, .4] | boy和will live [.4 -.4, .8]]

最后返回的维度是 [1,3,3]。

GlobalMaxPooling1D: 全局最大，返回的是一个二维张量，维度是 [1,3]，也就是 live对应的词向量。

GlobalMaxPooling1D的前后维度变化可以简单总结为：

输入维度： 3维张量 (batch_size, steps, features)输出维度： 2维张量 (batch_size, features) 模型比较：

可以用以下代码构造模型，比较两个不同的池化层前后数据维度的变化情况。

import numpy as np from keras.models import Sequential from keras.layers import Dense, LSTM, GlobalMaxPooling1D D = np.random.rand(10, 6, 10) model = Sequential() model.add(LSTM(16, input_shape=(6, 10), return_sequences=True)) model.add(MaxPooling1D(pool_size=2, strides=1)) model.add(LSTM(10)) model.add(Dense(1)) model.compile(loss='binary_crossentropy', optimizer='sgd') # print the summary to see how the dimension change after the layers are # applied print(model.summary()) # try a model with GlobalMaxPooling1D now model = Sequential() model.add(LSTM(16, input_shape=(6, 10), return_sequences=True)) model.add(GlobalMaxPooling1D()) model.add(Dense(1)) model.compile(loss='binary_crossentropy', optimizer='sgd') print(model.summary())

【本文地址】

公司简介

联系我们