Si, claro!, eso lo defines tu, que eres el data engineer 🙂
Saludos
Me queda la misma duda, ojalá nos ayuden a aclararla.
]]>https://towardsdatascience.com/dropout-on-convolutional-layers-is-weird-5c6ab14f19b2
El autor de esta nota, Jacob Reinhold, dice que la operación de Dropout sobre capas convolucionales es “extraña”. También he visto que muchos autores aconsejan “no aplicar” Dropout en capas convolucionales. En fin… todo muy apasionante!
Muchas gracias!
]]>Muchas Gracias por tu respuesta!!
Ahora me puedo dar una mejor idea de la aplicación de “Dropout” en CNN.
Lo que todavía no entiendo muy bien qué pasa con la actualización de los “pesos” de esas neuronas desconectadas, en cada iteración.
En las CNN todas las neuronas de un “mapa de características” comparten los mismos pesos… (ojo creo que es así…!). Ahí está lo que no entiendo.
Buscando en el manual de Keras, existe una variación del método “Dropout” que se llama “SpatialDropout2D”, que pone a cero todo un mapa de características, en vez de poner a cero elementos individuales de esos arrays.
https://keras.io/api/layers/regularization_layers/spatial_dropout2d/
Bueno Juan Ignacio, eso es todo. Espero haber podido expresar bien mis dudas.
Abrazo, y Felicitaciones por tu trabajo!
]]>Hola Miguel, está bien lo que apuntas y a eso se le llama “Border Effect Problem”, sin embargo para resolverlo se usa el Padding. Te dejo un enlace muy interesante donde se explica todo esto:
Padding and Stride for CNN
Saludos!
]]>Hola Wilfredo, gracias por escribir, lo que hace el dropout es anular algunas de las neuronas de una capa de la CNN “a propósito”, para forzar al resto a reacomodar sus pesos para que a pesar de esa falta de información, sea capaz de reconocer el patrón que se busca.
Cuando aprendí esto, me quedé perplejo y fascinado a la vez!.
Si te pones a pensar, imagino que miras un objeto tapándote los ojos con las manos, pero dejando un poquito de espacio entre los dedos (como si fuera una persiana). A pesar de estar “tapando” un poco tu visión, seguro serás capaz de interpretar la imagen que ves.
Un Saludo!