.. _sec_padding:
Dolgu ve Uzun Adımlar
=====================
Önceki :numref:`fig_correlation` örneğinde, girdimizin hem yüksekliği
hem de genişliği 3 idi ve evrişim çekirdeğimizin hem yüksekliği hem de
genişliği 2 idi, bu da :math:`2\times2` boyutlu bir çıktı gösterimi
sağladı. :numref:`sec_conv_layer` içinde genelleştirdiğimiz gibi,
girdinin şeklinin :math:`n_h\times n_w` olduğunu ve evrişim çekirdeğinin
şeklinin :math:`k_h\times k_w` olduğunu varsayarsak, çıktının şekli
:math:`(n_h-k_h+1) \times (n_w-k_w+1)` olacaktır. Bu nedenle, evrişimli
tabakanın çıktı şekli, girdinin şekli ve evrişim çekirdeğinin şekli ile
belirlenir.
Bazı durumlarda, çıktının boyutunu etkileyen dolgu ve uzun adımlı
evrişimler dahil olmak üzere teknikleri dahil ediyoruz.Motivasyon
olarak, çekirdeklerin genellikle :math:`1`'den büyük genişliğe ve
yüksekliğe sahip olduğundan, birçok ardışık evrişim uyguladıktan sonra,
girdimizden önemli ölçüde daha küçük çıktılar elde etme eğiliminde
olduğumuzu unutmayın. :math:`240 \times 240` piksel imgeyle başlarsak,
:math:`10` tane :math:`5 \times 5` evrişim katmanı imgeyi
:math:`200 \times 200` piksele indirir, imgenin :math:`\% 30`'unu
keserek atar ve orijinal imgenin sınırları hakkındaki ilginç bilgileri
yok eder. *Dolgu*, bu sorunu ele almada en popüler araçtır.
Diğer durumlarda, örneğin orijinal girdi çözünürlüğünün kullanışsız
olduğunu görürsek, boyutsallığı büyük ölçüde azaltmak isteyebiliriz.
*Uzun adımlı evrişimler*, bu örneklerde yardımcı olabilecek popüler bir
tekniktir.
Dolgu
-----
Yukarıda açıklandığı gibi, evrişimli katmanları uygularken zor bir
sorun, imgemizin çevresindeki pikselleri kaybetme eğiliminde olmamızdır.
Tipik olarak küçük çekirdekler kullandığımızdan, herhangi bir evrişim
için, yalnızca birkaç piksel kaybedebiliriz, ancak birçok ardışık
evrişimli katman uyguladığımız için bu kayıplar toplanarak artacaktır.
Bu soruna basit bir çözüm, girdi imgemizin sınırına ekstra dolgu
pikselleri eklemek, böylece imgenin etkin boyutunu arttırmaktır. Tipik
olarak, ekstra piksellerin değerlerini sıfıra ayarlarız.
:numref:`img_conv_pad` içinde, :math:`3 \times 3`'lük girdiyi
doldurarak boyutunu :math:`5 \times 5`'e yükseltiyoruz. Karşılık gelen
çıktı daha sonra bir :math:`4 \times 4` matrisine yükselir. Gölgeli
kısımlar, çıktı hesaplamasında kullanılan girdi ve çekirdek tensör
elemanlarının yanı sıra ilk çıktı elemanıdır:
:math:`0\times0+0\times1+0\times2+0\times3=0`.
.. _img_conv_pad:
.. figure:: ../img/conv-pad.svg
Dolgu ile iki boyutlu çapraz korelasyon.
Genel olarak, toplam :math:`p_h` satırlı dolgu (kabaca yarısı üstte ve
altta yarısı) ve toplam :math:`p_w` sütunlu dolgu (kabaca yarısı solda
ve sağda yarısı) eklersek, çıktının şekli şöyle olur:
.. math:: (n_h-k_h+p_h+1)\times(n_w-k_w+p_w+1).
Bu, çıktının yüksekliğinin ve genişliğinin sırasıyla :math:`p_h` ve
:math:`p_w` artacağı anlamına gelir.
Birçok durumda, girdiye ve çıktıya aynı yüksekliği ve genişliği vermek
için :math:`p_h=k_h-1` ve :math:`p_w=k_w-1`'i ayarlamak isteyeceğiz. Bu,
ağ oluştururken her katmanın çıktı şeklini tahmin etmeyi
kolaylaştıracaktır. :math:`k_h`'nın burada tek sayı olduğunu
varsayarsak, yüksekliğin her iki tarafında :math:`p_h/2` satır dolgu
olacak. Eğer :math:`k_h` çift ise, bir olasılık girdinin üstünde
:math:`\lfloor p_h/2\rfloor` ve altında :math:`\lceil p_h/2\rceil` satır
dolgu olmasıdır. Genişliğin her iki tarafını da aynı şekilde
dolduracağız.
CNN'ler genellikle 1, 3, 5 veya 7 gibi tek yükseklik ve genişlik
değerlerine sahip evrişim çekirdeklerini kullanır. Tek sayı çekirdek
boyutlarını seçmek, üstte ve altta aynı sayıda satır ve solda ve sağda
aynı sayıda sütun ile doldururken uzamsal boyutsallığı koruyabilmemiz
avantajına sahiptir.
Dahası, bu boyutsallığı hassas bir şekilde korumak için tek sayı boyutlu
çekirdekler ve dolgu kullanma uygulaması rutinsel faydalar sağlar.
Herhangi bir iki boyutlu tensör ``X`` için, çekirdeğin boyutu tek
olduğunda ve her iki taraftaki dolgu satırları ve sütunlarının sayısı
aynı olduğunda, girdiyle aynı yüksekliğe ve genişliğe sahip bir çıktı
ürettiğini, ``Y[i, j]`` çıktısının girdi ve ``X[i, j]`` ile ortalanmış
pencereli evrişim çekirdeğinin çapraz korelasyonu ile hesaplandığını
biliyoruz.
Aşağıdaki örnekte, yüksekliği ve genişliği 3 olan iki boyutlu bir
evrişimli tabaka oluşturuyoruz ve her tarafa 1 piksel dolgu uyguluyoruz.
Yüksekliği ve genişliği 8 olan bir girdi göz önüne alındığında, çıktının
yüksekliğinin ve genişliğinin de 8 olduğunu buluruz.
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
from mxnet import np, npx
from mxnet.gluon import nn
npx.set_np()
# Kolaylık sağlamak için evrişimli katmanı hesaplamada bir fonksiyon tanımladık.
# Bu işlev, evrişimli katman ağırlıklarını başlatır
# ve girdi ve çıktıda karşılık gelen boyutsallık yükseltmelerini
# ve azaltmalarını gerçekleştirir
def comp_conv2d(conv2d, X):
conv2d.initialize()
# Burada (1, 1) grup boyutunun ve kanal sayısının her
# ikisinin de 1 olduğunu gösterir.
X = X.reshape((1, 1) + X.shape)
Y = conv2d(X)
# Bizi ilgilendirmeyen ilk iki boyutu hariç tutun: Örnekler
# ve kanallar
return Y.reshape(Y.shape[2:])
# Burada her iki tarafta 1 satır veya sütunun doldurulduğunu unutmayın,
# bu nedenle toplam 2 satır veya sütun eklidir.
conv2d = nn.Conv2D(1, kernel_size=3, padding=1)
X = np.random.uniform(size=(8, 8))
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
(8, 8)
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
import torch
from torch import nn
# Kolaylık sağlamak için evrişimli katmanı hesaplamada bir fonksiyon tanımladık.
# Bu işlev, evrişimli katman ağırlıklarını başlatır
# ve girdi ve çıktıda karşılık gelen boyutsallık yükseltmelerini
# ve azaltmalarını gerçekleştirir
def comp_conv2d(conv2d, X):
# Burada (1, 1) grup boyutunun ve kanal sayısının her
# ikisinin de 1 olduğunu gösterir.
X = X.reshape((1, 1) + X.shape)
Y = conv2d(X)
# Bizi ilgilendirmeyen ilk iki boyutu hariç tutun: Örnekler
# ve kanallar
return Y.reshape(Y.shape[2:])
# Burada her iki tarafta 1 satır veya sütunun doldurulduğunu unutmayın,
# bu nedenle toplam 2 satır veya sütun eklidir.
conv2d = nn.Conv2d(1, 1, kernel_size=3, padding=1)
X = torch.rand(size=(8, 8))
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
torch.Size([8, 8])
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
import tensorflow as tf
# Kolaylık sağlamak için evrişimli katmanı hesaplamada bir fonksiyon tanımladık.
# Bu işlev, evrişimli katman ağırlıklarını başlatır
# ve girdi ve çıktıda karşılık gelen boyutsallık yükseltmelerini
# ve azaltmalarını gerçekleştirir
def comp_conv2d(conv2d, X):
# Burada (1, 1) grup boyutunun ve kanal sayısının her
# ikisinin de 1 olduğunu gösterir.
X = tf.reshape(X, (1, ) + X.shape + (1, ))
Y = conv2d(X)
# Bizi ilgilendirmeyen ilk iki boyutu hariç tutun: Örnekler
# ve kanallar
return tf.reshape(Y, Y.shape[1:3])
# Burada her iki tarafta 1 satır veya sütunun doldurulduğunu unutmayın,
# bu nedenle toplam 2 satır veya sütun eklidir.
conv2d = tf.keras.layers.Conv2D(1, kernel_size=3, padding='same')
X = tf.random.uniform(shape=(8, 8))
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
TensorShape([8, 8])
.. raw:: html
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
# Burada yüksekliği 5 ve genişliği 3 olan bir evrişim çekirdeği
# kullanıyoruz. Yüksekliğin ve genişliğin her iki tarafındaki
# dolgu sayıları sırasıyla 2 ve 1'dir.
conv2d = nn.Conv2D(1, kernel_size=(5, 3), padding=(2, 1))
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
(8, 8)
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
# Burada yüksekliği 5 ve genişliği 3 olan bir evrişim çekirdeği
# kullanıyoruz. Yüksekliğin ve genişliğin her iki tarafındaki
# dolgu sayıları sırasıyla 2 ve 1'dir.
conv2d = nn.Conv2d(1, 1, kernel_size=(5, 3), padding=(2, 1))
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
torch.Size([8, 8])
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
# Burada yüksekliği 5 ve genişliği 3 olan bir evrişim çekirdeği
# kullanıyoruz. Yüksekliğin ve genişliğin her iki tarafındaki
# dolgu sayıları sırasıyla 2 ve 1'dir.
conv2d = tf.keras.layers.Conv2D(1, kernel_size=(5, 3), padding='same')
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
TensorShape([8, 8])
.. raw:: html
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
conv2d = nn.Conv2D(1, kernel_size=3, padding=1, strides=2)
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
(4, 4)
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
conv2d = nn.Conv2d(1, 1, kernel_size=3, padding=1, stride=2)
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
torch.Size([4, 4])
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
conv2d = tf.keras.layers.Conv2D(1, kernel_size=3, padding='same', strides=2)
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
TensorShape([4, 4])
.. raw:: html
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
conv2d = nn.Conv2D(1, kernel_size=(3, 5), padding=(0, 1), strides=(3, 4))
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
(2, 2)
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
conv2d = nn.Conv2d(1, 1, kernel_size=(3, 5), padding=(0, 1), stride=(3, 4))
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
torch.Size([2, 2])
.. raw:: html
.. raw:: html
.. raw:: latex
\diilbookstyleinputcell
.. code:: python
conv2d = tf.keras.layers.Conv2D(1, kernel_size=(3,5), padding='valid',
strides=(3, 4))
comp_conv2d(conv2d, X).shape
.. raw:: latex
\diilbookstyleoutputcell
.. parsed-literal::
:class: output
TensorShape([2, 1])
.. raw:: html
.. raw:: html
.. raw:: html
`Tartışmalar `__
.. raw:: html
.. raw:: html
`Tartışmalar `__
.. raw:: html
.. raw:: html
`Tartışmalar `__
.. raw:: html
.. raw:: html