.. _sec_attention-cues:

Dikkat İşaretleri
=================


Bu kitaba gösterdiğiniz ilgi için teşekkür ederiz. Dikkat kıt bir
kaynaktır: Şu anda bu kitabı okuyor ve gerisini görmezden geliyorsunuz.
Böylece, paraya benzer şekilde, dikkatiniz bir fırsat maliyeti ile
ödeniyor. Şu anda dikkat yatırımınızın değerli olmasını sağlamak için,
güzel bir kitap üretmede dikkatimizi itinalı bir şekilde göstermeye son
derece motive olduk. Dikkat, hayatın kemerindeki kilit taştır ve
herhangi bir işin istisnacılığının anahtarını tutar.

Ekonomi, kıt kaynakların tahsisini incelediğinden, insanların dikkatinin
değiştirilebilecek sınırlı, değerli ve kıt bir hammadde olarak ele
alındığı dikkat ekonomisi çağındayız. Yararlanmak için üzerinde çok
sayıda iş modeli geliştirilmiştir. Müzik veya video akışı hizmetlerinde
ya reklamlarına dikkat ediyoruz ya da bunları gizlemek için para
ödüyoruz. Çevrimiçi oyunlar dünyasında büyüme için, ya yeni oyuncular
çeken savaşlara katılmaya dikkat ediyoruz ya da anında güçlü olmak için
para ödüyoruz. Hiçbir şey bedavaya gelmez.

Sonuçta, çevremizdeki bilgiler kıt değilken dikkat kıttır. Görsel bir
sahneyi incelerken, görsel sinirimiz saniyede :math:`10^8` bit ölçeğinde
bilgi alır ve bu beynimizin tam olarak işleyebileceğini çok aşar. Neyse
ki, atalarımız deneyimlerimizden (veri olarak da bilinir) öğrenmişlerdi
ki, *tüm duyusal girdiler eşit yaratılmamıştır*. İnsanlık tarihi
boyunca, ilgi duyulan bilginin yalnızca bir kısmına dikkati yöneltme
yeteneği, beynimizin, avcıları, avları ve arkadaşları tespit etmek gibi,
hayatta kalmak, büyümek ve sosyalleşmek için kaynakları daha akıllıca
tahsis etmesini sağlamıştır.

Biyolojide Dikkat İşaretleri
----------------------------

Görsel dünyada dikkatimizin nasıl dağıtıldığını açıklamak için iki
bileşenli bir çerçeve ortaya çıktı ve yaygın oldu. Bu fikir 1890'larda
“Amerikan psikolojisinin babası” :cite:`James.2007` olarak kabul
edilen William James'e dayanmaktadır. Bu çerçevede, konular seçici
olarak dikkatin sahne ışığını hem *istemsiz işaret* hem de *istemli
işaret* kullanarak yönlendirir.

İstemsiz işaret, ortamdaki nesnelerin belirginliğine ve barizliğine
dayanır. Önünüzde beş nesne olduğunu düşünün: :numref:`fig_eye-coffee`
şeklinde gösterildiği bir gazete, bir araştırma makalesi, bir fincan
kahve, bir defter ve bir kitap. Tüm kağıt ürünleri siyah beyaz
basılıyken kahve fincanı kırmızıdır. Başka bir deyişle, bu kahve, bu
görsel ortamda kendiliğinden belirgin ve bariz, otomatik ve istemsiz
dikkat çekiyor. Böylece fovea'yı (görme keskinliğinin en yüksek olduğu
makula merkezi) :numref:`fig_eye-coffee` şeklinde gösterildiği gibi
kahvenin üzerine getirirsiniz.

.. _fig_eye-coffee:

.. figure:: ../img/eye-coffee.svg
   :width: 400px

   Belirginliğe dayalı istemsiz işareti kullanarak (kırmızı fincan,
   kağıt olmayan), dikkat istemeden kahveye yönlendirilir.



Kahve içtikten sonra kafeinlenmiş olursunuz ve kitap okumak istersiniz.
Yani başınızı çevirin, gözlerinizi yeniden odaklayın ve
:numref:`fig_eye-book` şeklinde tasvir edildiği gibi kitaba bakın.
Kahve, belirginliğe göre seçme konusunda sizi önyargılı yapar,
:numref:`fig_eye-coffee` şeklindeki durumdan farklı olarak, bu görev
bağımlı durumda bilişsel ve istemli kontrol altında kitabı seçersiniz.
Değişken seçim kriterlerine dayalı istemli işaret kullanarak, bu dikkat
biçimi daha kasıtlıdır. Ayrıca deneğin gönüllü çabaları ile daha
güçlüdür.

.. _fig_eye-book:

.. figure:: ../img/eye-book.svg
   :width: 400px

   Göreve bağlı istemli işaret (kitap okumayı istemek) kullanılarak,
   dikkat istemli kontrol altındaki kitaba yönlendirilir.



Sorgular, Anahtarlar ve Değerler
--------------------------------

Dikkatli konuşlandırmayı açıklayan istemsiz ve istemli dikkat
işaretlerinden esinlenerek, aşağıda bu iki dikkat işaretini
birleştirerek dikkat mekanizmalarını tasarlamak için bir çerçeve
anlatacağız.

Başlangıç olarak, yalnızca istemsiz işaretlerin mevcut olduğu daha basit
durumu göz önünde bulundurun. Duyusal girdiler üzerinden seçimi
önyargılı hale getirmek için, basitçe parametreleştirilmiş tam bağlı bir
katman veya hatta parametrelenmemiş maksimum veya ortalama ortaklama
kullanabiliriz.

Bu nedenle, dikkat mekanizmalarını tam bağlı katmanlardan veya ortaklama
katmanlarından ayıran şey, istemli işaretlerin dahil edilmesidir. Dikkat
mekanizmaları bağlamında, istemli işaretlere *sorgular* olarak atıfta
bulunuyoruz. Herhangi bir sorgu göz önüne alındığında, dikkat
mekanizmaları duyusal girdiler üzerinde seçimi (örneğin, ara öznitelik
temsilleri) *dikkat ortaklama* yoluyla yönlendirir. Bu duyusal girdilere
dikkat mekanizmaları bağlamında *değerler* denir. Daha genel olarak, her
değer bir *anahtar* ile eşleştirilir ve bu durum, bu duyusal girdinin
istemsiz işareti olarak düşünülebilir. :numref:`fig_qkv` içinde
gösterildiği gibi, verilen sorgu (istemli işaret), değerler (duyusal
girdiler) üzerinde ek girdi seçimini yönlendiren anahtarlarla (istemsiz
işaretler) etkileşime girebilmesi için dikkat ortaklamasını
tasarlayabiliriz.

.. _fig_qkv:

.. figure:: ../img/qkv.svg

   Dikkat mekanizmaları, sorguları (istemli işaretleri) ve anahtarları
   (istemsiz işaretleri) içeren dikkat ortaklama aracılığıyla değerler
   (duyusal girdiler) üzerinden seçimi önyargılı kılar.


Dikkat mekanizmalarının tasarımı için birçok alternatif olduğunu
unutmayın. Örneğin, :cite:`Mnih.Heess.Graves.ea.2014` pekiştirmeli
öğrenme yöntemleri kullanılarak eğitilebilen türevlenemeyen bir dikkat
modeli tasarlayabiliriz. :numref:`fig_qkv` şeklindeki çerçevenin
hakimiyeti göz önüne alındığında, bu çerçevedeki modeller bu bölümdeki
dikkatimizin merkezi olacak.

Dikkat Görselleştirme
---------------------

Ortalama ortaklama ağırlıklarının tekdüze olduğu ağırlıklı bir girdi
ortalaması olarak değerlendirilebilir. Pratikte dikkat ortaklama,
verilen sorgu ile farklı anahtarlar arasında ağırlıkların hesaplandığı
ağırlıklı ortalamayı kullanarak değerleri toplar.



.. raw:: html

     <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar code"><a href="#mxnet-1-0" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab is-active">mxnet</a><a href="#pytorch-1-1" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab ">pytorch</a><a href="#tensorflow-1-2" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

     <div class="mdl-tabs__panel is-active" id="mxnet-1-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    from d2l import mxnet as d2l
    from mxnet import np, npx
    
    npx.set_np()



.. raw:: html

     </div>



.. raw:: html

     <div class="mdl-tabs__panel " id="pytorch-1-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    import torch
    from d2l import torch as d2l



.. raw:: html

     </div>



.. raw:: html

     <div class="mdl-tabs__panel " id="tensorflow-1-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    import tensorflow as tf
    from d2l import tensorflow as d2l



.. raw:: html

     </div>



.. raw:: html

     </div>

Dikkat ağırlıklarını görselleştirmek için ``show_heatmaps`` işlevini
tanımlıyoruz. ``matrices`` girdisi (görüntüleme için satır sayısı,
görüntüleme için sütun sayısı, sorgu sayısı, anahtar sayısı) biçimine
sahiptir.



.. raw:: html

     <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar code"><a href="#mxnet-3-0" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab is-active">mxnet</a><a href="#pytorch-3-1" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab ">pytorch</a><a href="#tensorflow-3-2" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

     <div class="mdl-tabs__panel is-active" id="mxnet-3-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    #@save
    def show_heatmaps(matrices, xlabel, ylabel, titles=None, figsize=(2.5, 2.5),
                      cmap='Reds'):
        """Matrislerin ısı haritalarını gösterir"""
        d2l.use_svg_display()
        num_rows, num_cols = matrices.shape[0], matrices.shape[1]
        fig, axes = d2l.plt.subplots(num_rows, num_cols, figsize=figsize,
                                     sharex=True, sharey=True, squeeze=False)
        for i, (row_axes, row_matrices) in enumerate(zip(axes, matrices)):
            for j, (ax, matrix) in enumerate(zip(row_axes, row_matrices)):
                pcm = ax.imshow(matrix.asnumpy(), cmap=cmap)
                if i == num_rows - 1:
                    ax.set_xlabel(xlabel)
                if j == 0:
                    ax.set_ylabel(ylabel)
                if titles:
                    ax.set_title(titles[j])
        fig.colorbar(pcm, ax=axes, shrink=0.6);



.. raw:: html

     </div>



.. raw:: html

     <div class="mdl-tabs__panel " id="pytorch-3-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    #@save
    def show_heatmaps(matrices, xlabel, ylabel, titles=None, figsize=(2.5, 2.5),
                      cmap='Reds'):
        """Matrislerin ısı haritalarını gösterir"""
        d2l.use_svg_display()
        num_rows, num_cols = matrices.shape[0], matrices.shape[1]
        fig, axes = d2l.plt.subplots(num_rows, num_cols, figsize=figsize,
                                     sharex=True, sharey=True, squeeze=False)
        for i, (row_axes, row_matrices) in enumerate(zip(axes, matrices)):
            for j, (ax, matrix) in enumerate(zip(row_axes, row_matrices)):
                pcm = ax.imshow(matrix.detach().numpy(), cmap=cmap)
                if i == num_rows - 1:
                    ax.set_xlabel(xlabel)
                if j == 0:
                    ax.set_ylabel(ylabel)
                if titles:
                    ax.set_title(titles[j])
        fig.colorbar(pcm, ax=axes, shrink=0.6);



.. raw:: html

     </div>



.. raw:: html

     <div class="mdl-tabs__panel " id="tensorflow-3-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    #@save
    def show_heatmaps(matrices, xlabel, ylabel, titles=None, figsize=(2.5, 2.5),
                      cmap='Reds'):
        """Matrislerin ısı haritalarını gösterir"""
        d2l.use_svg_display()
        num_rows, num_cols = matrices.shape[0], matrices.shape[1]
        fig, axes = d2l.plt.subplots(num_rows, num_cols, figsize=figsize,
                                     sharex=True, sharey=True, squeeze=False)
        for i, (row_axes, row_matrices) in enumerate(zip(axes, matrices)):
            for j, (ax, matrix) in enumerate(zip(row_axes, row_matrices)):
                pcm = ax.imshow(matrix.numpy(), cmap=cmap)
                if i == num_rows - 1:
                    ax.set_xlabel(xlabel)
                if j == 0:
                    ax.set_ylabel(ylabel)
                if titles:
                    ax.set_title(titles[j])
        fig.colorbar(pcm, ax=axes, shrink=0.6);



.. raw:: html

     </div>



.. raw:: html

     </div>

Gösterim için, dikkat ağırlığının yalnızca sorgu ve anahtar aynı
olduğunda bir olduğu basit bir durum düşünün; aksi takdirde sıfırdır.



.. raw:: html

     <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar code"><a href="#mxnet-5-0" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab is-active">mxnet</a><a href="#pytorch-5-1" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab ">pytorch</a><a href="#tensorflow-5-2" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

     <div class="mdl-tabs__panel is-active" id="mxnet-5-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    attention_weights = np.eye(10).reshape((1, 1, 10, 10))
    show_heatmaps(attention_weights, xlabel='Keys', ylabel='Queries')



.. figure:: output_attention-cues_054b1a_27_0.svg




.. raw:: html

     </div>



.. raw:: html

     <div class="mdl-tabs__panel " id="pytorch-5-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    attention_weights = torch.eye(10).reshape((1, 1, 10, 10))
    show_heatmaps(attention_weights, xlabel='Keys', ylabel='Queries')



.. figure:: output_attention-cues_054b1a_30_0.svg




.. raw:: html

     </div>



.. raw:: html

     <div class="mdl-tabs__panel " id="tensorflow-5-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    attention_weights = tf.reshape(tf.eye(10), (1, 1, 10, 10))
    show_heatmaps(attention_weights, xlabel='Keys', ylabel='Queries')



.. figure:: output_attention-cues_054b1a_33_0.svg




.. raw:: html

     </div>



.. raw:: html

     </div>

Sonraki bölümlerde, dikkat ağırlıklarını görselleştirmek için sıklıkla
bu işlevi çağıracağız.

Özet
----

-  İnsanın dikkati sınırlı, değerli ve kıt bir kaynaktır.
-  Denekler hem istemsiz hem de istemli işaretleri kullanarak dikkati
   seçici olarak yönlendirir. Birincisi, belirginliğe dayanır ve
   ikincisi görev bağımlıdır.
-  Dikkat mekanizmaları, istemli işaretlerin dahil edilmesi nedeniyle
   tam bağlı katmanlardan veya ortaklama katmanlarından farklıdır.
-  Dikkat mekanizmaları, sorguları (istemli işaretler) ve anahtarları
   (istemsiz işaretler) içeren dikkat ortaklama aracılığıyla değerler
   (duyusal girdiler) üzerinden seçimi önyargılı kılar. Anahtarlar ve
   değerler eşleştirilir.
-  Sorgular ve anahtarlar arasındaki dikkat ağırlıklarını
   görselleştirebiliriz.

Alıştırmalar
------------

1. Makine çevirisinde bir dizinin kodunu andıç andıç çözerken istemli
   işaret ne olabilir? İsteğe bağlı olmayan sinyaller ve duyusal
   girdiler nelerdir?
2. Rastgele bir :math:`10 \times 10`'luk bir matris oluşturun ve her
   satırın geçerli bir olasılık dağılımı olduğundan emin olmak için
   softmaks işlemini kullanın. Çıktı dikkat ağırlıklarını
   görselleştirin.



.. raw:: html

     <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar text"><a href="#mxnet-7-0" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab is-active">mxnet</a><a href="#pytorch-7-1" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab ">pytorch</a><a href="#tensorflow-7-2" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

     <div class="mdl-tabs__panel is-active" id="mxnet-7-0">

`Tartışmalar <https://discuss.d2l.ai/t/1596>`__



.. raw:: html

     </div>



.. raw:: html

     <div class="mdl-tabs__panel " id="pytorch-7-1">

`Tartışmalar <https://discuss.d2l.ai/t/1592>`__



.. raw:: html

     </div>



.. raw:: html

     <div class="mdl-tabs__panel " id="tensorflow-7-2">

`Tartışmalar <https://discuss.d2l.ai/t/1710>`__



.. raw:: html

     </div>



.. raw:: html

     </div>