Izohlar
- ^ Ijobiy β maksimal konvensiya bilan mos keladi va mashinada o'rganishda odatiy bo'lib, eng katta ehtimolga ega bo'lgan eng yuqori ballga mos keladi. Salbiy −β minimal konvensiyaga mos keladi va termodinamikada an'anaviy bo'lib, eng katta ehtimollikka ega bo'lgan eng past energiya holatiga mos keladi; bu konvensiyaga mos keladi Gibbsning tarqalishi, tarjima qilish β kabi sovuqlik.
- ^ Notation β uchun termodinamik beta, bu teskari harorat: ,
- ^ Uchun (sovuqlik nol, cheksiz harorat), va bu doimiy funktsiyaga aylanadi ga mos keladigan diskret bir xil taqsimot.
- ^ Statistik mexanikada fiksatsiya β sovuqligi va harorati 1 ga teng deb talqin etiladi.
Adabiyotlar
- ^ Xayrli do'st, Ian; Bengio, Yoshua; Courville, Aaron (2016). "6.2.2.3 Multinoulli chiqishi uchun tarqatish uchun Softmax birliklari". Chuqur o'rganish. MIT Press. 180-184 betlar. ISBN 978-0-26203561-3.
- ^ a b Bishop, Kristofer M. (2006). Naqshni tanib olish va mashinada o'rganish. Springer. ISBN 0-387-31073-8.
- ^ a b Sako, Yusaku (2018-06-02). "Softmax" atamasi sizni yong'oqni qo'zg'atadimi? ". O'rta.
- ^ Goodfellow, Bengio & Courville 2016, 183–184-betlar: "softmax" nomi biroz chalkash bo'lishi mumkin. Funktsiya max funktsiyasidan ko'ra arg max funktsiyasi bilan chambarchas bog'liqdir. "Yumshoq" atamasi softmax funktsiyasi uzluksiz va farqlanadigan ekanligidan kelib chiqadi. Uning natijasi bitta issiq vektor sifatida ifodalangan arg max funktsiyasi uzluksiz yoki farqlanadigan emas. Shunday qilib softmax funktsiyasi arg max ning "yumshatilgan" versiyasini taqdim etadi. Maksimal funktsiyaning mos keladigan yumshoq versiyasi . Ehtimol, softmax funktsiyasini "softargmax" deb atash yaxshiroq bo'lar edi, ammo hozirgi nomi mustahkam konvensiya.
5, ^ LeCun, Yann; Chopra, Sumit; Xadsell, Raiya; Ranzato, Mark'Aurelio; Xuang, Fu Jie (2006). "Energiyaga asoslangan ta'lim bo'yicha qo'llanma" (PDF). Goxan Bakirda; Tomas Hofmann; Bernxard Shylkopf; Aleksandr J. Smola; Ben Taskar; S.V.N Vishvanatan (tahrir). Tuzilgan ma'lumotlarning bashorat qilinishi. Asabli ma'lumotlarni qayta ishlash seriyasi. MI T Press. ISBN 978-0-26202617-8.
Do'stlaringiz bilan baham: |