Mavzu: Tasniflash jarayonida ehtimollik qiymatlarini hisoblash va qarorlar chegaralarini aniqlash softmax regressiya Bajardi: Boboqulov. N tekshirdi: Abdullajonova. N mundarija

Mavzu: Tasniflash jarayonida ehtimollik qiymatlarini hisoblash va qarorlar chegaralarini aniqlash. softmax regressiya
Bajardi: Boboqulov.N
Tekshirdi: Abdullajonova.N
Mundarija

• 1 Sharhlar
• 1.1 Silliq arg max
• 1.2 Ehtimollar nazariyasi
• 1.3 Statistik mexanika
• 2 Ilovalar
• 2.1 Neyron tarmoqlari
• 2.2 Kuchaytirishni o'rganish
• 3 Xususiyatlari
• 4 Tarix
• 5 Misol
• 6 Shuningdek qarang
• 7 Izohlar
• 8 Adabiyotlar

Ushbu maqola taxminan yaqinlashishi haqida bitta issiq arg max. Maksimal darajani bir-biriga yaqinlashtirish uchun qarang LogSumExp.
The softmax funktsiyasi, shuningdek, nomi bilan tanilgan softargmax[1]:184 yoki normallashtirilgan eksponent funktsiya,[2]:198 ning umumlashtirilishi logistika funktsiyasi bir nechta o'lchamlarga. Bu ishlatiladi multinomial logistik regressiya va ko'pincha oxirgi sifatida ishlatiladi faollashtirish funktsiyasi a neyron tarmoq tarmoq chiqishini normalizatsiya qilish uchun a ehtimollik taqsimoti asosida taxmin qilingan chiqish sinflari Lyusning tanlagan aksiomasi.
Softmax funktsiyasi kirish sifatida vektorni oladi z ning K haqiqiy sonlar va uni a ga normalizatsiya qiladi ehtimollik taqsimoti iborat K kirish raqamlarining eksponentlariga mutanosib ehtimolliklar. Ya'ni, softmax dasturini qo'llashdan oldin, ba'zi vektor komponentlari salbiy yoki bittadan kattaroq bo'lishi mumkin; va 1 ga qo'shilmasligi mumkin; ammo softmax dasturini qo'llaganidan so'ng, har bir komponent oraliq va komponentlar 1 ga qo'shiladi, shunda ularni ehtimollar deb talqin qilish mumkin. Bundan tashqari, kattaroq kirish komponentlari katta ehtimollarga mos keladi.
Standart (birlik) softmax funktsiyasi formula bilan aniqlanadi
So'z bilan aytganda: biz standartni qo'llaymiz eksponent funktsiya har bir elementga kirish vektorining va ushbu barcha eksponentlarning yig'indisiga bo'lish orqali ushbu qiymatlarni normalizatsiya qilish; bu normallashtirish chiqish vektori tarkibiy qismlarining yig'indisi bo'lishini ta'minlaydi 1 ga teng
O'rniga e, boshqacha tayanch b > 0 dan foydalanish mumkin; ning katta qiymatini tanlash b eng katta kirish qiymatlari pozitsiyalari atrofida ko'proq to'plangan ehtimollik taqsimotini yaratadi. Yozish yoki [a] (haqiqatdan β)[b] iboralarni beradi:[c] .
Ba'zi maydonlarda, sobit o'lchovga mos keladigan sobit,[d] boshqalarida esa parametr β har xil.