O‘zbekiston milliy universiteti “axborot xavfsizligi” kafedrasi «Intellektual tizimlar» fanidan mustaqil ishi

Sodda Bayes algoritmida ehtimollikni bashorat qilish

Sodda Bayes klassifikatori Bayes teoremasidan har bir sinf uchun a'zolik ehtimolini bashorat qilish uchun foydalanadi, masalan, berilgan yozuv yoki ma'lumot nuqtasi ma'lum bir sinfga tegishli bo'lish ehtimoli. Eng yuqori ehtimoli bo'lgan sinf eng katta ehtimollik sinfi hisoblanadi. Bu shuningdek, Maximum A Posteriori (MAP) deb nomlanadi

A va B 2 ta hodisaga ega gipoteza uchun MAP:
MAP (A)
= max (P (A | B))
= max (P (B | A) * P (A))/P (B)
= max (P (B | A) * P (A))
Bu yerda P(B) dalil ehtimoli. Natijani normallashtirish uchun ishlatiladi. Bu bir xil bo'lib qoladi, shuning uchun uni olib tashlash natijaga ta'sir qilmaydi.
Sodda Bayes klassifikatori barcha xususiyatlar bir-biri bilan bog'liq emas deb taxmin qiladi. Xususiyatning mavjudligi yoki yo'qligi boshqa biron bir xususiyatning mavjudligi yoki yo'qligiga ta'sir qilmaydi.
Haqiqiy dunyo ma'lumotlar to'plamida biz xususiyatlar bo'yicha ko'plab dalillar berilgan gipotezani sinab ko'ramiz. Shunday qilib, hisob-kitoblar ancha murakkablashadi. Ishni soddalashtirish uchun xususiyat mustaqilligi yondashuvi bir nechta dalillarni ajratish va har birini mustaqil deb hisoblash uchun ishlatiladi.

Sodda Bayes algoritmining turlari

Sodda Bayes algoritmining 3 turi mavjud.

1. 
   Gauss Naive (Sodda) Bayes
   
2. 
   Multinomial (Sodda) Bayes
   
3. 
   Bernoulli (Sodda) Bayes
   

Bizda uzluksiz atribut qiymatlari mavjud bo'lganda, biz har bir sinf bilan bog'liq qiymatlar Gauss yoki Oddiy taqsimot bo'yicha taqsimlangan deb taxmin qildik. Misol uchun, mashg'ulot ma'lumotlarida doimiy x atributi mavjud deylik. Biz avval ma'lumotlarni sinf bo'yicha ajratamiz, so'ngra har bir sinfda x ning o'rtacha va dispersiyasini hisoblaymiz. µi qiymatlarning o‘rtacha qiymati va si i-sinf bilan bog‘langan qiymatlarning dispersiyasi bo‘lsin. Aytaylik, bizda xi kuzatish qiymati bor. Keyin, sinf berilgan xi ning ehtimollik taqsimotini quyidagi tenglama bilan hisoblash mumkin

Multinomial Sodda Bayes modelida namunalar (xususiyatlar vektorlari) ko'p nomli (p1, . . . ., pn) tomonidan ma'lum hodisalar yaratilgan chastotalarni ifodalaydi, bu erda pi - i hodisasining yuzaga kelish ehtimoli. Multinomial Naïve Bayes algoritmi ko'p nomli taqsimlangan ma'lumotlarda foydalanish afzalroqdir. Bu matnlarni turkumlashtirishda qo'llaniladigan standart algoritmlardan biridir.
Ko'p o'zgaruvchan Bernoulli hodisa modelida xususiyatlar kirishlarni tavsiflovchi mustaqil mantiqiy o'zgaruvchilardir (ikkilik o'zgaruvchilar). Ko'p nomli model singari, bu model ham atama chastotalari o'rniga ikkilik atama paydo bo'lish xususiyatlaridan foydalaniladigan hujjatlarni tasniflash vazifalari uchun mashhurdir.