O„zaro ma‟lumotlar – bitta tasodifiy kattalikdan boshqasiga nisbatan mavjud bo‗ladigan ma‘lumotlar miqdorini tavsiflaydigan ikkita tasodifiy kattaliklarning statistik funksiyasi hisoblanadi.
O‗zaro ma‘lumotlar ikkita tasodifiy kattaliklarning entropiyasi va shartli entropiyasi orqali quyidagicha aniqlanadi:
L(X ,Y ) H (X ) H (X / Y ) H (X ) H (Y ) H (X ,Y )
O‗zaro ma‘lumotlar tasodifiy kattaliklarning simmetrik funksiyasi hisoblanadi:
L( X ,Y ) L(Y , X )
O‗zaro ma‘lumotlar manfiy bo‗lmagan va argumentlarning axborot entropiyasidan ortiq bo‗lmaydi:
0 L( X ,Y ) min H ( X ), H (Y )
O‗zaro ma‘lumotlar bog‗liq bo‗lmagan tasodifiy kattaliklar uchun nolga teng bo‗ladi:
L(X ,Y ) H (X ) H (X / Y ) H (X ) H (X ) 0
Bitta tasodifiy kattalik (masalan, X) boshqa tasodifiy kattalikning (masalan, Y) determinantlangan funksiyasi bo‗lganida o‗zaro ma‘lumotlar entropiyaga teng bo‗ladi:
L(X ,Y ) H (X ) H (X / Y ) H (X ) 0 H (X )
Shartli o„zaro ma‟lumotlar bu berilgan uchinchi tasodifiy kattalikning qiymat shartida bitta tasodifiy kattalikdan boshqasiga nisbatan mavjud bo‗ladigan ma‘lumotlar miqdorini tavsiflaydigan uchta tasodifiy kattaliklarning statistik funksiyasi hisoblanadi:
L( X ,Y / Z z) H (X / Z z) H ( X / Y , Z z)
Do'stlaringiz bilan baham: |