№1 amaliyot ishi mavzu: Axborot xarakteristikalarini hisoblash Ishdan maqsad

---

№ 1 AMALIYOT ISHI 
Mavzu: Axborot xarakteristikalarini hisoblash
Ishdan maqsad: Shartli entropiya va birlashma entropiya va natijalarni taxlil qilish. 
Nazariy qism. 
Shartli entropiya informatsiya nazariyasida kodlanuvchi alfavit simvollari orasidagi 
o‘zaro bog‘liqlikni aniqlashda, aloqa kanallari bo‘yicha informatsiya uzatishdagi 
yo‘qotishlarni aniqlashda va birlashma entropiyani xisoblashda ishlatiladi.
Entropiyalarni jamlash qoidasiga muvofiq ikkita mazmun jixatidan turli 
(mustaqil) kitoblardagi informatsiya miqdori – aloxida kitoblardagi informatsiya 
miqdorlarining yig‘indisiga teng. Agar bir kitob ikkinchi kitobning qismini o‘z 
ichiga olsa, ushbu ikki kitobdagi informatsiya miqdori aloxida kitoblardagi 
informatsiya miqdorlarlarining yig‘indisiga teng bo‘lmaydi, balki undan kam 
bo‘ladi. Bu xolda informatsiya miqdorini o‘lchashda shartli entropiya 
tushunchasidan foydalaniladi. 
Shartli entropiyani xisoblashda shartli ehtimolliklar u yoki bu ko‘rinishda 
ishlatiladi. 
Agar n ta xabar uzatilganida A simvoli m marta, B simvoli l marta, A simvoli
B simaoli bilan birgalikda k marta paydo bo‘lgan bo‘lsa A simvolning paydo bo‘lish 
ehtimolligi
; B simvolning paydo bo‘lish ehtimolligi 
;
A va B simvollarning birgalikda paydo bo‘lish ehtimolligi p
; B simvolga 
nisbatan A simvolning paydo bo‘lishining shartli ehtimolligi
; A simvolga nisbatan B 
simvolning paydo
bo‘lishining shartli ehtimolligi
. 
Ushbu ifodalardan foydalanib A va B simvollarning birgalikda paydo bo‘lish 
ehtimolligini aniqlash mumkin.