1 savol Замонавий маълумот узатиш тизимларининг роли ва аҳамияти

10. Хабарлар манбаи учун Шеннон теоремаси. 3-Maruza
Шовқинсиз алоқа каналлари орқали узатиладиган маълумотларни самарали кодлаштириш Шеннон теоремасига асосланади:
Агар маълумот манбаининг энтропияси Н [бит/символ] га ва алоқа каналининг узатиш қобилияти С [бит/сек] га (алоқа каналининг узатиш қобилияти деганда, унинг энг максимал маълумот узатиш тезлигини таъминлаши тушунилади) тенг бўлса , ҳар доим шундай кодлаш усулини топиш мумкинки, каналда маълумот узатиш тезлигининг ўртача қиймати ушбу формула негизида ҳисобланган тезликга тенг бўлади:

Н- маълумот манбанинг энтропияси;
С- алоқа каналининг узатиш қобилияти.
Shovqinsiz aloqa kanallari orqali uzatiladigan ma’lumotlarni samarali kodlashtirish Shennon teoremasiga asoslanadi:
Agar ma’lumot manbaining entropiyasi N [bit/simvol] ga va aloqa kanalining uzatish qobiliyati S [bit/sek] ga (aloqa kanalining uzatish qobiliyati deganda, uning eng maksimal ma’lumot uzatish tezligini ta’minlashi tushuniladi) teng bo‘lsa, har doim shunday kodlash usulini topish mumkinki, kanalda ma’lumot uzatish tezligining o‘rtacha qiymati ushbu formula negizida hisoblangan tezlikga teng bo‘ladi:

[simvol/sek ]

N- ma’lumot manbaning entropiyasi

S- aloqa kanalining uzatish qobiliyati.
E’tiborni teoremaning isbotiga qaratmasdan, uning imkoniyatiga to‘xtalamiz: ushbu teorema kod simvollarining bir xil ehtimol va bir-biriga bog‘liq bo‘lmagan holda kelib tushishini ta’minlaydi, har bir simvol yordamida bir nuqtadan ikkinchisiga uzatilayotgan axborot hajmi log₂ k (bit/element) ga teng bo‘ladi.
Lekin teorema qanday usul asosida samarali kodlash mumkinligi to‘g‘risida hech qanday ko‘rsatma bermaydi.
Keltirilgan xususiyatlarga asoslanib, ma’lumotlarning o‘zaro bog‘liq va o‘zaro bog‘liq bo‘lmagan simvollarini samarali kodlash bo‘yicha bir qator algoritmlar ishlab chiqilgan, ular bugunda ham samarali kodlash jarayonlarida qo‘llaniladi. Algoritmlar ma’lumot manbaida ko‘p qaytariladigan simvollarni eng kichik uzunlikdagi kod kombinatsiyalari bilan kodlashga asoslanadi. Axborotni kamroq bitlarni sarflab uzatish axborotni kodlashtirishning samarali usullarining maqsad va vazifasi hisoblanadi. Axborotni kodlashtirishning samarali usullaridan foydalanilganda kanalning o‘tkazuvchanlik qobiliyatidan samarali foydalanish mumkin.