Belgisiz parametrlerdi esaplaw

Belgisiz parametrlerdi esaplaw
Joba :
I. Kirisiw
II. Tiykarǵı bólim
2. 1. Belgisiz parametrlerdi bahalaw
1) Statistikalıq bahalar hám olardıń ózgeshelikleri
2) Noqatlıq bahalaw usılları
3) Interval bahalaw
2. 2. Belgisiz parametrlerdi statistikalıq bahalar hám olardıń ózgeshelikleri
III. Juwmaq
Iv. Paydalanılǵan ádebiyatlar

I. Kirisiw

Bilgenimizdey statistikalıq tekserisler dawamında gúzetshi aldında bir qansha máseleler payda boladı. Joytıwǵa iye sistema yamasa cenzuralanıw bar ekenliginde statistikalıq bahoni alıw júdá qıyın, sol sebepli bunday jaǵdaylarda iterativ usıllardan paydalanıladı. Bunday iterativ usıllardan biri Nyuton -Rafson usılınıń bir kórinisi bolǵan EM algoritmı bolıp tabıladı. EM algoritmı ingilizcha “Expectation maximization “sózleriniń qısqartpası bolıp, matematikalıq kutilmani maksimallastırıw algoritmı degen mánisti ańlatadı. EM algoritmı tolıqsız maǵlıwmatlar máselelerinde Xaqiqatga maksimal uqsawlıq bahası ushın júdá ulıwma algoritm bolıp tabıladı. EM algoritmı járdeminde sheshiliwi múmkin bolǵan máseleler kólemi júdá keń. EM algoritmında tolıqsız maǵlıwmatlardı qayta islew ideyası formallashgan bolıp, ol tómendegilerden ibarat :
1. Joǵatılǵan maǵlıwmatlardı onıń bahası menen toltırıw.
2. Parametrlerdi bahalaw.
3. Túsirip qaldırilgan bahalardı qayta bahalaw, bunda parametr bahaları anıq dep esaplanadı.
4. Parametrler qayta bahalanadı, process jaqınlasıwıǵa shekem dawam ettiriledi.
Tolıq maǵlıwmatlar ushın haqıyqatqa uqsawlıq funksiyası logarifmi boyınsha sızıqlı bolǵan processlerdi EM algoritmı esaplaydı yamasa ulıwma halda ayırım joytıwlardı bahalamastán joǵatılǵan jetkilikli statistikanı bahalaw.
Ekenin aytıw kerek, házirgi dáwirde derlik barlıq tarawdaǵı qánigelikshiler, qánigeler itimallar teoriyasın óz tarawlarına nátiyjeni ámelde qollanıw etpekteler. Sebebi, búgingi kúnde barlıq pán tarawlarınıń rawajlanıwın itimallar teoriyasısız oyda sawlelendiriw qıyın. Barlıq tarawdaǵı bolajaq pán kandidatleri ózleriniń dissertatsiyalarında itimallar teoriyası hám matematikalıq statistikadan paydalanmoqdalar. Bul bolsa bolajaq qánigelerdiń dáwir talabına juwap bere alatuǵın qániyge retinde qáliplesiwine járdem beredi. Bul bolsa házirgi kúniń aktual máselelerinen biri esaplanadı.

II. Tiykarǵı bólim

2. 1. Belgisiz parametrlerdi bahalaw
Statistikalıq bahalar hám olardıń ózgeshelikleri
Shama menen oylayıq, bólistiriw funksiyası belgisiz parametr ga baylanıslı bolǵan t. m. X berilgen bolsın. Basqasha etip aytqanda, kuzatilayotgan t. m. X dıń bólistiriw funksiyası f () bir parametrli parametrik bólistiriw funksiyalar shańaraǵına tiyisli bolsın. Endi tájiriybe nátiyjesinde alınǵan maǵlıwmatlar járdeminde belgisiz parametr ni “qayta tiklew”, yaǵnıy málim mániste oǵan jaqın bolǵan hám tájiriybeler tiykarında tolıq tiklenetuǵın qandayda -bir muǵdardı dúziw máselesin kóreylik. Θ arqalı dıń bahaları kompleksin belgileymiz.
Shama menen oylayıq, X t. m. dıń kolemi n ga teń bolǵan tańlanmasi bolsın.
 gúzetilbelerdiń qálegen funksiyası statistika dep ataladı.
Tariypdan kelip shıǵadıki, statistika tek gúzetilbelerge baylanıslı bolǵan tosınarlı muǵdar bolıp, ol tájiriybe nátiyjesinde tolıq anıqlanadı.
 Eger bolsa, ol halda statistika noma'lun parametr ushın baha dep ataladı.
Tariypdan kelip shıǵadıki, bir parametr ushın bir neshe statistikalıq baha usınıs etiliwi múmkin. Sol sebepli, statistikalıq bahalardan málim mániste “jaqsı” ózgesheliklerge ıyelewleri talap etiledi. Ádetde hár qanday statistikalıq bahalardıń tómendegi ózgesheliklerge ıyelewligi maqsetke muwapıq bolıp tabıladı.
Jıljımaǵan baha
 Egerde statistikalıq bahoning matematikalıq kutilmasi belgisiz parametrge teń, yaǵnıy
(1)
bolsa, statistikalıq baha jıljımaǵan baha dep ataladı.
Eger statistikalıq baha ushın bolsa, ol jıljıǵan baha dep ataladı hám -jılısıw úlkenligi boladı.
Belgisiz parametr X t. m. dıń matematikalıq kutilmasi hám lar oǵan uyqas gúzetilbeler bolsın. Tómendegi statistikanı kiritemiz. (2)
Bul jerde -lar teńlikti qánaatlantıratuǵın ózgermeytuǵın sanlar. hám sonday eken, matematikalıq kutilmani esaplaw qaǵıydasınan
(3)
iye bólemiz. Bul teńlikten (2) statistikanıń belgisiz parametr ushın jıljımaǵan baha ekenligi kelip shıǵadı. Atap aytqanda, bolsa (2) den statistikaǵa, egerde bolsa statistikaǵa iye bolamız. (3) munasábet teńlik atqarılatuǵın qálegen lar ushın tuwrı bolǵanlıǵınan hám statistikalar da belgisiz parametr ushın jıljımaǵan baha ekenligi kelip shıǵadı. Sonday eken, bir parametr ushın bir neshe jıljımaǵan baha dúziw múmkin eken. Bul juwmaqtan, tábiyiy, jıljımaǵan bahalardı salıstırıwlaw zárúriyatı kelip shıǵadı.
Optimal baha
Belgisiz parametr ushın jıljımaǵan bahalar kompleksin Ol menen belgileylik. Aldınǵı baplardan ekenin aytıw kerek, t. m. dispersiyasi sol t. m. dıń bahaları onıń matematikalıq kutilmasi átirapında qanshellilik tıǵız yamasa tarqaq jaylasqanlıǵınıń kriteryası boladı. Sol sebepli, tábiyiy, jıljımaǵan bahalardı olardıń dispersiyasiga kóre salıstırıwlaymız.
Shama menen oylayıq, () hám () lar belgisiz parametr ushın jıljımaǵan bahalar bolsın, () hám (). Egerde sol statistikalar ushın
() < ()
munasábet atqarılsa, () baha () bahodan anıqlaw baha dep ataladı.
Sonday eken, bir parametr ushın bir neshe jıljımaǵan bahalar ámeldegi bolsa, onıń statistikalıq bahası retinde anıqlaw bahoni qabıllaw maqsetke muwapıq boladı. Joqarıda biz belgisiz matematikalıq kutilma ushın eki jıljımaǵan hám -lardan ibarat bolǵan bahalardı kórdik. Endi olardı salıstırıwlaylik. Dispersiyani esaplaw qaǵıydasına tiykarlanıp :
(4)
hám boladı.joqarıda keltirilgen salıstırıwlaw qaǵıydasına muwapıq, kórinip turıptı, olda baha bahoga salıstırǵanda anıqlaw boladı.
 Eger () bolsa,- statistikalıq baha optimal baha dep ataladı.
Kórsetiw múmkin statistika belgisiz matematikalıq kutilma ushın barlıq jıljımaǵan sızıqlı bahalar ishinde eń anıq (optimal ) batır.
Tıyanaqlı baha
 Egerde n sheksizlikke intilganda () statistika itimal boyınsha belgisiz parametr ga jaqınlashsa, yaǵnıy qálegen kishi >0 san ushın
{ < }=1
munasábet orınlı bolsa, ol halda () statistikalıq baha tıyanaqlı baha dep ataladı.
Sonday eken, tıyanaqlı baha () tájiriybeler sanı artıp barǵanında belgisiz parametrge itimal boyınsha jaqınlashar eken. Ádetde hár qanday statistikalıq bahodan tıyanaqlı bolıw talap etiledi. Matematikalıq ststistikada tıyanaqlı bolmaǵan bahalar úyrenilmaydi.
1 - mısal. Tańlanma orta baha belgisiz matematikalıq qurılma ga tıyanaqlı baha ekenligin kórsetiń.
Chebishev teńsizligine hám (3) munasábetke qálegen kishi >0 san ushın
{ }.
Aqırǵı teńsizlikte dispersiya chekli bolsa, de limitga ótsek, haqıyqattan da statistikanıń tıyanaqlı baholigi kelip shıǵadı.
Ulıwma, qálegen jıljımaǵan baha () dıń belgisiz parametrge tıyanaqlı baha bolıwlıq shártini keltiremiz.
Teorema. Eger () statistika parametr ushın jıljımaǵan baha bolıp, onıń dispersiyasi bolsa, ol halda ol tıyanaqlı baha boladı.
Tastıyıq. () statistika jıljımaǵan baha bolǵanı ushın (). Ol halda qálegen >0 ushın Chebishev teńsizliginen tómendegi teńsizlikti jaza alamız :
{ < }. (5)
Biraq, shártga kóre, qálegen tayınlanǵan >0 ushın de
Sonday eken, (5) teńsizlikten () statistikanıń tıyanaqlı baha ekenligi kelip shıǵadı.
Noqatlıq bahalaw usılları
Biz aldınǵı paragraflarda statistikalıq bahalar hám olardıń ózgeshelikleri menen tanıstık. Statistikalıq bahalar qanday tabıladı? Mine sol sorawǵa juwap beremiz. Statistikalıq bahalar dúziwdiń eki usılın kórip shıǵamız.
I. Momentler usılı
Shama menen oylayıq, gúzetilbeleri lardan ibarat hám bólistiriw funksiyası belgisiz parametr ga baylanıslı bolǵan t. m. bolsın. Birinshi bapta tańlanma momentler túsiniklerin kirgizdik hám olardıń ayırım ózgeshelikleri menen tanıstık. Atap aytqanda, KSQ ga tiykarlanıp tańlanma momentler tájiriybeler sanı úlken bolǵanında teoriyalıq momentlerge qálegenshe jaqın bolıwlıǵın bildik. Momentler usılı tiykarında mine sol jaqınlıq ideyası jatadı.
Shama menen oylayıq tosınarlı muǵdardıń birinshi ta momentleri ámeldegi bolsın. Tuwrısıda, olar belgisiz parametrdiń funksiyaları boladılar., tańlanma momentlerin uyqas túrde, larda teńlestirip r ta teńlemeler sistemasın tuzib alamız :
(6 )
Mine sol teńlemeler sistemasın larga salıstırǵanda sheship, sheshimlerge iye bolamız. Sonday tabılǵan, statistikalar momentler usılı menen belgisiz, paramertlar ushın dúzilgen statistikalıq bahalar boladı.
2 - mısal. Matematikalıq kutilmasi hám dispersiyasi no'malum bolǵan, tıǵızlıq funksiyası bolǵan normal nızamdı qaraylıq. Belgisiz hám parametrlerdi momentler usılında bahalaylik. Bul halda (6 ) teńlemeler tómendegi kóriniste boladı
hám
Nátiyjede momentler usılı menen dúzilgen statistikalıq bahalar
kóriniste boladı.
Momentler usılı menen tabılǵan statistikalıq bahalar ayırım jaǵdaylarda jıljımaǵan, tıyanaqlı hám eń anıq bahalar boladı.
II. Haqıyqatqa maksimal uqsawlıq usılı
Gúzetilbeleri lardan hám ulıwmalasqan tıǵızlıq funksiyası den ibarat t. m. ni alaylıq. Eger diskret t. m. bolsa, itimallıqlardan, úzliksiz t. m. bolǵan halda bolsa tıǵızlıq funksiyadan ibarat boladı. Tómendegi funksiyaǵa haqıyqatqa maksimal uqsawlıq funksiyası dep ataladı. Shama menen oylayıq, funksiya jabıq tarawda qandayda bir noqatda eń úlken mániske eriwsin:. Haqıyqatqa maksimal uqsawlıq funksiyası eń úlken mániske erisetuǵın baha belgisiz parametr ushın haqıyqatqa maksimal uqsawlıq usılı menen dúzilgen statistikalıq bahalar dep ataladı. Olardı tómendegi teńlemelr sistemasınan da tabıw múmkin:
(7)
(7) teńlemeler sisteması haqıyqatqa maksimal uqsawlıq teńlemelri dep ataladı.
Kóp allarda (7) teńlemeler sisteması ornına tómendegi teńlemer sistemasın sheshiw qolay boladı :
(8)
3 -mısal. Matematikalıq kutilmasi hám dispersiyasi belgisiz bolǵan, tıǵızlıq funksiyası bolǵan normal nızamdı alaylıq. Haqıyqatqa maksimal uqsawlıq funksiyasın dúzemiz:
Aldın (8) sistemanıń birinshi teńlemesin qaraylıq :. Ápiwayılashtirgandan keyin teńlemege kelamiz.
Endi (8) sistemanıń ekinshi teńlemesin dúzemiz:. Ápiwayılashtirgandan keyin teńlemege kelamiz.
Nátiyjede hám lar ushın
Kórinistegi statistikalıq bahalardı tabamız.
Sonday eken, normal nızam ushın momentler hám haqıyqatqa maksimal uqsawlıq usılları menen dúzilgen statistikalıq bahalar áyne birdey eken.
Interval bahalaw
Isenimlilik aralıǵı. Aldınǵı paragraflarda biz belgisiz parametrlerdiń noqatlıq statistikalıq bahaları menen tanıstık. Dúzilgen noqatlıq bahalar tańlanmaning anıq funksiyaları bolǵan t. m. bolıp, olar belgisiz parametrlerdiń túp ma`nisine jaqın bolǵan noqattı anıqlap beredi tek. Kóp máselelerde belgisiz parametrlerdi statistikalıq bahalaw menen birgelikte bul bahoning anıqlıǵın, isenimliligin tabıw talap etiledi. Matematikalıq statistikada statistikalıq bahalardıń anıqlıǵın tabıw isenimlilik aralıǵı hám oǵan uyqas isenimlilik itimallıǵı arqalı sheshiledi.
Shama menen oylayıq, tańlanma járdeminde belgisiz θ parametr ushın jıljımaǵan T () baha dúzilgen bolsın. Tuwrısıda │T () - θ│ ańlatpa belgisiz θ parametr bahosining anıqlıq dárejesin belgileydi. T () statistikalıq bahoning belgisiz θ parametrge qanshellilik jaqınlıǵın anıqlaw máselesi qóyılsin. Aldınan qandayda -bir β (0<β<1)- sannı 1 ge jetkiliklishe jaqın tańlap qoyaylik. Endi tómendegi
Ρ{│ T () - θ │<δ}=β
munasábet orınlı bolatuǵın δ>0 sanın tabıw kerek bolsın. Bul munasábetti basqa kóriniste jazamız
P{T ()-δ<θ< T () +δ}=β (9 )
(3. 1) teńlik belgisiz θ parametrdiń ma`nisi β itimallıq menen
℮β = ( T ()-δ ; T () +δ ) (10 )
aralıqta ekenligin ańlatadı.
Sonı da aytıw kerek, (10 ) dagi ℮β - aralıq tosınarlı muǵdarlardan ibarat shegaralarǵa iye. Sol sebepli, β - itimallıqtı belgisiz θ parametrdiń anıq ma`nisi ℮β - aralıqta jatıw múmkinshiligı emes al, bálki ℮β - aralıq θ noqattı óz ishine alıw múmkinshiligı dep aytıw tuwrı boladı (1 - súwret).
℮β

• • •
T ()-δ θ T () +δ

1-súwret.
 Sonday eken, anıqlanǵan ℮β aralıǵı isenimlilik aralıǵı, β - itimal bolsa isenimlilik múmkinshiligı dep ataladı.
Matematikalıq kutilma ushın isenimlilik aralıǵı
Shama menen oylayıq, X tosınarlı muǵdardıń matematikalıq kutilmasi θ hám dispersiyasi σ 2 bolsın. Belgisiz θ - parametr ushın isenimlilik múmkinshiligı β - ga teń bolǵan ℮β - isenimlilik aralıǵın dúziw máselesin qaraylıq.
X1, …, Xn - kólemi n - ga teń bolǵan tańlanma hám oǵan uyqas tańlanma orta ma`nisi hám dispersiyasini dúzeylik:,. Eskertip ótemiz,- birdey bólistirilgen, baylanıslısız tosınarlı muǵdarlar jıyındısidantuzilgan bolıp tabıladı. Sol sebepli, oraylıq limit teoremaga tiykarlanıp onıń bólistiriw funksiyası normal nızamǵa jaqın bolıp tabıladı. dıń matematikalıq kutilmasini hám dispersiyasini esaplaymiz:, Endi δ β >0 sannı sonday tapaylikki, ol ushın tómendegi munasábet orınlı bolsın :. (11)
- t. m. dıń bólistiriw funksiyası normal nızamǵa jaqınlıǵın esapqa alıp, (11) - teńsizliktiń oń tárepdegi β - sanın Laplas funksiyası menen baylanıstırymiz:. (12)
Bul jerde - orta kvadratik chetlanish.
Laplas funksiyasınıń Φ (-x) = 1-Φ (x) ózgesheligin inabatqa alsaq, (3. 4) - teńlikti tómendegishe jazıw múmkin:
(13)
(3. 3) hám (3. 5) teńliklerden tómendegin payda etemiz:. Aqırǵı teńlikten δβ ni anıqlaymız:
(14)
Bul jerde Φ-1 (x) arqalı Laplas funksiyasına teris funksiyanı belgiledik. (14) - teńlik menen anıqlanǵan δβ - sanı belgisiz muǵdar arqalı jazıladı. Jetkilikli úlken n lar ushın tańlanma dispersiya S2 teoriyalıq dispersiyaga jaqın bolǵanı ushın ni shama menen ga teń deyiw múmkin, yaǵnıy
Sonday etip, belgisiz orta baha θ - ushın β - isenimlilik múmkinshiligına teń ℮β - isenimlilik aralıǵı
℮β= (15)
ga teń boladı. Bul jerde.
1 -mısal. X t. m. dıń tájiriybe nátiyjesinde 20 ta ma`nisi alındı.