Ii bob : Ko'p o'lchovli regressiya. 1 Regressiya tenglamasi

I Bob  Statistikaning regression modellari
1.1 Chiziqli bo’lgan regressiya
Korrelyatsion bog‘liqlik ta’rifini aniqlashtiramiz, buning uchun shartli о‘rtacha qiymat tushunchasini kiritamiz.
Shartli о‘rtacha qiymat  deb, Y tasodifiy miqdorning X=x qiymatiga mos qiymatlarining arifmetik о‘rtacha qiymatiga aytiladi.
Masalan, X miqdorning x₁=2 qiymatiga Y miqdorning y₁=3, y₂=5, y₃=6, y₄=10 qiymatlari mos kelsin. U holda, shartli о‘rtacha qiymat
ga teng.
Y ning X ga nisbatan korrelyatsion bog‘liqligi deb,  _x shartli о‘rtacha qiymatning
x ga funksional bog‘liqligiga aytiladi:
(15.1)
X ning Y ga nisbatan korrelyatsion bog‘liqligi ham yuqoridagi kabi ta’riflanadi:
(15.2)
(15.1) va (15.2) tengliklar mos ravishda Y ning X ga va X ning Y ga nisbatan regressiya tenglamasi deyiladi.
f(x) va  funksiyalar- regressiya funksiyalari,ularning grafiklari esa regressiya chizig‘i deyiladi.
Korrelyatsion nazariyasining asosiy masalalaridan biri korrelyatsion bog‘lanish shaklini aniqlash, ya’ni uning regressiya funksiyasi kо‘rinishini (chiziqli, kvadratik, kо‘rsatkichli va hokozo) topishdan iborat. Regressiya funksiyalari kо‘p hollarda chiziqli bо‘ladi. Ikkinchi masala korrelyatsion bog‘lanishning zichligi (kuchi)ni aniqlash.
Y ning X ga nisbatan korrelyatsion bog‘liqligi zichligi Y ning qiymatlarini  _x shartli о‘rtacha qiymat atrofida tarqoqligining kattaligi bо‘yicha baholanadi: kо‘p tarqoqlik Y ning X ga kuchsiz bog‘liqligidan yoki bog‘liqlik yо‘qligidan darak beradi; kam tarqoqlik ancha kuchli bog‘liqlik borligini kо‘rsatadi. X ning Y ga nisbatan korrelyatsion bog‘liqligining zichligi ham shu kabi baholanadi.
Y va X son belgilar chiziqli korrelyatsion boglangan bо‘lsin. Eng sodda holni qaraymiz. X belgining turli x qiymatlari va Y belgining ularga mos  qiymatlari bir martadan kuzatilgan bо‘lsin:

xi	x1	x2	…	xn
yi	y1	y2	…	yn

Bu qiymatlar bir martadan kuzatilganligi uchun shartli о‘rtacha qiymatdan foydalanishga ehtiyoj yо‘q. Regressiya tenglamasini
 _(15.3)
ko’rinishda izlaymiz, bu yerda,  _{- Y ning X ga} nisbatan _{regressiya koeffitsiyenti deyiladi.}
Eslatma._{X ning Y ga} nisbatan _{regressiya tо‘g‘ri chizig‘ining}  tenglamasini shunga о‘xshash topish mumkin, bu yerda  X ning Y ga regressiya koeffitsiyenti.
1-misol. Semestr yakunida yakuniy nazoratdan avval guruh talabalaridan 12 tasi orasida sо‘rov о‘tkazildi. Sо‘rovdan maqsad talabalar semestrni qanday ballarda о‘zlashtirishlarini aniqlash (5 balli bahoda). Kutilgan ballar va yakuniy baholashdan keyingi natijalar quyidagi jadvalda keltirilgan.

Kutilgan ballar	3,2	3,0	3,10	2,8	3,4	3,8	4,0	3,7	2,9	4,5	4,6	4,2
Olingan ballar	4,0	3,8	3,5	3,0	4,4	4,2	4,6	4,5	3,1	4,1	4,8	4,0

Berilgan ma’lumotlar bо‘yicha chiziqli regressiya tenglamasini tuzing.
Yechish. Y ning X ga nisbatan regressiya tenglamasini tuzamiz. Shu maqsadda quyidagi jadvalni tuzamiz.

№
1	3,2	4,0	12,80	10,24	16,00	4,06	3,67
2	3,0	3,8	11,40	9,00	14,44	4,08	3,56
3	3,10	3,5	10,85	9,61	12,25	4,07	3,40
4	2,8	3,0	8,40	7,84	9,00	4,10	3,14
5	3,4	4,4	14,96	11,56	19,36	4,03	3,88
6	3,8	4,2	15,96	14,44	17,64	3,98	3,78
7	4,0	4,6	18,40	16,00	21,26	3,96	3,99
8	3,5	4,5	15,75	12,25	20,25	4,02	3,94
9	3,9	3,1	12,09	15,21	9,61	3,97	3,19
10	4,5	4,1	18,45	20,25	16,81	3,9	2,72
11	4,6	4,8	22,08	21,26	23,04	3,89	4,09
12	4,2	4,0	16,80	17,64	16,00	3,93	3,67
	44	48	177,94	145,05	195,66	48	44

Shunday qilib,  =-0,12x+4,44.

1.2 Chiziqli bo’lmagan regressiya

Ixtiyoriy funktsiyalarning chiziqli yig'indisi. Mathcad fn(x) funktsiyalarining vaznli yig'indisi ko'rinishidagi umumiy funktsiyaga yaqinlashadigan regressiyani amalga oshirish qobiliyatiga ega:

f(x, Kn) = K1 f1(x) + K2 f2(x) + … + KN fN(x),

fn(x) funktsiyalarining o'zi har qanday turdagi, shu jumladan chiziqli bo'lmagan bo'lishi mumkin. Bir tomondan, bu regressiya funktsiyalarini analitik ko'rsatish imkoniyatlarini keskin oshiradi. Ammo, boshqa tomondan, bu foydalanuvchidan juda oddiy funktsiyalar kombinatsiyasi orqali eksperimental ma'lumotlarni yaqinlashtirish bo'yicha ma'lum ko'nikmalarga ega bo'lishni talab qiladi.

X, Y va f vektorlari bo'yicha umumlashtirilgan regressiya Kn koeffitsientlarining qiymatlarini hisoblaydigan linfit (X, Y, f) funktsiyasi tomonidan amalga oshiriladi. f vektor fn(x) funksiyalarining ramziy ko'rinishini o'z ichiga olishi kerak. X vektoridagi xk koordinatalari har qanday bo'lishi mumkin, lekin x qiymatlarining o'sish tartibida (Y vektoridagi yk qiymatlarining mos keladigan o'qishlari bilan) joylashtirilgan.Regressiyaga misol 3.1-rasmda ko'rsatilgan / f1-f3 funktsiyalarining raqamli parametrlari minimal standart og'ish bo'yicha tanlangan.



3.1-rasm Umumlashtirilgan regressiya.
Umumiy turdagi regressiya. Chiziqli bo'lmagan regressiyaning ikkinchi turi genfit(X,Y,S,F) funksiyasi yordamida ki parametrlarini berilgan yaqinlashish funksiyasiga moslashtirish yo'li bilan amalga oshiriladi, bu esa ning minimal ildiz o'rtacha kvadrat xatosini ta'minlovchi ki koeffitsientlarini qaytaradi. regressiya funktsiyasining kirish ma'lumotlariga yaqinlashishi (koordinatalar va namunalarning X va Y vektorlari). Regressiya funksiyasining ramziy ifodasi va uning hosilalarining ki parametrlariga nisbatan ramziy ifodasi F vektorida yoziladi. S vektori nochiziqli tenglamalar tizimini iterativ usulda yechish uchun ki koeffitsientlarining boshlang'ich qiymatlarini o'z ichiga oladi. usuli. Usulni qo'llash misoli 3.2-rasmda ko'rsatilgan.



3.2-rasm Nochiziqli regressiyalar.

Oddiy standart taxminiy formulalar uchun bir qator regressiya funksiyalari taqdim etiladi, ularda funksiyalar parametrlari Mathcad dasturi tomonidan mustaqil ravishda tanlanadi.

Bularga quyidagi xususiyatlar kiradi:

expfit(X,Y,S) - y(x) = a exp(b x) + c ko'rsatkichli funksiyaning a, b va c koeffitsientlarini o'z ichiga olgan vektorni qaytaradi. Birinchi yaqinlashishning a, b va c koeffitsientlarining boshlang'ich qiymatlari S vektoriga kiritiladi. Taxminlovchi funktsiyalar shaklida yo'naltirish va koeffitsientlarning mos keladigan boshlang'ich qiymatlarini o'rnatish uchun chapdagi raqamlar a va c koeffitsientlarining doimiy qiymatlarida funktsiyalar shaklini ko'rsatadi.

lgsfit(X,Y,S) - y(x) = a/(1+c exp(b x)) ifodasi uchun ham xuddi shunday.

pwrfit(X,Y,S) - y(x) = a xb+c ifodasi uchun ham xuddi shunday sinfit(X,Y,S) - y(x) = a sin(x+b) + c ifodasi uchun ham xuddi shunday. Koeffitsientlarni sinusoidal regressiya funksiyasiga moslashtiradi. Sinusoid naqsh yaxshi ma'lum.

logfit(X,Y) - y(x) =a ln(x+b) +c ifodasi uchun ham xuddi shunday. Dastlabki yaqinlashishni o'rnatish shart emas.
medfit(X,Y) - y(x) = a + b x ifodasi uchun bir xil, ya'ni. chiziqli regressiya funktsiyasi uchun. Dastlabki yaqinlashishni o'rnatish ham talab qilinmaydi. Grafik to'g'ri chiziqdir.
3.3-rasmda ikkinchi darajali polinom tomonidan zonal regressiya bilan solishtirganda baza sinusoidida model ma'lumotlar massivining sinusoidal regressiyasini amalga oshirish misoli ko'rsatilgan. Bazis egri chizig'iga va dastlabki ma'lumotlarga rms yaqinlashtirish usullarini taqqoslashdan ko'rinib turibdiki, regressiya funktsiyasi uchun asos sifatida foydalanish statistik ma'lumotlar uchun kutish funktsiyasini bilish umuman regressiya parametrlarini aniqlash imkonini beradi. butun ma'lumotlar to'plami bo'yicha yuqori aniqlik bilan, garchi bir vaqtning o'zida regressiya egri chizig'i ushbu amalga oshirishning haqiqiy o'qishlarining mahalliy xususiyatlarini aks ettirmaydi. Bu regressiya funktsiyalari spetsifikatsiyasi bilan boshqa barcha usullar uchun ham amal qiladi.



Fig.3.3 Sinusoidal regressiya.