ЎҚув материаллари

Перцепронни ўргатиш алгоритми
Перцепрон, унинг киришига образлар тўплами, кетма-кет бериш ва токи перецептрон образларни тўғри англамагунча, вазнларни созлаш орқали ўрганилади.
Фараз қилайлик, 1,2,3,4 рақамлари кўриниши 3х4 матрицалар орқали берилган. Рақам тасвиридаги чизиқ ўтувчи катакларда 1, чизиқ ўтмайдиганларда 0 қиймат қўйилади. Перцептрон образи берилган рақамни жуфт ёки тоқлигига мос равишда акс таъсир бериши керак бўлади (1-агар рақам жуфт бўлса, 0-акс ҳолда) бериши керак.
Бу масалани ечиш учун қуйидаги образлар тўпламини бериши керак.

		1						2						3						4
0	0	1	0	0		1	1	1	1	1		1	1	1	1	1		1	0	0	0	1
0	1	1	0	0		0	0	0	0	1		0	0	0	0	1		1	0	0	0	1
0	0	1	0	0		1	1	1	1	1		1	1	1	1	1		1	1	1	1	1
0	0	1	0	0		1	0	0	0	0		0	0	0	0	1		0	0	0	0	1
0	1	1	1	0		1	1	1	1	1		1	1	1	1	1		0	0	0	0	1
		0						1						0						1

Ҳар образ учун кириш вектори кўринишида бўлади, бу ерда – объект тасвиридаги - катак қиймати (0 ёки 1), худди шундай – соннинг жуфт ёки тоқлигига мос қиймат (0,1).
Сонлар тасвири ва уларнинг жуфт-тоқлига мос векторлар:
1: (0,0,1,0,0,0,1,1,0, 0,0,0,1,0,0,0,0,1,0,0,0,1,1,1,0, 0) ;
2: (1,1,1,1,1, 0,0,0,0,1, 1,1,1,1,1, 1,0,0,0,0,1,1,1,1,1, 1);
3: (1,1,1,1,1, 0,0,0,0,1, 1,1,1,1,1, 0,0,0,0,1,1,1,1,1,1, 0 );
4: (1,0,0,0,1, 1,0,0,0,1, 1,1,1,1, 0, 0,0,0,1,0,0,0,0,0,1, 1 );


Ўрганиш алгоритми

1. 
   Киришга образ берилсин ва ҳисоблансин;
   
2. 
   

а) Агар чиқиш тўғри бўлса, 1-қадамга ўтилсин;
б) Агар чиқиш нотўғри ва 0 тенг бўлса, барча киришлар мос вазнларга қўшилсин – , ёки
в) Агар чиқиш нотўғри ва 1 тенг бўлса, барча вазнлардан уларга мос киришлар айрилсин – .
3. Биринчи қадамга ўтилсин.


Кўп қатламли нейрон тўри
Қуйидаги расмда тескари тарқалиш процедураси ёрдамида ўрганишга асосланган икки қатламли СНТ берилган.



Тасвирни англаш масаласи
Берилган ҳарфнинг (белгининг) тасвири бўйича унинг ASCII кодини чиқарадиган СНТни ўргатиш масаласини қарайлик. Масалан, ‘A’ ҳарфини коди 65, ‘B’ ҳарфининг коди 66 ва ҳакоза. Қуйидаги расмда ‘A’ ҳарфи учун кириш ва чиқиш векторлари кўрсатилган.

			А						65
0	0	0	0	1	1	0	0		0
0	0	0	1	0	1	0	0		1
0	0	1	0	0	1	0	0		0
0	1	0	0	0	1	0	0		0
0	1	1	1	1	1	0	0		0
0	1	0	0	0	1	0	0		0
0	1	0	0	0	1	0	0		0
0	1	0	0	0	1	0	0		1

Ўрганиш. Тескари юриш
Чиқиш қатлами вазнларни созлаш.
Чиқиш қатламидаги ҳар бир нейрон учун мақсад (кутилган) қиймат маълум бўлгани сабабли, бу қатлам вазнлари делта-қоида ёрдамида созланади.
Масалан, -қатламдаги -нейроннинг - қатламдаги нейрон чиқишидаги вазнни созлаш учун чиқиши мақсад қиймат (Target) дан айрилади (хатолик сигнали). Бу хато сиқувчи функция ҳосиласига кўпайтирилади ва натижасида

қиймати ҳосил бўлади. Бу қиймат – қатламдаги -нейрон чиқиши бўлган қиймати ва - ўрганиш тезлиги коэффициентига кўпайтирилади.
.
Вазнларни – қадамдаги созланиши

Бундай созлашлар - қатламнинг барча нейронлари учун бажарилади.


Яширинган қатлам нейронларининг вазнларини созлаш
Яширинган қатламдаги нейрон ( - қатлам) чиқиш ( -даги) барча созлаш қийматлари – ва кўпайтирилиб, улар ҳар бир қаралаётган нейрон чиқиши учун йиғиндиси ҳисобланади ва активлаштириш функцияси ортирмасига кўпайтиришдан орқали - қатламдаги - нейрон учун хатолик ҳисобланади.
.



Чиқиш қатлами -

Яширинган қатлам -

Олинди қатлам -





















-нейрон












5-маъруза. Нейрон тўрларининг шаффофлиги ва интуитив қарор қабул қилиш

Нейрон тўрларини синтез қилишнинг алгоритмларнинг асосий моҳияти– уларда минимал конфигурацияни қидириш масаласи танловнинг минимал қопламасини топиш масаласини ечишга олиб келади. Минимал қоплама масаласида глобал оптимумни топадиган бирдан – бир ва оптимиллаштирувчи усул – қопламаларнинг мавжуд бўлган барча вариантларини кўриб чиқишга асосланган усулдир. Барча вариантлар сони m! тенг, бу ерда m – танловдаги объектлар сони.

Амалда жуда катта ҳажмдаги ўрганиладиган берилганлар (танлов) учун барча вариантлар сонини кўриб чиқиш имконияти бўлмаганлиги сабабли эвристик усуллардан фойдаланилади ва улар ёрдамида масаланинг локал – оптимал ечимига эришиш имкони юзага келади.
Минимал конфигурацияли нейрон тўрларини синтез қилишда ўрганиладиган танловнинг объект – эталонлар иборат локал – оптимал қопламасини топишнинг иккита эвристик усул тавсия қилинади.
Масала қўйилишида ўрганиладиган танлов (объектлар тўплами) n миқдорий аломатлар билан жадвал кўринишидаги берилган деб ҳисобланади. объектлар тўплами, кесишмайдиган тўплам остилари (синфлар) вакилларидан ташкил топади.
Фараз қилайлик, объектлар даги минимум масофа бўйича англашда (синфга ажратишда) қўлланиладиган эталонлар бўлсин. Масалада ўрганиладиган объектлар тўпламини синфларга хатосиз (коррект) ажратадиган эталонларнинг минимал сонини топиш талаб қилинади.
Берилган объектлар тўплами учун Rⁿ фазода метрикани киритамиз. Қулайлик учун бу метрикани Евклид метрикаси деб ҳисоблаймиз. Ҳар бир , учун кетма -кетлигини тузамиз, бу ерда .
Фараз қилайлик, , кетма-кетликдаги га яқин ва синфига тегишли бўлмаган биринчи объект бўлсин. орқали шартни қаноатлантирувчи, маркази да бўлган радиус атрофини белгилаймиз. Кейин, атрофидан шундай , объектни топамизки, унинг учун қуйидаги ўринли бўлади:
. (1)
Барча объеклари учун (1) бўйича аниқланган объектлар тўпламини объектлар тўпламининг чизиқли қобиғи деб атаймиз ва бу локал оптимал қобиқни топишдаги чекли яқинлашувчи алгоритм учун бошланғич ёндашиш сифатида ишлатилади.
Кейин l - та бир-бири билан кесишмайдиган синфлар билан берилган ўрганиш учун танлаб олинган объектлар тўплами қаралади. Тўпламнинг ҳар бир объекти n - та аломат билан тавсифланиб, уларнинг r - таси миқдорий ва сифат аломатлар ҳисобланади.
I ва J мос равишда берилган объектларни тавсифидаги миқдорий ва сифат аломатларнинг номерлари тўпламлари бўлсин. объект - танлов эталони бўлиб, унинг миқдорий аломатлар вазни ва кўринишида ҳисобланади. Вазнларнинг чегаравий қийматлари сифат аломатлар учун умумий бўлиб, қуйидагича ҳисобланади:


.
Бу ерда - миқдорий аломатларнинг қийматлар бўйича максимал фарқланиши, - мос равишда синфлар ичида яқинлик ва синфлар ташқарисида фарқланишининг максимал қийматлари.
р билан аломатнинг градация сонини белгилайлик, - синфдаги объектларнинг с аломатининг t - градациясининг миқдорий қиймати. У ҳолда


бу ерда - синф тўлдирувчси даги с аломатининг t градациялар сони. Ҳар бир сифат аломатнинг вазни қуйидаги формула ёрдамида аниқланади

Берилган обект учун объект-эталон бўйича чегирилган йиғиндиси қуйидагича ҳисобланади:
(2)
“Ғолиб барчасига эга” тамойилига кўра S объект, объект-эталон бўйича чегирилган йиғинди қайси бир синф вакилида (2) максимал қийматга эга бўлса, объект шу синфга тегишли бўлади.
Танловнинг минимал қопламалар масаласи ечиш орқали минимал конфигурацияли нейрон тўрларини синтез қилиш масаласи – берилганларининг кўринишидаги объект-эталонлар тўпламларини топиш орқали ечилди. қопламанинг таркиби танловдан “кетма-кет ўчириш” процедурасидаги номзод-объектларни ўчириш тартибига боғлиқ бўлади.
Бошланғич ва жуфтлик комбинацияларидан ҳосил бўлган миқдорий ва сифат аломатларнинг номерларини мос равишда тўплами орқали белгилайлик. Айтайлик, қопламанинг объектлари аломатлари ёрдамида берилган бўлсин, .
Сифат аломатлари тўпламида уч ўзгарувчили функция киритилади:

бу ерда - ва синфдаги сифат аломат градациясининг бир жинслилик даражаси, - градация қийматлари, @ – тушириб қолдирилган қиймат коди.
Ихтиёрий, мумкин бўлган объектнинг бўйича синфларга тегишли эканлигини аниқлаш учун акслантириш қилинади ва
(3)
ҳисобланади, бу ерда объект-эталон бўйича аниқланган тўр нейронларининг вазнлари. объект тешишли синф номери да (3) нинг қиймати бўйича “ғолиб барчасига эга” тамойили бўйича аниқланади._.
билан аломатнинг градациялар сонини белгилаймиз, - K_d синф ва унинг тўлдирувчиси - CK_d даги объектлар тавсифидаги -аломатнинг t (1 t p)- градациядар сони, - K_d ва CK_d синфлар бўйича мос равишда - аломатининг мавжуд (тушириб қолдирилмаган) қийматлар сони, - K_d ва CK_d синфлар бўйича мос равишда - аломатининг градациялар сони. K_d ва унинг тўлдирувчси CK_d даги аломат бўйича синфлар ўртасидаги фарқланиш қуйидагича аниқланади:
. (4)
Бу формулада ва кейинчалик шартининг бажарилиши назарда тутилади.
K_d синф учун - аломат градациялари қийматларининг биржинслилик даражаси - (синфлар ичра яқинлик ўлчови) қуйидаги формулалар ёрдамида ҳисобланади:

. (5)
Юқорида келтирилган (4), (5) формулалардан -сифат аломатининг ҳар бир синфдаги “индивидуал” вазнини формула бўйича аниқлаш имконияти туғилди.
Нейрон тўрларининг мантиқий шаффофлиги мезонлари. Мантиқий шаффоф тўр тушунчаси - бу тузилиши бўйича масаланинг ечиш алгоритмини фойдаланувчига осон тушунтириб беришга имкон берувчи нейрон тўри ҳисобаланади.
Мантиқий шаффофликнинг таянч мезонларига минимал конфигурацияли нейрон тўрларини синтез қилиш жараёни жавоб беради деб ҳисоблаш мумкин. Шунингдек, бу ҳолда мантиқий шаффофлик мезонлари нейрон тўрларининг дастур таъминоти ва техник амалга оширишнинг нисбатан содда мезонлари билан мос келади. Бир қатламли нейрон тўрларида ҳар қандай такрорлашларнинг йўқлиги, кириш сигналларини олдиндан чизиқсиз қайта ишлаш воситаларининг мавжудлиги интуитив қарор қабул қилиш жараёнини моделлаштиришни енгиллаштиради. Нейрон тўрларининг мантиқий шаффофлигининг мезонлари:
1. Нейрон тўрларида қатламлар сони қанча кам бўлса, унинг мантиқий шаффофлик даражаси юқори бўлади. Бу ерда мантиқий шаффофлик қуйидагича тушинтирилади, яъни киришдан чиқишгача бўлган сигналларнинг ўтиш йўлларида нейронлар қанча кам бўлса, шунчалик мантиқий шаффоф бўлади. Бунга далил сифатида фикрлашлар занжири узунлиги қанчалик кам бўлса, тушуниб олиш шунчалик осон бўлишини мисол қилиб келтириш мумкин. Минимал конфигурацияли нейрон тўрлари ёрдамида синтез қилиш, бир қатламли нейрон тўрлари ҳосил бўлади - бу мезоннинг бажарилишини кафолатлайди.
2. Нейронга келадиган сигналлар сонини камайтириш. Психологлар маълумотига кўра, инсон чегараланган даражадаги аломатларга таянган ҳолда фикр юритади. Аломатларнинг мумкин бўлган комбинациялари сони жуда катта бўлган ҳолда инсон қарор қилишида иштирок этадиган оламатлар сони 2 ёки 3 аломатлар билан чекланади. Минимал конфигурацияли нейрон тўрларини синтез қилишда синфларга ажратиш ва ташҳис масалаларида аломатларнинг масала ечишдаги ҳиссаларининг даражалари бўйича информатив аломатларни ажратиб олиш учун махсус усулларни қўлланишида ифодаланади.
3. Нейрон тўрларида ҳар бир қатламида нейронлар сонини камайтириш ва синапсларнинг умумий сонини камайтириш мезонлари ўргатувчи танловнинг эталон – объектлар билан минимал қопламасини қуриш орқали оптималлаштирилади. Бундан ташқари нейрон тўрларини соддалаштириш жараёни информатив латент (ошкор ўлчаш имконияти йўқ) аломатлар комбинациясини ҳисоблаш ва танлаш орқали ҳам амалга оширилади. Чизиқсизликка, кириш сигналларни уларнинг нейрон тўрларига киришигача қайта ишлаш орқали эришилади ва у инсон томонидан қўлланиладиган интуитив қарор қабул қилишни моделлаштиришнинг қуйидаги усуллари билан амалга оширилади:
а) латент (ошкор ўлчаш имконияти йўқ) аломатларнинг информатив тўпламини аниқлаш;
б) ўзаро боғлиқ бўлмаган аломатларнинг информатив тўпламини аниқлаш.
4. Тўрнинг созланадиган параметрларининг қийматларини ажратилган якуний қийматлар мажмуасига келтириш зарур. Нейрон тўрларининг бу мезони қуйидагича амалга оширилади:
а) миқдорий ва сифат аломатларининг синаптик вазнлари ўртасида текислашни таъминловчи коэффициентни ҳисоблаш ;
б) миқдорий аломатлар қийматларини [0,1] интервалга келтириш орқали нормаллаштириш;
в) сифат аломатларининг тушириб қолдирилган қийматлари учун синаптик вазнларини ҳисоблаш.
Минимал конфигурацияли нейрон тўрларини синтез қилишга асосланган янги мезонлар сифатида қуйидагиларни келтирамиз.
1. Кесишмайдиган синфлар объектларининг чизиқли қобиқлари ўртасидаги масофа ўзгармас катталикка интилади. Миқдорий аломатларнинг ўлчов бирлигини фиксирланган деб оламиз. Бу ҳолда кесишмайдиган синфлар объектларининг чизиқли қобиғи ўртасидаги масофа ва улар конфигурацияси, ўрганиладиган объектлар сони ўсиши билан турғунланиши керак бўлади. Бундан келиб чиқадики, ўрганилаётган объектлар минимал қопламасидаги объект - эталонлар сони ўзгармас катталикка интилади.
2. Нейрон тўрларини синтез қилишда ўрганилаётган объекларни коррект англашни ўзаро боғлиқмас аломатларнинг минимал тўплами таъминлайди. Назарий жиҳатдан ўзаро боғлиқмас аломатларнинг минимал тўплами, аломатлар фазосидан ҳар қандай аломат ифодаланадиган базис сифатида қаралади.
3. Нейрон тўрларини синтез қилишда ўргатувчи m объектлар ва  қопламадаги эталонлар сони учун ўринли. Нейрон турининг «кўрмаган» объектлар учун умумлаштириш имконияти, бу нейрон тўрларининг муҳим хоссаларидан биридир. Бу хоссанинг бажарилиши нейрон тўрларини синтез қилишнинг асосий шарти ҳисобланади. Ҳар бир нейрон (эталон) умумлаштирадиган объектлар сони чексизликка интилиши керак.
Нейрон тўрларининг мантиқий шаффофлиги мураккаб тизимлардаги ўз-ўзини бошқариш ва интеграция жараёнларининг қонуниятлари қараладиган илмий йўналиш сифатида юзага келган синергетика фани ғоялари билан мувофиқлашади.
Берилган тўпламида мос равишда миқдорий ва сифат аломатлар тўпламини деб белгилаймиз. Фараз қилайлик, - да объектларнинг миқдорий аломатлар қийматлари тўплами бўлсин, - бутун сонли вектор ва элемент қийматлари шартини қаноатлантиради.
Айтайлик,
(6)
тартибланган кетма-кетлик ва бутун сонлар тўплами бўлиб, унда (6) даги тартиб номерлари дан гача бўлган синф объектларидаги q-аломатининг қийматлари миқдори.
Кўриниб турибдики, агар аломат градациялари сони синфлар сонига тенг бўлиб, ҳар бир синф ичидаги номинал аломатлар бир хил ва шу қийматлар бошқа синфларда бўлмаса, у ҳолда сифат кўрсаткич бўйича синфга энг яхши ажратишга эришилади. (6) даги миқдорий аломатларнинг барча қийматлари дан , гача номерлари билан қуйидаги мезон бўйича сифат кўрсаткичига эквивалент ҳисобланади:
. (7)
Бу ерда , - - аломатнинг мос равишда барча синфлар ва - синф бўйича мавжуд (тушириб қолдирилмаган) қийматлари сони.
Шуни қайд қилиш керакки, (7) нинг қийматларини миқдорий ва сифат аломатларнинг комбинациясининг информативини танлаб олишда таққослаш учун кўрсаткич сифатида фойдаланиш мумкин.
Миқдорий аломатларни (7) – мезон бўйича номинал шкалага акслантириш миқдорий ва сифат аломатларнинг комбинацияси сифатида янги сифат аломатларни синтез қилиш имконини беради. янги миқдорий аломатни синтез қилиш жараёни умумий кўринишда қуйидагича:

бу ерда - аломатни аниқ бир миқдорий ўлчовидаги шкалага акслантириш. Мисол учун, акслантиришнинг тартиби тескарисига ўзгартириш қуйидаги формула билан амалга оширилади:

бу ерда мос равишда x аломатнинг максимал ва минимал қийматлари.
Қуйидаги келтирилган формула синфларни ажратишда ҳар бир аломатнинг ҳиссасини аниқлайди ва уни (7) -мезон бўйича акслантиришда миқдорий аломатлар комбинациясини таҳлил қилишда фойдаланиш мақсадга мувофиқдир:
, (8)
бу ерда - мос равишда ва унинг тўлдирувчиси синфлардаги p аломатининг j- градациялари миқдори, - p-аломатнинг градациялар сони, - -аломатнинг синфдаги градациялар сони, -мос равишда ва синфларнинг p-го аломатидаги мавжуд (тушириб қолдирилмаган) қийматлар сони,