Referat jumisi Tayarlag`an : Jannazarov Atanazar Qabillag`an : Aymuratov Aydos Jobasi

a) Neyron tarmaqlar haqqında maǵlıwmat
Kompyuterdi úyreniw, neyron tarmaq - bul jasalma neyronlardıń programmalıq programmalastirilǵan tarmaǵı. Ol biziń miyimizdaģi neyronlarǵa uqsas kóp sanlı " neyronlar" qatlamlarına iye bolıp, insan miyina eliklewge háreket etedi.
Neyronlardıń birinshi qatlamı fotosúwretler, video, dawıs, tekst hám basqa maǵlıwmatlardı qabıl etedi. Bul maǵlıwmatlar barlıq dárejeler boylap háreketlenedi, bir qatlamdıń shıǵıwı keyingi qatlamǵa aǵip shıǵadı. Bul mashinanı úyreniw ushın tábiy tildi qayta islew sıyaqlı eń qıyın wazıypalar ushın júdá zárúrli bolıp tabıladı.
Jasalma neyronlar quramalı sistemalar bolǵan neyron tarmaqlarda qollanıladı. Perseptronlar dep da atalatuǵın jasalma neyronlar tómendegi strukturalıq bólimlerden ibarat :
Kirisiw salmaq Bias Aktivlestiriw funktsiyası shıǵıw
Neyron tarmaqların quraytuǵın neyron qatlamları. Neyron tarmaq ush qatlamnan ibarat :
Kirisiw qatlamı, Jasırın qatlam, Shıǵıw qatlamı.
Cifrlı baha kórinisindegi maǵlıwmatlar kirisiw qatlamına jiberiledi. Tarmaqtıń jasırın qatlamları eń kóp esap -kitaplardı ámelge asıratuǵın qatlamlar bolıp tabıladı. Shıǵıw qatlamı, aqırǵı, biraq eń áhmiyetlisi, nátiyjeni prognoz etedi. Neyron tarmaǵında neyronlar bir-birinen ústinlik etedi. Hár bir qatlamdı qurıw ushın neyronlardan paydalanıladı. Maǵlıwmatlar kirisiw qatlamı alınǵanınan keyin jasırın qatlamǵa jóneltiriledi.

Sonnan keyin, baha aktivlestiriw funktsiyası arqalı ótedi. Aktivlestiriw funktsiyasınıń nátiyjesi neyron aktivlestirilgen yamasa joq ekenligin anıqlaydı. Neyron aktiv bolsa, ol basqa qatlamlarǵa maǵlıwmat jiberedi. Bul usıl járdeminde neyron shıǵıw qatlamına jetkenshe maǵlıwmatlar tarmaqta jaratıladı. Aldınǵa tarqalıw - bunıń basqa termini.
Kirisiw túyinine maǵlıwmatlardı kirgiziw hám shıǵıw túyinleri arqalı shıǵıwdı alıw texnikası aldınǵa uzatıw dep ataladı. Kirisiw maǵlıwmatları jasırın qatlam tárepinen qabıl etilgende, aldınǵa uzatıw júz beredi. Ol aktivlestiriw funktsiyasına muwapıq qayta islenedi hám keyin shıǵıwǵa ótkeriledi.
Nátiyje eń joqarı itimallıq penen shıǵıw qatlamındaǵı neyron tárepinen prognoz etiledi. Shıǵıw nadurıs bolsa, keyin basıp tarqalıw júz beredi. Neyron tarmaǵın jaratıwda hár bir kirisiw ushın salmaqlar iske túsiriledi. Keyin basıp tarqalıw - bul qátelerdi kemeytiw hám anıqlaw shıǵıwdı támiyinlew ushın hár bir kirisiwdiń salmaǵın qayta sazlaw procesi.
Hár bir kirisiw ushın salmaqlar qollanıladı. Neyron tarmaǵınıń jasırın qatlamları ishinde salmaqlıq kiretuǵın maǵlıwmatlardı awdarma etetuǵın baha bolıp tabıladı. Salmaqlar kirisiw maǵlıwmatların kirisiw qatlamındaǵı salmaqlıq ma`nisine kóbeytiw arqalı isleydi.
Keyin birinshi jasırın qatlam ma`nisin baslaydı. Kirisiw maǵlıwmatları ózgertiriledi hám jasırın qatlamlar arqalı basqa qatlamǵa uzatıladı. Shıǵıw qatlamı juwmaqlawshı nátiyjeni jaratıw ushın juwapker bolıp tabıladı. Kiriwler hám salmaqlar kóbeytiriledi hám nátiyje jasırın qatlam neyronlarına jıyındı retinde jetkeriledi. Hár bir neyronǵa beyimlik beriledi. Jámi esaplaw ushın hár bir neyron ózi qabıl etken maǵlıwmatlardı qosadı.
Neyron tarmaqlar daslep biologiyadan belgili. Olar sùt emiziwshilerdiń miyina qopal uqsaslıqqa iye. Jasalma neyron tarmaqlar informaciyanı qayta islew sistemaları bolıp tabıladı. Olar kóp sanlı ápiwayı birliklerden, yaǵnıy neyronlardan ibarat bolıp, informaciyanı aktivlestiriw formasın aladı
Neyronlardı jóneltirilgen, salmaqli jalǵanıwlar arqalı jiberiń. Olar dızbek túrde parallel, maslasıwshı sistemalar bolıp tabıladı. Neyron tarmaqlar oqıw mısalları járdeminde wazıypanı ǵárezsiz túrde úyreniw múmkinshiligine iye.
Neyron tarmaqtı úyretiwde neyron tarmaqtıń haqıyqıy shıǵıwı hám kerekli nátiyje ortasında parq bar. Bul aldınǵı bilimlerge tiykarlanǵan oqıw maǵlıwmatlarında belgili (mısalı, aldınan belgilengen naǵıslar, tariyxıy maǵlıwmatlar hám basqalar ). Sonday etip, treniń yamasa tarmaq qátesi bar. Bul mudamı keri bolmawi ushın ol ádetde Evklid aralıǵınıń kvadratı járdeminde anıqlanadı (3. 1- teńlemege qarang). Sonday etip, trenińniń maqseti bul qáteni minimallastırıw bolıp tabıladı. Sizde sheklewlersiz optimallastırıw mashqalası bar.
Shegaralanbaǵan optimallastiriwdan belgili bolǵan hám neyron tarmaqlarda paydalanıw ushın maslastırılǵan tálim ushın bir qatar algoritmlar bar. Bul iste gradient túsiw usılı, kvazi-Nyuton usılı yamasa Gauss-Nyuton usılınıń modifikatsiyası, Levenberg-Markvardt usılına sáykes keletuǵın birpara algoritmler keltirilgen. Bunnan tısqarı, global optimallastırıw processleri talqılanadi. Kesiw múyeshi usılı neyron tarmaqlarǵa maslastırılǵan. Bunnan tısqarı, járiyma funktsiyası menen birge gradient túsiw usılınan paydalanıwǵa tiykarlanǵan evristik procedura usınıs etiledi. Sonday etip, jergilikli minimumǵa taǵı erisiw múmkin . Birpara usıllar ushın konvergentsiya tastıyıqı usınıs etiledi. Bul processlerdiń turaqlılıǵın da talqılaw etiledi.
Waqıtqa baylanıslı bolǵan hár qıylı qayta neyron tarmaqlar usınıs etiledi hám olar menen baylanıslı oqıw processleri uyqas túrde maslastırıladı. Olardıń turaqlılıǵın ushın shártler de kórsetilgen.