Metodiya tasnifi I prognozlash. Neyronnye seti

Funksiya oshibok - eto selevaya funksiya , trebuyushchaya miniatsii v jarayon upravlyaemo obucheniya neyronnoy seti .

S pomoshchyu funksiyalari oshibok mumkin otsenit kachestvo raboty neyronnoy seti vo vremya obucheniya. masalan, chasto foydalanish summasi kvadratov oshibok.

Ot kachestva obucheniya neyronnoy seti zavisit ee sposobnost reset postavlennye pered ney zachi.

Pereobuchenie neyronnoy seti

Pri obuchenii neyronnyh setey chasto voznikaet sereznaya trudnost, nazyvaemaya muammoli pereobucheniya (ortiqcha moslashish).

Pereobuchenie , ili chrezmerno blizkaya podgonka - izlanishne tochnoe sootvetstvie neyronnoy seti konkretnomu naboru obuchaushchix misollar, pri kotorom set teryaet sposobnost k obobshchenyu.


Pereobuchenie voznikaet v slachae slishkom dolgogo obucheniya, nedostatochnogo chisla obuchaushchix misol yoki pereuslojnennoy strukturaviy neyronnoy seti .


Pereobuchenie svyazano s tem, chto vybor obuchayuschego
(trenirovochnogo) mojestva yavlyaetsya sluchanym. S pervyx shaqov obucheniya proisxodit umenshie oshibki. Na posleduyushchix shax s selyu umensheniya oshibki (tselevoy funksiyalari) parametry podstraivayutsya pod osobennosti obuchaushcheho mnojestva . Odnako pri etom proisxodit "podstroyka" yo'q pod obshchie qonunomernosti rjada, a pod osobennosti ego chasti - obuchayuschego podmojestva. Pri etom tochnost prognoz umenshaet.

Odin iz variantov borby s pereobucheniem seti - delenie obuchayuschey vyborki na ikki ko'p (obuchayuschee i testove).

Na obuchaushchem mnojestve proisxodit obuchenie neyronnoy seti . Na testovom mnojestve osushchestvlyaetsya proverka postroennoy modeli. Eti mojestva yo'q doljny peresekatsiya.

S kazhdy shagom parametry modeli izmenyayutsya, odnako postoyannoe umenshenie znacheniya tselevoy funktsiyani proisxodit imenno na obuchaushchem mnojestve. Pri razbienii juda ko'p na dva my mojem nablyudat izmenie oshibki prognoz na

testovom mnojestve parallelno s nablyudeniyami na obuchaushchim mnojestvom. Kakoe-to kolichestvo shaqov oshibki prognoz umenshaetsya na oboix juda ko'p. Odnako na opredelennom shage oshibka na testovom juda ko'p nachinaet vozrastat, pri etom oshibka na obuchaushchem mnojestve prodoljaet umenshatsya. Etot moment schitaetsya kontsom realnogo yoki nastoyaschego obucheniya, s nego i nachinaetsya pereobuchenie .

Opisannyy jarayon proillyustrirovan na ris. 11.2 .

Ris. 11.2. Jarayon obucheniy seti. Yavlenie pereobucheniya

Na pervom shage oshibki prognoza uchun obuchayushchego va testovo mnojestva odinakovy. Na posleduyushchix shagax znacheniya obeix oshibok umenshyutsya, odnako s semidesyatoto shaga oshibka na testovom juda ko'p nachinaet vozrastat, t.e. nachinaetsya

jarayon pereobucheniya seti.

Prognoz na testovom mnojestve yavlyaetsya proverkoy rabotosposobnosti postroennoy modeli. Xato na testovom mingojestve mumkin yaxwi oshibkoy prognoz, esli testove mnojestvo maksimal qabul qilish k tekushchemu moment.

Dalshe >>

Leksiya 11: