Mavzu: Klassifikatsiya tushunchasi. Mashinani o'rganishning asosiy yondashuvlaridan biri sifatida tasniflash. Treningga oid savollar. Mnist o'quv rejasining tuzilishi

Sun’iy neyron tarmoqlari

Asosiy maqola: Sun'iy neyron tarmoq

Shuningdek qarang: Chuqur o'rganish

Sun'iy asab tarmog'i - bu keng tarmoqqa o'xshash o'zaro bog'liq tugunlar guruhi neyronlar a miya. Bu erda har bir dumaloq tugun an sun'iy neyron strelka esa bitta sun'iy neyronning chiqishi bilan ikkinchisining kirishiga bog'lanishni anglatadi.
Sun'iy neyron tarmoqlar (ANN), yoki ulanishchi tizimlari, noma'lum tarzda ilhomlangan hisoblash tizimlari biologik neyron tarmoqlari hayvonlarni tashkil qiladi miyalar. Bunday tizimlar, odatda, biron bir vazifaga xos qoidalar bilan dasturlashtirilmasdan, misollarni ko'rib chiqish orqali vazifalarni bajarishni "o'rganadi".


MNIST - ma'lumotlar bazasi ("o'zgartirilgan Milliy standartlar va texnologiyalar instituti" qisqartmasi) — qo'lda yozilgan raqamlar namunalarining katta hajmdagi ma'lumotlar bazasi. 
Ma'lumotlar bazasi AQSh milliy standartlar va texnologiyalar instituti tomonidan mashinani o'rganish orqali tasvirni aniqlash usullarini, birinchi navbatda, neyron tarmoqlarga  asoslangan holda kalibrlash va moslashtirish maqsadida taklif qilingan standartdir . 
Ma'lumotlar oldindan tayyorlangan namunaviy rasmlardan iborat bo'lib, ular asosida tizimlar o’qitiladi va sinovdan o’tkaziladi.  Ma'lumotlar bazasi NIST 20x20 pikselli qora va oq namunalarning asl to'plamini qayta ishlashdan so'ng yaratilgan. NIST ma'lumotlar bazasini yaratuvchilar, o'z navbatida, AQSh aholini ro'yxatga olish byurosidan namunalar to'plamidan foydalanganlar, unga Amerika universitetlari talabalari tomonidan yozilgan ko'proq test namunalari qo'shilgan. 
NIST to'plamidagi namunalar normallashtirildi, tekislashdan o'tdi va 28x28 pikselli kulrang yarim tonnali tasvirga keltirildi.
MNIST ma'lumotlar bazasida o'rganish uchun 60 000 ta rasm va sinov uchun 10 000 ta rasm mavjud. O'qitish va sinov namunalarining yarmi NIST o'quv to'plamidan, qolgan yarmi NIST test to'plamidan olingan.
Ilmiy adabiyotlarda muhokama qilingan mnist ma'lumotlar bazasi mashg'ulotlaridan so'ng minimal xatoga erishish uchun ko'plab urinishlar qilingan. Rekord natijalar konvolyutsion neyron tarmoqlardan foydalanishga bag'ishlangan nashrlarda qayd etildi, xato darajasi 0,23% ga etkazildi. Ma'lumotlar bazasini yaratuvchilarning o'zlari bir nechta sinov usullarini taqdim etdilar. Dastlabki ish shuni ko'rsatadiki, qo'llab-quvvatlovchi vektor usulidan foydalanish xato darajasi 0,8% ga etadi.
Ba'zi asarlarda bir nechta neyron tarmoqlaridan ansambllarda qurilgan tizimlarning yuqori natijalari qayd etilgan; shu bilan birga, mnist bazasi uchun raqamlarni aniqlash sifati inson darajasi bilan taqqoslanadi va boshqa tanib olish vazifalari, xususan, yo'l belgilari uchun — hatto ikki baravar yaxshi.
Yaratuvchilarning asl sahifalarida oldindan ishlov bermasdan oddiy chiziqli tasniflagichlardan foydalanishda 12% xatolar qayd etilgan.
2004 yilda Rosenblattning uch qavatli pertseptronidan foydalangan holda LIRA tizimi 0,42% xato darajasiga ega bo'ldi.
Tadqiqot tasodifiy buzilishlardan foydalangan holda MNIST tizimini o'qitish bo'yicha olib borildi. Buzilish sifatida afin yoki elastik o'zgarishlar kiritildi. Ba'zida bunday tizimlar yaxshi ko'rsatkichlarga erishgan,xususan, 0,39% xato darajasi haqida nashrlar mavjud.
2011 yilda neyron tarmoqlardan foydalanishda 0,27% xato darajasiga erishildi. 2013 yilda neyron tarmoqlarini tartibga solish (DropConnect ulanish uzilishlari orqali) yordamida 0,21% xatoga erishish haqida nashrlar paydo bo'ldi.
Keyinchalik bitta konvolyutsion neyron tarmog'ini qo'llash sifatni 0,31% xato darajasiga ko'tarishga imkon berdi. Yagona konvolyutsion neyron tarmog'idagi eng yaxshi natijani 74 ta ta'lim davridan keyin olingan tizim ko'rsatdi-0,27%. Biroq, beshta konvolyutsion neyron tarmoqlaridan iborat ansambl 0,21% xato darajasiga erishdi. 2018 yilda Random Multimodel Deep Learning (RMDL) dan foydalangan tadqiqotchilar 0,18 foiz xato haqida xabar berishdi va oldingi eng yaxshi natijani yaxshiladilar: yangi ansambl, tasniflash uchun chuqur o'rganish usuli.