Rasmiy tavsif

Kirish

Ta'limning maqsadi tushunish va bashorat qilishdir. Ta'lim ko'plab toifalarga kiradi, shu jumladan nazorat ostida o'rganish, nazoratsiz o'rganish, onlayn o'rganish va mustahkamlashni o'rganish. Statistik ta'lim nazariyasi nuqtai nazaridan nazorat ostida o'rganish eng yaxshi tushuniladi.^[3] Nazorat ostida o'rganish a dan o'rganishni o'z ichiga oladi o'quv to'plami ma'lumotlar. Treningning har bir nuqtasi kirish-chiqish juftligi bo'lib, u erda kirish natijani xaritaga keltiradi. Ta'lim muammosi kirish va chiqish o'rtasidagi xaritani belgilaydigan funktsiyani xulosa qilishdan iborat bo'lib, o'rganilgan funktsiya yordamida kelajakdagi kirish natijalarini taxmin qilish mumkin.
Natija turiga qarab, nazorat ostidagi o'quv muammolari ham muammo hisoblanadi regressiya yoki muammolari tasnif. Agar chiqishda uzluksiz qiymatlar oralig'i bo'lsa, bu regressiya muammosi. Foydalanish Ohm qonuni Masalan, regressiya kuchlanish bilan kirish va oqim sifatida chiqish bilan amalga oshirilishi mumkin. Regressiya kuchlanish va oqim o'rtasidagi funktsional munosabatni topadi  , shu kabi

Tasniflash muammolari - bu diskret yorliqlar to'plamining elementi bo'lgan muammolar. Mashinada o'qitish dasturlari uchun tasnif juda keng tarqalgan. Yilda yuzni aniqlash Masalan, odamning yuzi tasviri kirish, chiqish yorlig'i esa o'sha kishining ismi bo'lishi mumkin. Kirish elementlari rasmdagi piksellarni aks ettiruvchi katta ko'p o'lchovli vektor bilan ifodalanadi.
O'quv majmuasi ma'lumotlariga asoslangan funktsiyani o'rganib chiqqandan so'ng, ushbu funktsiya testlar to'plamida, o'quv majmuasida ko'rinmagan ma'lumotlarda tasdiqlanadi.

Rasmiy tavsif

Qabul qiling  bo'lish vektor maydoni barcha mumkin bo'lgan ma'lumotlar va  barcha mumkin bo'lgan natijalarning vektor makonini birlashtirish uchun. Statistik ta'lim nazariyasi ba'zi noma'lum narsalar borligi nuqtai nazarini oladi ehtimollik taqsimoti mahsulot maydonida  , ya'ni noma'lum narsalar mavjud  . Mashg'ulotlar to'plami tarkib topgan  ushbu ehtimollik taqsimotidan namunalar va qayd etilgan

Har bir  bu o'quv ma'lumotlaridan kirish vektori va  unga mos keladigan chiqishdir.
Ushbu formalizmda xulosa chiqarish muammosi funktsiyani topishdan iborat  shu kabi  . Ruxsat bering  funktsiyalar maydoni bo'lishi  gipoteza maydoni deb nomlangan. Gipoteza maydoni bu algoritm qidiradigan funktsiyalar maydonidir. Ruxsat bering  bo'lishi yo'qotish funktsiyasi, bashorat qilingan qiymat o'rtasidagi farq metrikasi  va haqiqiy qiymati  . The kutilayotgan xavf deb belgilangan

Maqsad funktsiyasi, mumkin bo'lgan eng yaxshi funktsiya  belgilash mumkin bo'lgan, tomonidan berilgan  bu qondiradi

Ehtimollar taqsimoti  noma'lum, kutilayotgan xavf uchun aproksiya o'lchovidan foydalanish kerak. Ushbu chora mashg'ulotlar to'plamiga, ushbu noma'lum ehtimollik taqsimotidan namunaga asoslangan. Bunga deyiladi empirik xavf

Funktsiyani tanlaydigan o'quv algoritmi  bu empirik xavfni minimallashtirish deb ataladi xatarlarni empirik minimallashtirish.