Fan: Ma'lumotlar kommunikatsiyasi

SVM va oshiq zarar
Eslatib o'tamiz, (soft-margin) SVM klassifikatori {\displaystyle {\hat {\mathbf {v}}, b:\mathbf {x} \ mapsto \operatorname {sgn} ({\hat {\mathbf {v}}} ^{\mathsf {T}}\mathbf {x}- b)} {\displaystyle {\hat {\mathbf {v}}, b:\mathbf {x} \ mapsto \operatorname {sgn} ({\hat {\mathbf {v} }}^{\mathsf {T}}\mathbf {x} -b)} quyidagi ifodani minimallashtirish uchun tanlangan:
{\displaystyle \left [{\frac {1}{n}}\sum _{i=1}^{n}\max \left(0,1-Y_{i}(\mathbf {v} ^{\mathsf {T}}\mathbf {x} - b) \right)\right]+\lambda \|\mathbf {v} \|^{2}.} {\displaystyle \left [{\frac {1}{n}}\sum _{i=1}^{n}\max \left(0,1-Y_{i}(\mathbf {v} ^{\mathsf {T}}\mathbf {x} -b)\right)\right]+\lambda \|\mathbf {Vt} \|^{2}.}
Yuqoridagi munozarani hisobga olgan holda, biz SVM texnikasi Tixonov regulyatsiyasi bilan empirik xavfni minimallashtirishga teng ekanligini ko'ramiz, bu erda bu holda yo'qotish funktsiyasi mentli yo'qotishdir

{\displaystyle \ell(y,z)=\max \left (0,1-yz\right).} {\displaystyle \ell(y,z)=\max \left (0,1-yz\right).}

Shu nuqtai nazardan, SVM boshqa asosiy tasniflash algoritmlari bilan chambarchas bog'liq muntazam ravishda kichik kvadratchalar va logistik regressiya. Uch orasidagi farq zarar funktsiyasi tanlash yotadi: regularized kamida-kvadrat kvadrat-zarar bilan empirik xavf minimallashtirish uchun tashkil, {\displaystyle \ell _{sq}(y,z)=(y-z)^{2}}\ell _{sq}(y, z) = (y-z)^{2}; logistika tushish log-zarar ish bilan ta'minlangan,

{\displaystyle \ell _ {\log }(y,z)=\ln(1+e^{-yz}).} {\displaystyle \ell _ {\log }(y,z)=\ln(1+e^{-yz}).}

Maqsad vazifalari
Oshiq halok va bu boshqa zarar vazifalari o'rtasidagi farq eng yaxshi maqsad vazifalari jihatidan etilsin-tasodifiy o'zgaruvchilar berilgan juft uchun kutilgan xavfini kamaytirish imkonini beradi funktsiyasi {\displaystyle X,\, y}{\displaystyle X,\, y}.

Xususan, {\displaystyle y_{x}}Y_{x} {\displaystyle y}y hodisani shartli ravishda {\displaystyle X=x}x = x deb belgilasin. tasniflash sozlamasida bizda:

{\displaystyle y_{x}={\begin{holatlar}1 & {\text{ehtimollik bilan }}p_{x}\ \ -1 & {\text{ehtimollik bilan}} 1-p_{x}\end{holatlar}}} {\displaystyle y_{x}={\begin{holatlar}1 & {\text{ehtimollik bilan }}p_{x}\\-1 & {\text{ehtimollik bilan}} 1-p_{x}\end{holatlar}}}