Ўзбекистон республикаси олий ва ўрта махсус таълим вазирлиги коракалпак давлат университети “технология” кафедраси

Градиент усули.

Мақсад функциясининг оптимумини топишнинг бу усулида мақсад функциянинг градиентидан фойдаланилади. Бунда қидирув қадами мақсад функциясининг энг тез ўзгарувчи йўналишида қўйилади, бу эса албатта оптимумни топиш жараёнини тезлаштиради.

қидирувнинг биринчи босқичида, Хамма ўзгарувчилар бўйича Хосилалар Хисоблаб чиқилиб, шу нуқтада функция градиентининг қиймати ва йўналиши топилади. Иккинчи босқичида, агар мақсад функциясининг минимумини қидирилаётган бўлса, градиент йўналишига тескари йўналишда қидириш қадами қўйилади, яъни функциянинг энг тез камайиши йўналишида.
қидириш қадамидан сўнг, Хамма ўқ йўналишлар бўйича параметрларнинг қиймати ўзгаради. Яъни, улардан Хар бири градиент қийматларидаги Хиссасига пропорционал равишда ўсади.
Худди релаксация усулига ўхшаб, Хамма ўқ йўналишлар бўйича Хосилалар Хисобланади, лекин бу усулда оптимумга оптимал яқинлашиб борилади.
Градиент усули алгоритмини қуйидагича ёзиш мумкин:


К (_х(к ))
 _{x j
Х} (k+1)_{қ Х} (k)_-h(k)
j j
Баъзи бир Холларда қидириш қуйидаги алгоритм бўйича амалга оширилади:

j
( К )
 R(x ^{( R )} )

j j
_x ( R1) _{ x} ( R) _



j
Бу ерда, қидириш қадами  x ^{( R )
h}  x

j
( К )
 R(x ^{( R )} )

j
_{ x} ( R ) _қ
^h  x ^;

Бу алгоритм бўйича, қидириш қадами катталиги функция градиенти абсолют қийматини ўзгариш бўйича автоматик ўзгариб боради.
Бу усулда, хар қадамдан сўнг мақсад функциясининг хосилалари Хамма ўқ йўналиши бўйича аниқланади, яъни функция градиенти энг тез ўзгариш йўналиши аниқланади ва шу йўналишда қидириш давом эттирилади .
(35-расмда чизик билан курсатилган).

35-расм.
Агар қидириш қадамининг бошланғич қиймати кичик бўлса, унда мақсад функцияси хосилаларининг жуда кўп маротаба Хисоблашга тўғри келади, аксинча, қадам катта бўлса, функция оптимум атрофида қидиришда «ивирсиланиш»(рўскание) бўлиши мумкин.
Функция градиенти фақат қиймати Хисобланган нуқтага ортогонал бўлиб, шунинг учун Хар қадамдан кейин функция градиенти йўналиши аввалгисидан фарқли бўлади. Шунинг учун Хар қадамдан сўнг қидириш йўналиши Хисобланган функция градиенти йўналиши бўйича танланади.
Оптимумни қидиришни якунланганлигини, мақсад функциясини қийматларини солиштириш бўйича аниқланади. Агар мақсад функцияси қиймати аввалги қадамдагидан кичик бўлса (агар мақсад функциясининг минимуми қидирилаётган бўлса), унда қидирув давом эттирилади, агар тескари бўлса, унда қидирув тўхтатилади ва олинган мақсад функциясининг энг кичик қиймати қидирилаётган оптимум деб қабул қилинади.
Камчилиги: локал оптимумга «тортилиш» хусусиятининг борлиги.