Книга представляет собой введение в основные понятия, методы и ал

Элементарные методы и алгоритмы машинного обучения 16

1. 
   Линейно разделимые выборки 16
   
2. 
   Алгоритм обучения Розенблатта 19
   
   1. 
      Описание алгоритма обучения Розенблатта 20
      
   2. 
      Завершаемость алгоритма Розенблатта 21
      
   3. 
      Модификации алгоритма Розенблатта 23
      
3. 
   Метод градиентного спуска 23
   
   1. 
      Понятие градиентного спуска 23
      
   2. 
      Описание метода градиентного спуска 24
      
   3. 
      Модификации метода градиентного спуска 27
      

Метод стохастического градиента 27
Регуляризация 28

4. 
   Метод обратного распространения ошибки для обучения нейронных сетей 29
   
   1. 
      Идея метода 29
      
   2. 
      Описание метода 30
      
   3. 
      Достоинства и недостатки метода 32
      
5. 
   Метод опорных векторов 33
   
   1. 
      Оптимальность аппроксимирующих функций 33
      
   2. 
      Построение оптимальной разделяющей гиперплос- кости для строго линейно разделимой выборки 35
      

Описание задачи 35
Метод решения оптимизационной задачи 37
Применение метода 44

3. 
   Построение оптимальной разделяющей гиперплос- кости по зашумленной выборке 47
   
1. 
   Ядерный метод машинного обучения 51
   
   1. 
      Спрямляющие пространства 51
      
   2. 
      Примеры ядер 55
      
   3. 
      Каноническое гильбертово пространство, определя-
      

емое ядром 57

7. 
   Задача регрессии 60
   
   1. 
      Линейная регрессия 60
      
8. 
   Метрическая модель обучения 63
   
   1. 
      Понятие метрики 63
      
   2. 
      Метод ближайших соседей 64
      
   3. 
      Метод окна Парзена 65
      
   4. 
      Метод потенциалов 66
      
   5. 
      Метод эталонов 67
      
9. 
   Вероятностные модели обучения 68
   
   1. 
      Дискретная вероятностная модель обучения 68
      
   2. 
      Оптимальные аппроксимирующие функции 69
      
   3. 
      Построение АФ по обучающей выборке 72
      
   4. 
      Непрерывная вероятностная модель обучения 72
      
   5. 
      EM-алгоритм 76
      

Число компонентов смеси известно 77
Число компонентов смеси неизвестно 79

Глава 1