Практика концепция логистической регрессии и ее применение в машинном обучении. Линейная алгебра для машинного обучения. Программирование задач линейной алгебры. Обычно алгоритмы машинного обучения разделяют на категории

Линейная алгебра для машинного обучения.

Линейная алгебра в Data Science и Machine Learning является основополагающей. Новички, начинающие свой путь обучения в области Data Science, а также признанные практики должны развить хорошее понимание основных понятий линейной алгебры.

Специально к новому старту курса математика и Machine Learning для Data Science делимся переводом статьи Бенджамина Оби Тайо — физика, кандидата наук и преподавателя Data Science — о том, что нужно знать, чтобы лучше понимать Data Science и Machine Learning.
Линейная алгебра — это раздел математики, который чрезвычайно полезен в Data Science и машинном обучении. Владение линейной алгеброй — это также самый важный математический навык в машинном обучении. Большинство моделей машинного обучения могут быть выражены в матричном виде. Сам набор данных часто представляется в виде матрицы. Линейная алгебра используется при предварительной обработке данных, в преобразовании данных и оценке моделей. Вот темы, с которыми вы должны быть знакомы:

• 
  Векторы.
  
• 
  Матрицы.
  
• 
  Транспонирование матрицы.
  
• 
  Обратная матрица.
  
• 
  Определитель матрицы.
  
• 
  След матрицы.
  
• 
  Скалярное произведение.
  
• 
  Собственные значения.
  
• 
  Собственные векторы.
  

Импорт необходимых библиотек линейной алгебры

import numpy as np
import pandas as pd
import pylab
import matplotlib.pyplot as plt
import seaborn as sns


Программирование задач линейной алгебры.
Линейная алгебра: основные понятия и формулы
Матрица – это система элементов (функций, чисел и др. величин), которые расположены в виде прямоугольной таблицы. Общий вид записи матрицы представлен ниже:

Произвольный элемент матрицы обозначается через a_ij (элемент i-й строки и j-го столбца). Тем, кто знаком с основами алгоритмизации и программирования, будет проще, если сравнить матрицу с двумерным массивом данных (в частном случае с одномерным массивом). Матрица имеет размерность, определяемую количеством строк и столбцов.
Основными действиями над матрицами являются:
сравнение (для матриц одинаковой размерности):

• 
  сложение и вычитание (для матриц одинаковой размерности):
  
  
• 
  умножение (количество столбцов первой матрицы равно количеству строк второй матрицы):
  

• 
  транспонирование:
  
  
• 
  обращение:
  
  

При нахождении обратной матрицы появляются определитель и алгебраические дополнения, подробнее о которых можно прочитать в любом учебнике по линейной алгебре.
Итак, зная перечисленные формулы, можно смело приступать к их применению, например, при решении СЛАУ вида:

где  — заданные числа, а x_j — неизвестные.

При решении систем линейных уравнений, как правило, используют следующие методы:

• 
  метод Крамера (или формулы Крамера);
  
• 
  метод Гаусса (реже метод Жордана-Гаусса);
  
• 
  метод обратной матрицы.
  

Метод Крамера основан на вычислении определителей матриц, название метода обратной матрицы говорит само за себя. Оба метода применяются в основном при решении систем двух (трех) уравнений с двумя (тремя) неизвестными, что связано с проблематичностью и громоздкостью вычислений определителей и обратных матриц размерности больше трех.
В отличие от предыдущих методов метод Гаусса достаточно легко применяется и для систем с большим числом неизвестных.
В данной статье не будем рассматривать теорию перечисленных методов, а представление о них дадим на соответствующих примерах.