Машинное обучение вики
Advertisement

Постановки задач[]

  • Метод K ближайших соседей
 
 
 Требуется классифицировать объект 
 Упорядочим объекты из обучающей выборки относительно  
 
 
  Метод ближайших соседей (kNN)
  • Логистическая регрессия с L1, L2 регуляризацией
 

 L2 регуляризация:

 L1 регуляризация:

 Логистическая регрессия
  • Дерево решений
 Бинарное решающее дерево – алгоритм классификации, задающийся бинарным деревом:

1-0.png

 1) 
 2) 
Решающее дерево (Decision tree)
  • Метод опорных векторов
 Двойственная задача 
 
 Численное решение: 
 
 Двойственная задача: нелинейное обобщение 
 
 
 Метод опорных векторов (Support vector machine) 
  • Байесовское правило классификации
 
 N – число объектов.
 D –  размерность признакового пространства.
 Ядерное сглаживание (Метод Парзеновского окна):
 
 
 Ядерное сглаживание для оценки плотности
 
 Гауссов классификатор:
 
  – матрица ковариации.
  – вектор математических ожиданий.
  Гауссов классификатор
Advertisement