Решающее дерево (Decision tree)

Это незавершённая статья Автор, вероятно, переобучился и отправился спать. Вы можете помочь, экстраполировав местную информацию.

Решающее дерево (Decision tree) - решение задачи обучения с учителем, основанный на том, как решает задачи прогнозирования человек.

Идея

немного Соколовщины и интуиции

Решающие правила

введение обозначений, пояснения

• $Q_{t}(x)=x^{i(t)}$
• $S_{t}(j)=\left\{h_{j}<=x^{i(t)}<=h_{j+1}\right\}$ для выбранных $h_{1}...h_{j+1}$
• $S_{t}(1)=\left\{(x,v)<=0\right\};S_{t}(2)=\left\{(x,v)>0\right\}$ - по сути проверка угла
• $S_{t}(1)=\left\{|x|<=h\right\};S_{t}(2)=\left\{|x|>h\right\}$

В целом, взять можно любые, но лучше - интерпретируемые, поскольку их легче настраивать.

CART-деревья

Реализация решающего дерева - за подробностями милости просим сюда.