决策树算法的PPT与实现代码

包括讲解决策树算法的PPT与用python实现的能够正常运行的代码。

import numpy as np
import matplotlib.pyplot as plt
from matplotlib.colors import ListedColormap
from sklearn import tree datasets
from sklearn.model_selection import train_test_split

wine = datasets.load_wine（）
X = wine.data[::2]
y = wine.target
X_train X_test y_train y_test = train_test_split（Xy）

# #max_depth=1
clf = tree.DecisionTreeClassifier（max_depth=1）
clf.fit（X_trainy_train）

clf.score（X_test y_test）


#定义图像中分区的颜色和散点的颜色
cmap_light = ListedColormap（[‘#FFAAAA‘ ‘#AAFFAA‘ ‘#AAAAFF‘]）
cmap_bold = ListedColormap（[‘#FF0000‘ ‘#00FF00‘ ‘#0000FF‘]）

#分别用样本的两个特征值创建图像和横轴和纵轴
x_min x_max = X_train[: 0].min（） - 1 X_train[: 0].max（） + 1
y_min y_max = X_train[: 1].min（） - 1 X_train[: 1].max（） + 1
xx yy = np.meshgrid（np.arange（x_min x_max .02）
                     np.arange（y_min y_max .02））
Z = clf.predict（np.c_[xx.ravel（） yy.ravel（）]）

#给每个分类中的样本分配不同的颜色
Z = Z.reshape（xx.shape）
plt.figure（）
plt.pcolormesh（xx yy Z cmap=cmap_light）

#用散点把样本表示出来
plt.scatter（X[: 0] X[: 1] c=y cmap=cmap_bold edgecolor=‘k‘ s=20）
plt.xlim（xx.min（） xx.max（））
plt.ylim（yy.min（） yy.max（））
plt.title（“Classifier:（max_depth = 1）“）
plt.show（）

# #max_depth=3
clf2 = tree.DecisionTreeClassifier（max_depth=3）
clf2.fit（X_trainy_train）
clf2.score（X_test y_test）


#定义图像中分区的颜色和散点的颜色
cmap_light = ListedColormap（[‘#FFAAAA‘ ‘#AAFFAA‘ ‘#AAAAFF‘]）
cmap_bold = ListedColormap（[‘#FF0000‘ ‘#00FF00‘ ‘#0000FF‘]）

#分别用样本的两个特征值创建图像和横轴和纵轴
x_min x_max = X_train[: 0].min（） - 1 X_train[: 0].max（） + 1
y_min y_max = X_train[: 1].min（） - 1 X_train[: 1].max（） + 1
xx yy = np.meshgrid（np.arange（x_min x_max .02）
                     np.arange（y_min y_max .02））
Z = clf2.predict（np.c_[xx.ravel（） yy.ravel（）]）

#给每个分类中的样本分配不同的颜色
Z = Z.reshape（xx.shape）
plt.figure（）
plt.pcolormesh（xx yy Z cmap=cmap_light）

#用散点把样本表示出来
plt.scatter（X[: 0] X[: 1] c=y cmap=cmap_bold edgecolor=‘k‘ s=20）
plt.xlim（xx.min（） xx.max（））
plt.ylim（yy.min（） yy.max（））
plt.title（“Classifier:（max_depth = 3）“）

plt.show（）

# #max_depth=5
clf3 = tree.DecisionTreeClassifier（max_depth=5）
clf3.fit（X_trainy_train）
clf3.score（X_test y_test）

#定义图像中分区的颜色和散点的颜色
cmap_light = ListedColormap（[‘#FFAAAA‘ ‘#AAFFAA‘ ‘#AAAAFF‘]）
cmap_bold = ListedColormap（[‘#FF0000‘ ‘#00FF00‘ ‘#0000FF‘]）

#分别用样本的两个特征值创建图像和横轴和纵轴
x_min x_max = X_train[: 0].min（） - 1 X_train[: 0].max（） + 1
y_min y_max = X_train[: 1].min（） - 1 X_train[: 1].max（） + 1
xx yy = np.meshgrid（np.arange（x_min x_max .02）
                     np.arange（y_min y_max .02））
Z = clf3.predict（np.c_[xx.ravel（） yy.ravel（）]）

#给每个分类中的样本分配不同的颜色
Z = Z.reshape（xx.shape）
plt.figure（）
plt.pcolormesh（xx yy Z cmap=cmap_light）

#用散点把样本表示出来
plt.scatter（X[: 0] X[: 1] c=y cmap=cmap_bold edgecolor=‘k‘ s=20）
plt.xlim（xx.min（） xx.max（））
plt.ylim（yy.min（） yy.max（））
plt.title（“Classifier:（max_depth = 5）“）

plt.show（）



####################

 属性            大小     日期    时间   名称
----------- ---------  ---------- -----  ----
     目录           0  2019-06-11 20:59  4 决策树\
     目录           0  2019-06-11 11:39  4 决策树\.ipynb_checkpoints\
     文件      171990  2019-05-10 09:28  4 决策树\.ipynb_checkpoints\4.Tree-checkpoint.ipynb
     文件      171964  2019-05-10 09:27  4 决策树\.ipynb_checkpoints\Ch6-checkpoint.ipynb
     文件      171990  2019-05-10 15:27  4 决策树\4.Tree.ipynb
     文件     2600551  2019-05-10 12:28  4 决策树\4.pptx
     文件          89  2019-05-06 02:20  4 决策树\Index of -ml-machine-learning-databases-adult.url
     文件        6610  2019-05-06 02:23  4 决策树\Tree.py
     目录           0  2019-06-11 11:39  4 决策树\data\
     文件     3974305  2019-05-06 02:23  4 决策树\data\adult.data
     文件        5229  2019-05-06 02:21  4 决策树\data\adult.names
     文件     2003153  2019-05-06 02:21  4 决策树\data\adult.test
     文件        1774  2019-05-10 09:26  4 决策树\wine.dot