決策樹學習是應用最廣的歸納推理算法之一。它是一種逼近離散函數的方法，且對噪聲數據有很好的魯棒性，能夠學習析取表達式。本章描述了一系列決策樹學習算法，包括象ID3、ASSISTANT和C4.5這樣廣為應用的算法。這些決策樹學習方法搜索完整表示的假設空間，從而避免了受限假設空間的不足。決策樹學習的歸納偏置是優先選擇較小的樹。

　概念學習和一般到特殊序從特殊的訓練樣例中歸納出一般函數是機器學習的中心問題。本章介紹概念學習：給定某一類別的若干正例和反例，從中獲得該類別的一般定義。概念學習也可被看作一個搜索問題，它在預定義的假設空間中搜索假設，使其與訓練樣例有最佳的擬合度。

本書針對機器學習這個領域，描述了多種學習范型、算法、理論以及應用。機器學習從本質上是一個多學科的領域。它吸取了人工智能、概率統計、計算復雜性理論、控制論、信息論、哲學、生理學、神經生物學等學科的成果。表1-2歸納了這些學科中影響機器學習的關鍵思想。本書的素材基于不同學科的成果，然而讀者不必精通每一個學科。來自這些學科的關鍵理論將使用非專業的詞匯講解，其中不熟悉的術語和概念會在需要時加以介紹。

概念：數據挖掘是從大量的數據中，抽取出潛在的、有價值的知識（模型或規則）的過程