機器學習是一門多領域交叉學科，涉及概率論、統計學、逼近論、凸分析、算法復雜度理論等多門學科。專門研究計算機怎樣模擬或實現人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的性能。

它是人工智能的核心，是使計算機具有智能的根本途徑，其應用遍及人工智能的各個領域，它主要使用歸納、綜合而不是演繹。

機器學習是在1990年被提出來，比人工智能（AL）晚了35年。機器學習讓我們通過算法來解決一些復雜的問題。正如人工智能先驅 Arthur Samuel 在 1959 中寫道的那樣，機器學習是需要研究的領域，它給計算機學習的能力而不是明確地編程能力。

大多數機器學習的目標是為特定場景開發預測引擎。一個算法將接收到一個域的信息。舉個例子：一個人過去觀看過的電影，權衡輸入做出一個有用的預測（未來想看的不同電影的概率）。

通過計算機學習的能力，通過優化任務衡量變量的可用數據，做出算法，來對未來做出準確的預測。機器通過訓練學習。算法最初接收其輸出是已知的示例，此時要注意其預測和正確輸出之間的差異，并且調諧輸入的權重以提高其預測的準確性，直到它們被優化。

因此，機器學習算法的定義特征是：它們的預測的質量會緊隨著它的經驗來不斷地改進。