機器學習中應用數學應該要注意的幾點注記

2474220 2018-11-16 | rar | 0.21 MB | 次下載 | 免費

資料介紹

　　本章討論的主題是我覺得在應用機器學習（和其他地方）中經常假設的，但是很少詳細解釋。這項工作是針對學生誰采取了一些線性方法和分析的課程，但誰想看到一些技巧使用的研究人員討論更詳細一些。這里描述的數學只是一般機器學習中使用的數學的一小部分（例如，機器學習理論的處理將包括基本泛化誤差邊界的數學）下游經常使用EST。我包括兩種作業，‘練習’和‘謎題’。練習開始時很容易，反之亦然；這些謎題是帶有一點馬基雅維利惡作劇的練習。

　　符號：矢量以粗體顯示，矢量分量和矩陣以普通字體顯示，因此例如v（a）i表示第a矢量v（a）的第i分量。符號A:0（）表示矩陣A為正（半）定。矩陣A的轉置表示為，而向量X的轉置表示X：。

　　假設您希望最小化某個函數f（x），x*Rd，受約束C（x）＝0。一種直接的方法是找到約束的參數化，使得用那些參數表示的f成為無約束函數。例如，如果c（x）=x:A x_1，x∈Rd，如果A:0，則可以旋轉到坐標系并重新定標以對角化約束為形式y:y=1，然后用編碼y在（d_1）球體上的約束的參數化替換。充足的

　　Y1＝正弦1正弦Sn 2···辛釷d 2正弦Sd D 1

　　Y2＝Sin Th 1 Sin Th 2···Sin Th D＝2 CoS Th D D 1

　　Y3＝正弦1正弦Sn 2···CoS Th D＝2

　　·····

　　不幸的是，對于一般約束（例如，當c是d變量中的一般多項式時）這是不可能的，并且即使如此，上面的示例表明事情可以很快變得復雜。幾何學