MIT座右銘是“Mens et Manus”：理論、實(shí)踐兩手抓，兩手都要硬。MIT的課程設(shè)置也秉承了動(dòng)腦更要?jiǎng)邮值脑瓌t，具有很高的實(shí)操性。今天我們向大家介紹一門MIT新課6.S191：深入“深度學(xué)習(xí)”。

MIT官方座右銘是“Mens et Manus”：理論、實(shí)踐兩手抓，兩手都要硬。MIT的課程設(shè)置也秉承了動(dòng)腦更要?jiǎng)邮值脑瓌t，具有很高的實(shí)操性。

6.S191：深入”深度學(xué)習(xí)“是MIT正式提供的入門課程，已在其課程網(wǎng)站上開(kāi)源。

該課程共9課時(shí)，全免費(fèi)。包括一系列關(guān)于神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí)的基礎(chǔ)講座及其在序列建模、計(jì)算機(jī)視覺(jué)、生成模型和強(qiáng)化學(xué)習(xí)中的應(yīng)用。

視頻、代碼等資源下載地址見(jiàn)文末。

課程視頻截圖

課程簡(jiǎn)介

理論部分主要是線下講座。MIT將線下講座錄制成視頻并放在了YouTube上，供大家隨意觀看。

講座內(nèi)容會(huì)從神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)知識(shí)開(kāi)始，然后講到完全連接的網(wǎng)絡(luò)和反向傳播算法; 再到通過(guò)循環(huán)和卷積神經(jīng)網(wǎng)絡(luò)，生成模型和深度強(qiáng)化學(xué)習(xí)的旅程; 并探索現(xiàn)代深度學(xué)習(xí)研究不斷擴(kuò)大的前沿等等。

而實(shí)踐部分，MIT設(shè)計(jì)了三個(gè)開(kāi)源、交互的TensorFlow軟件lab，涵蓋了TensorFlow的基礎(chǔ)知識(shí)。例如，用于音樂(lè)生成的復(fù)現(xiàn)神經(jīng)網(wǎng)絡(luò)模型、計(jì)算機(jī)視覺(jué)、消除偏見(jiàn)的面部識(shí)別系統(tǒng)和深度強(qiáng)化學(xué)習(xí)。

lab運(yùn)行在谷歌的Colaboratory環(huán)境中，只需要你有一個(gè)谷歌賬戶即可。互動(dòng)部分包括一部分“TODO”代碼塊，供你來(lái)完成。MIT將指導(dǎo)學(xué)生如何使用TensorFlow的Keras API及其新的命令執(zhí)行風(fēng)格，來(lái)定義和訓(xùn)練深度學(xué)習(xí)模型。

接下來(lái)，我們來(lái)分別介紹一下這3個(gè)lab：

Lab介紹

Lab 1：介紹TensorFlow及音樂(lè)生成

第1講側(cè)重于神經(jīng)網(wǎng)絡(luò)基礎(chǔ)。因此lab 1中的第一個(gè)模塊簡(jiǎn)單介紹了TensorFlow，為即將發(fā)布的TensorFlow 2.0做準(zhǔn)備。

TensorFlow練習(xí)的介紹中，特別強(qiáng)調(diào)了幾個(gè)關(guān)鍵概念：如何使用數(shù)學(xué)運(yùn)算符執(zhí)行計(jì)算；如何定義神經(jīng)網(wǎng)絡(luò)模型；以及如何使用自動(dòng)微分來(lái)訓(xùn)練具有反向傳播的網(wǎng)絡(luò)。

lab 1的第二個(gè)模塊直接進(jìn)入構(gòu)建和RNN進(jìn)行音樂(lè)生成，旨在配合第2講深度序列建模。

通過(guò)第二模塊，你將能夠構(gòu)建一個(gè)人工智能算法，生成全新的、從未聽(tīng)過(guò)的愛(ài)爾蘭民歌。為什么愛(ài)爾蘭民間音樂(lè)不是二人轉(zhuǎn)啥的呢？因?yàn)檎n程設(shè)計(jì)者特別喜歡下面這個(gè)萌萌噠?谷歌Doodle。動(dòng)圖中的幾個(gè)?們正在表演傳統(tǒng)的愛(ài)爾蘭民歌。

通過(guò)填寫代碼塊以定義RNN模型，使用愛(ài)爾蘭民歌的數(shù)據(jù)集（在ABC表示法中）訓(xùn)練模型，使用學(xué)習(xí)的模型生成新歌曲，然后播放生成的內(nèi)容來(lái)檢驗(yàn)?zāi)愕哪Ｐ偷某晒绾巍?/p>

下面是一段示例音樂(lè)：

Lab 2：計(jì)算機(jī)視覺(jué)：消除偏見(jiàn)的面部檢測(cè)系統(tǒng)

Lab 2伴隨著深度計(jì)算機(jī)視覺(jué)和深度生成模型的講座。

第1部分通過(guò)卷積神經(jīng)網(wǎng)絡(luò)（CNN）的示例提供了對(duì)基本神經(jīng)網(wǎng)絡(luò)架構(gòu)的實(shí)現(xiàn)的持續(xù)實(shí)踐，用于對(duì)著名的MNIST數(shù)據(jù)集中的手寫數(shù)字進(jìn)行分類。

第2部分更進(jìn)一步，探討了應(yīng)用深度學(xué)習(xí)的兩個(gè)突出例子：面部檢測(cè)和算法偏見(jiàn)。

盡管神經(jīng)網(wǎng)絡(luò)在識(shí)別圖像中的面部識(shí)別的消除偏見(jiàn)方面表現(xiàn)非常出色，但最近有很多人關(guān)注這些人工智能會(huì)遭受隱藏的算法偏見(jiàn)。事實(shí)證明，深度學(xué)習(xí)本身可以幫助對(duì)抗這種偏見(jiàn)。

MIT基于變分自動(dòng)編碼器（VAE）訓(xùn)練了一個(gè)模型，該模型學(xué)習(xí)特定任務(wù)，如面部檢測(cè)、以及訓(xùn)練數(shù)據(jù)的基礎(chǔ)結(jié)構(gòu)。

反過(guò)來(lái)，該算法使用這種學(xué)習(xí)的潛在結(jié)構(gòu)，來(lái)揭示隱藏的偏見(jiàn)，并將其影響降低至最小化。

當(dāng)應(yīng)用于面部檢測(cè)任務(wù)時(shí)，與最先進(jìn)的模型相比，MIT的算法降低了分類偏見(jiàn)并保持了非常高的整體準(zhǔn)確性。

這個(gè)軟件lab將教會(huì)你如何構(gòu)建這個(gè)去除模型，并評(píng)估其在消除面部檢測(cè)任務(wù)方面的功效。

除了考慮算法偏見(jiàn)及如何對(duì)抗之外，你還將獲得VAE的實(shí)操經(jīng)驗(yàn)，這種架構(gòu)通常不會(huì)在深度學(xué)習(xí)實(shí)施教程中突出顯示。

更重要的是，這種方法可以應(yīng)用于面部檢測(cè)以外的任何環(huán)境！

下面是一段示例代碼：

Lab 3：無(wú)模型強(qiáng)化學(xué)習(xí)

這個(gè)lab開(kāi)始，你講接觸到深層強(qiáng)化學(xué)習(xí)的基礎(chǔ)技巧。

與之前專注于監(jiān)督和無(wú)監(jiān)督學(xué)習(xí)的lab相比，強(qiáng)化學(xué)習(xí)旨在教會(huì)代理人如何在世界上行動(dòng)以最大化自己的獎(jiǎng)勵(lì)。

Tensorflow的強(qiáng)制執(zhí)行為RL提供了一種簡(jiǎn)化的方法，你可以在lab 3中，從頭開(kāi)始完整的編寫一段程序。

我們專注于學(xué)習(xí)兩個(gè)任務(wù)：控制（例如Cart-Pole）和游戲（例如Pong）。MIT會(huì)分配學(xué)生一個(gè)任務(wù)：建立一個(gè)模塊化的RL框架，只使用一個(gè)“RL大腦”來(lái)學(xué)習(xí)這兩個(gè)截然不同的環(huán)境。

處理這些基線環(huán)境為學(xué)生提供了迅速掌握快速創(chuàng)建新算法原型的方法。學(xué)生們最終能夠具體了解如何實(shí)施RL培訓(xùn)程序，并將這些想法用作最終項(xiàng)目中的模板。